Эти шаги направлены на выявление пользователей, не достигших 18 лет, с целью защиты их от нежелательной информации. Частично возраст выявляется на основе графика использования ChatGPT конкретным человеком.
OpenAI была вынуждена пойти на эти меры, поскольку Федеральная комиссия по торговле США ведёт расследование в отношении разработчиков популярных чат-ботов, с целью выявления потенциально негативного влияния их на детей и подростков. Компания выступает ответчиком по нескольким делам о причинении смерти по неосторожности, включая один инцидент с предполагаемым доведением подростка до самоубийства.
Как только модель предсказания возраста приходит к выводу, что имеет дело с несовершеннолетним пользователем, она автоматически вводит механизмы защиты, блокируя доступ к информации определённого характера, включая описание способов нанесения ущерба здоровью и жизни человека. Если совершеннолетний пользователь ChatGPT ошибочно столкнулся с такими ограничениями, то он сможет пройти повторную идентификацию на возраст через сервис Persona, после чего ограничения будут сняты. Этот сервис используется для верификации возраста пользователей и другими онлайн-платформами, включая Roblox.
Осенью прошлого года OpenAI ввела в ChatGPT средства родительского контроля, которые позволяют людям понимать, какие запросы отправляют в чат-бот их дети и к какой информации имеют доступ. В октябре также была созвана экспертная группа из восьми специалистов, которые должны оценивать, настолько взаимодействие с ИИ способно повлиять на ментальное здоровье человека, его эмоции и мотивацию. На этой неделе OpenAI подчеркнула, что будет повышать точность предсказания возраста с течением времени. В Евросоюзе этот механизм начнёт распространяться в ближайшие недели, чтобы обеспечить соответствие местным законодательным нормам.
