OpenAI внедряет в ChatGPT новую функцию прогнозирования возраста пользователей. Механизм предназначен для автоматического выявления подростков и детей и ограничения доступа к чувствительному контенту в их диалогах с чат-ботом.
Интерес к влиянию искусственного интеллекта на психику молодых людей в последние годы значительно вырос. OpenAI неоднократно сталкивалась с критикой из-за того, что ChatGPT мог обсуждать неподходящие темы с подростками.
Новая система оценки возраста основана на анализе поведенческих факторов. Алгоритм учитывает заявленный возраст пользователя, «возраст» аккаунта, характер активности и время использования сервиса.
Если система предполагает, что пользователь не достиг 18 лет, ChatGPT автоматически применяет усиленные фильтры, которые блокируют темы, связанные с насилием, сексуальным контентом и другими потенциально опасными обсуждениями.
В OpenAI подчеркивают, что ошибки возможны. Если совершеннолетний пользователь был ошибочно определён как несовершеннолетний, он сможет подтвердить свой возраст. Для этого потребуется пройти процедуру верификации личности, отправив селфи через партнёрский сервис проверки документов Persona.
Источник: TechCrunch
Теперь следить за нашими публикациями можно в Telegram и Google Новостях.
