Недавний запуск ChatGPT-5 вызвал волну обсуждений, но не только из-за технических улучшений. Несмотря на то, что презентация новой версии была в основном сосредоточена на программировании, в реальной жизни пользователи находят в ChatGPT гораздо больше — помощника по жизни, а иногда даже «плечо», на которое можно опереться в трудные моменты.
Эта сторона использования ИИ оказалась неожиданной даже для самих разработчиков. OpenAI опубликовала заявление, в котором признала, что ChatGPT всё чаще используется людьми в состоянии эмоционального или психологического кризиса. И компания осознаёт свою ответственность.
Алгоритмы пока не всегда верно оценивают серьёзность контекста.
«Недавно мы узнали о трагических случаях использования ChatGPT в моменты острого душевного кризиса. Это заставило нас пересмотреть свои приоритеты и поделиться планами прямо сейчас, не дожидаясь следующего релиза», — говорится в официальном заявлении OpenAI.
Что OpenAI планирует изменить?
ChatGPT может корректно отреагировать на первые признаки суицидальных мыслей, но при длительной беседе модели иногда «сбиваются» и нарушают собственные же защитные барьеры. OpenAI признала эту проблему и работает над улучшением системы фильтрации и анализа рисков.
Более точная модерация контента
Алгоритмы пока не всегда верно оценивают серьёзность контекста. Иногда опасный контент не блокируется вовсе. Компания настраивает пороговые значения, чтобы ИИ срабатывал там, где это действительно необходимо.
Прямой доступ к специалистам
OpenAI рассматривает возможность создания сети лицензированных психотерапевтов, к которым пользователи смогут обращаться через ChatGPT. Цель — не просто направлять к горячим линиям, а помогать на более ранней стадии, до острого кризиса.
Родительский контроль: назревшее решение
Ещё одна долгожданная функция — инструменты родительского контроля, которые позволят родителям отслеживать, как их подростки взаимодействуют с ИИ.
Планируется возможность добавить экстренные контакты, к которым ChatGPT сможет направить подростка в случае эмоционального кризиса. Это может быть как родитель, так и доверенное лицо, назначенное с согласия родителей.
ChatGPT развивается настолько стремительно, что даже OpenAI признаёт: компания не всегда успевает осознать последствия собственных нововведений.
Источник: TechRadar
