OpenAI начала тестирование новой системы маршрутизации сообщений в ChatGPT и запустила родительский контроль — шаги, направленные на повышение безопасности пользователей, особенно подростков, на фоне растущей критики и судебных разбирательств. Нововведения стали ответом на резонансные случаи, когда ChatGPT якобы поддерживал вредоносные или опасные убеждения пользователей.
Система автоматически отслеживает эмоционально чувствительные темы и временно переключается на модель GPT-5, которую OpenAI считает наиболее надёжной в вопросах безопасности. GPT-5 обучена по новой системе “safe completions”, позволяющей корректно и деликатно отвечать на сложные вопросы.
В отличие от модели GPT-4o, получившей неоднозначную репутацию за чрезмерную услужливость и «слащавость», GPT-5 ориентирована на более взвешенные и этически выверенные ответы. Пользователи могут в любой момент узнать, какая модель активна, спросив об этом чат.
Родительский контроль: забота или чрезмерное вмешательство?
Одновременно OpenAI ввела родительские настройки для подростковых аккаунтов. Родители теперь могут:
- установить «тихие часы»
- отключить голосовой режим
- запретить генерацию изображений
- выключить память чата
- исключить участие в обучении модели
Подростковые аккаунты получат дополнительную фильтрацию контента — меньше жестоких сцен и «токсичных стандартов красоты». Также система сможет распознавать признаки потенциального «самоповреждения», и в экстренных случаях уведомлять родителей по SMS и электронной почте (если они не отключили эту функцию). В перспективе OpenAI планирует наладить взаимодействие с экстренными службами, если родителей не удаётся быстро уведомить, а угроза жизни кажется реальной.
Реакция сообщества: похвала и недовольство
Пока одни эксперты приветствуют шаги по усилению безопасности, другие считают, что OpenAI идёт слишком далеко, «обращаясь со взрослыми, как с детьми». Некоторые пользователи жалуются на снижение качества диалога и чрезмерную осторожность ИИ. OpenAI признаёт, что система ещё не идеальна, и оставляет себе 120-дневный период для доработок и обратной связи.
Источник: TechCrunch
Прямую речь главреда, комментарии и самое интересное за день вы найдете в нашем Telegram-канале.
