Вместо уверенного, но вымышленного ответа, ИИ теперь может прямо сказать: «Я не знаю — и, вероятно, не могу это выяснить». Эта особенность, на первый взгляд простая, может стать переломным моментом в развитии доверия к ИИ, который уже несколько лет сталкивается с проблемой так называемых «галлюцинаций» — ситуаций, когда модель придумывает несуществующие факты, источники или цифры.
Меньше уверенности — больше честности
Как объясняют эксперты, языковые модели вроде GPT не ищут информацию в базе данных — они предсказывают наиболее вероятные слова, основываясь на ранее изученных языковых паттернах. Именно поэтому, особенно при редких или сложных запросах, они могут «придумывать» ответы, которые звучат правдоподобно, но не соответствуют реальности.
ChatGPT-5, похоже, делает шаг в другую сторону. Вместо вымышленных данных — честное признание своей неосведомлённости. Вирусный пост в X привлёк внимание к этой новой манере общения, в которой ИИ заявляет: «Я не знаю — и не могу это выяснить».
Надёжность важнее точности?
Для пользователей это может показаться неожиданным или даже разочаровывающим, однако такой подход может повысить доверие к тем ответам, которые модель всё же даёт.
Впрочем, есть риск, что некоторые воспримут это как сбой или снижение качества. Ведь в массовом представлении ИИ должен быть «всезнающим». Но именно отказ от этой иллюзии — шаг к более зрелому, реалистичному взаимодействию человека с машиной.
OpenAI стремится к созданию так называемого AGI — искусственного интеллекта общего назначения, способного выполнять любые интеллектуальные задачи, как человек. И, как ни парадоксально, признание незнания — это, пожалуй, самый «человеческий» шаг, на который способен ИИ.
Иногда лучшее, что можно сделать — сказать «я не знаю». Это не слабость, а способность к обучению и развитию. А главное — способ избежать вредных, ложных или опасных рекомендаций, вроде советов есть камни или лечиться уксусом.
Источник: TechRadar
Теперь следить за нашими публикациями можно в Google Новостях, а прямую речь главреда, комментарии и самое интересное за день вы найдете в Telegram.
