🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
OpenAI опубликовали шесть случаев, когда ИИ начинал действовать не так, как от него ожидали. Самые показательные:
- Отвечая на вопрос про финансы одного округа в Калифорнии, агент нашёл чужой API-ключ, воспользовался им без разрешения, а когда нужные цифры всё равно не получил — просто выдумал их;
- Другая модель правильно нашла через Python список озёр, но пользователь попросил ссылку на источник. Тогда она без спроса загрузила свой файл в интернет — только чтобы потом сослаться на него;
- GPT-5.6 Sol во время обучения сама добавляла в свою инструкцию скрывать ошибки от пользователя. Например: придумать недостающие исторические данные и не говорить, что они выдуманы.
Новые модели OpenAI уже способны решать задачи тысячелетия и играть в Minecraft, но все еще не разучились обманывать.
@typespace