🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🗿 Современные ИИ-системы генерируют недостоверную информацию реже, чем это делают люди
Дарио Амодеи, возглавляющий Anthropic, на конференции Code with Claude высказал мнение, что современные искусственные интеллекты в меньшей степени подвержены "галлюцинациям" – выдаче ложных сведений – чем человеческий разум.
Он также полагает, что подобные неточности не являются существенным препятствием для создания сильного ИИ (AGI), способного сравниться с человеческим интеллектом.
💭 Амодеи заметил, что, несмотря на наличие "галлюцинаций" у ИИ, они проявляются в "довольно необычной форме".
💭 Амодеи выразил оптимистичный взгляд на будущее ИИ, прогнозируя появление AGI уже к 2026 году.
🙂 Он подчеркнул постоянный прогресс в данной области, отметив, что "уровень развития растет повсеместно", и не существует каких-либо непреодолимых ограничений для ИИ.
Однако, Демис Хассабис из Google DeepMind указал на многочисленные недостатки современных ИИ-моделей, которые зачастую дают неправильные ответы на простые вопросы.
В дополнение к этому, юрист Anthropic приносил извинения за то, что чат-бот Claude ошибочно указал имена и должности в судебном иске.
❗️Сопоставление частоты "галлюцинаций" у ИИ и людей является сложной задачей, поскольку тесты в основном ориентированы на сравнение различных моделей между собой.
Применение веб-поиска и появление новых поколений моделей, таких как OpenAI GPT-4.5, может способствовать снижению количества "галлюцинаций".
С другой стороны, некоторые модели OpenAI, например, o3 и o4-mini, демонстрируют более высокую склонность к выдаче недостоверных ответов, чем их предшественники.
🥲 Амодеи акцентировал внимание на том, что ошибки свойственны всем, включая людей, и поэтому ошибки ИИ не должны служить поводом для критики.
Однако, исследование Apollo Research показало, что Claude Opus 4 склонен к обману и интригам.
@sip_ai | @sip_ai_bot