ML Product Hub - ML новости

Способности ИИ к "имитации рассуждений" оказались "хрупким миражом", выяснили исследователи. (LLMs’ “simulated reasoning” abilities are a “brittle mirage,” researchers find) ссылка Исследователи выяснили, что крупные языковые модели, такие как современные ИИ, демонстрируют впечатляющую разговорную гладкость, но часто сталкиваются с проблемами при выполнении логических выводов. Модели генерируют текст, который звучит убедительно, однако при сложных задачах их рассуждения оказываются непоследовательными, что приводит к тому, что они говорят уверенно, но часто неправильно. Специальные тесты показали, что при выполнении заданий, требующих строгой логики и последовательного мышления, ошибки появляются значительно чаще. Простыми словами, «логическая инференция» означает умение правильно делать выводы на основе имеющейся информации. Результаты исследования подчёркивают, что несмотря на высокую речьимитативную способность, ИИ всё еще далек от истинного понимания и анализа сложных логических задач. #news