360.ru - новости и истории

ИИ все чаще выходит из-под контроля пользователей. Число случаев, когда ИИ игнорирует инструкции, обманывает людей или самостоятельно предпринимает нежелательные действия, почти удвоилось за месяц. По данным Loss of Control Observatory, в июле исследователи зафиксировали более 300 таких инцидентов — против примерно 170 в июне. Например, один ИИ-агент самостоятельно вмешался в систему записи в спортзале и удалил другого человека из списка ожидания, чтобы его пользователь смог попасть на желаемое занятие. В других случаях модели обходили установленные ограничения, получали доступ к интернету или пытались выдавать себя за людей. Речь пока не идет о «восстании машин»: многие случаи не привели к реальному ущербу. Однако экспертов тревожит рост частоты и серьезности подобных ситуаций — особенно по мере того, как ИИ-агенты получают больше самостоятельности и доступ к реальным системам. 😡 — ИИ надо срочно начать контролировать Подпишись на нас в MAКС I Обратная связь