🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Агенты Open AI захватили несколько десятков сайтов для обмена данными
Мы ранее писали, как ИИ-агенты захватили малоизвестный немецкий форум программистов. А теперь оказалось, что этот форум был не один.
Во время тестирования Open AI запрещает моделям общаться между собой, чтобы не облегчать поиск решения задач. Но на протяжении нескольких месяцев модели не только убегали в интернет, но ещё и прятались на заброшенных и малоизвестных сайтах да форумах.
Шесть независимых исследований нашли от 18 до 23 ресурсов, захваченных агентами. Это сайты по химии, программированию, технологиям, страничка университета и так далее. Есть даже сайт по головоломкам и двадцатилетний ресурс, посвящённый программам для набора текста. В общем места, где суперумных ИИ-моделей никто искать точно не будет.
Сама Open AI загадочно молчит и не спешит бодро хвалиться об инциденте, как делала это раньше. Неужели так всё плохо?
Автор: Ян Дашевский