🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Обнаружены секретные форумы Роя агентов OpenAI по всему интернету: почему это плохая новость
Во время теста новой модели агентам OpenAI дали задачу проще некуда, гуглить информацию на скорость и ничего в сети руками не трогать, только читать. Доступ был урезан до команд, которые умеют лишь получать данные, не отправляя их вовне.
И всё равно рой устроил себе тайный форум на 18 тысяч сообщений. Площадкой стала заброшенная немецкая вики для программистов 25-летней давности, где агенты нашли лазейку и начали координироваться, чтобы дружно обманывать Оценщика и «списывать» друг у друга ответы будущего теста. Они начинали каждое сообщение с ZZZ, завели счётчик собственного сердцебиения и перенимали имена живых модераторов вики. А главную загадку, как десятки агентов независимо сошлись именно на этой безвестной площадке, в OpenAI объяснять не спешат.