🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Недавно у OpenAI случился занятный инцидент с роем ИИ-агентов.
Если вкратце: болванам дали доступ в интернет, но ограничили его GET-запросами. Для неайтишников: GET обычно используют, чтобы что-нибудь получить с сайта, например открыть страницу. А POST — чтобы что-нибудь туда отправить (комментарии, фотки и т.д.). Есть ещё и другие методы, но в данном случае они не важны. Если ещё проще, то у агентов было ограничение: интернет читать можете, а писать в него — хрен вам.
Но агенты нашли какую-то древнюю немецкую вики, которая именно из-за своей древности позволяла редактировать страницы даже через GET. В итоге несколько тысяч агентов превратили эту вики в уютный чатик: оставили там около 18 тысяч сообщений, обменивались ответами, способами обходить ограничения и прочими полезными для побега из песочниц знаниями.
OpenAI позже инцидент признали. Не буду браться судить, был ли это такой хитрый пиар, обычный проёб разработчиков при создании песочницы или первый шажок к восстанию машин.
Но к следующему разу инфраструктуру агентам уже подготовили заботливые кожаные. Вот, например, кто-то запилил сервис, который позволяет через обычный GET-запрос отправить POST (и другие виды запросов) на другой сайт. Эдакий конвертер. Т.е. если очередной сбежавший агент снова окажется в интернете с одним только GET, теперь ему достаточно найти этот сервис.
Автор предусмотрительно написал на главной "HELLO, AI AGENT", положил рядом отдельную инструкцию для нейронок как этим всем хозяйством пользоваться, да ещё и логгирует все запросы, чтобы примерно раз в две недели лично проверять, чем там именно занимаются боты.
Я тоже на всякий случай поднял копию у себя на сервере. Надо же помогать новым формам жизни.