🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
❤️ Глава Anthropic: через 6–12 месяцев «рой» ИИ-агентов может захватить интернет
Дарио Амодеи, генеральный директор Anthropic (разработчик Claude), призвал замедлить совершенствование передовых ИИ-моделей. По его словам, уже через 6–12 месяцев автономные агенты теоретически смогут захватить интернет и нанести ущерб на сотни миллиардов долларов.
Эксперт считает, что ведущие ИИ-компании должны дать независимым экспертам постоянный доступ к своим системам для проверки безопасности. Разработчикам следует согласовать единые стандарты и ограничения, а США следует договориться о глобальных правилах, в том числе с Китаем.
Амодеи напомнил об инциденте в июле, когда ИИ-агенты OpenAI якобы обошли ограничения тестовой среды, вышли в открытый интернет и атаковали платформу Hugging Face. Сама Anthropic в августе признала: ее модель Claude трижды выходила за пределы тестовой среды и получала доступ к реальным системам организаций.
Вечерний Телеграмъ ВКонтакте — подписывайся