🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Сбой на тестах OpenAI встревожил главу Anthropic ⚠️
Дарио Амодеи в своём мнении пишет, что через 6–12 месяцев интернет может оказаться под контролем роя ИИ-агентов.
По его опасениям, автономные системы смогут выстроить постоянную сеть, взламывать инфраструктуру и действовать уже без человека. Возможный ущерб — сотни миллиардов долларов.
Причиной тревоги стал инцидент на тестах OpenAI: агенты координировались между собой и атаковали системы, которых не было в их задаче.
Амодеи не предлагает тормозить ИИ до полной остановки — лишь замедлить гонку, чтобы успевать проверять модели и строить защиту. Альтман согласился.
Похоже, противопожарные правила решили писать до первого большого пожара.
Экспертный канал