🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
😋 Как закалялся Скайнет. Часть 2
Сегодня вышел на связь сам глава Anthropic Дарио Амодей с призывом тормозить гонку самых мощных моделей, потому что безопасность уже не успевает за возможностями ИИ.
По его оценке, уже через 6–12 месяцев более мощные рои ИИ-агентов могут представлять угрозу для значительной части интернета.
Что он предлагает:
🔸 Пустить независимых аудиторов внутрь ИИ-компаний почти на правах сотрудников.
🔸 Ввести общие стандарты безопасности и срочно ограничивать темп развития моделей.
🔸 Проверять безопасность перед каждым новым скачком возможностей.
🔸 Ограничивать ресурсы, которые ускоряют гонку, включая вычисления и использование ИИ для создания следующего поколения моделей.
🔸 Договориться об общих правилах между странами, включая Китай.
Anthropic готова начать с себя и предоставить полный доступ к своим системам, не мешая публиковать неудобные выводы.
Кажется реально началось 😱
• Источник
@aiaiai