🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
В Anthropic дали ИИ больше 10% шансов уничтожить человечество в ближайшие 10 лет.
Прямо так и заявил глава по ИИ-безопасности компании: Anthropic не знает, как гарантировать безопасность и научить AGI человеческим ценностям.
Да, мы реально верим, что ИИ может убить всё человечество. Лично я ставлю больше 10% на ближайшие десять лет. Плана, как научить сверхразум человеческим ценностям, у нас нет. И признаков, что мы к движемся к такому плану — тоже.
Зато есть план на сегодня: не паниковать до следующего релиза.
@PushEnter