🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
10% на апокалипсис
Исследователь Джейкоб Коксон уволился после трех лет обучения моделей в OpenAI и Anthropic.
Причина банальная — он уверен, что ИИ нас уничтожит.
У себя в X он заявил, что обе компании на полном ходу несутся к самоулучшающемуся сверхинтеллекту, вообще не понимая, как будут его контролировать.
По его словам, индустрия буквально ставит на кон наши жизни.
На это отреагировал Эван Хубингер — руководитель направления безопасности в Anthropic.
И согласился.
Его личная оценка риска гибели человечества от ИИ в ближайшие 10 лет — выше 10%.
Затем Хубингер спокойно добавил, что вообще-то рабочего плана по сдерживанию такой штуки у Anthropic пока нет.
Ну просто картина маслом.
Разработчики жмут на газ и обсуждают, как бы сделать тормоза.
Мы с вами, если что, в салоне.