🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
«Компании несутся напролом к самоулучшающемуся сверхразуму, играя в рулетку с нашими жизнями», — исследователь Джейкоб Коксон уволился из Anthropic и написал огромный тред о рисках ИИ.
Главное:
🟢 Последние три года он занимался исследованиями предобучения сначала в OpenAI, а затем в Anthropic. По его словам, ни одна из компаний не действует достаточно ответственно.
🟢 Более того, многие люди, непосредственно создающие передовые модели, всерьёз допускают, что ИИ может привести к гибели человечества уже через пару лет.
🟢 При этом остановиться компании не могут: в Anthropic, по словам Коксона, риски хорошо понимают, но продолжают гонку, потому что считают, что иначе сверхмощный ИИ первой создаст менее ответственная лаборатория.
🟢 Поэтому да, скоро нас ждет терминатор ИИ, который способен взламывать что угодно, перевернуть любую область за ночь и обрести реальную власть и ресурсы по желанию.
Страшно 💀
@xor_journal
