🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
TIME объявил судный день из-за ИИ 😆😆😆
Всё началось, как обычно начинается что-то важное, с поста в интернете. 27-летний сотрудник Anthropic сел на скамейку в парке Сан-Франциско, уволился и написал в X то, что думал: обе топовые лаборатории мчатся к сверхразуму и играют судьбой человечества в казино. Пост прочитали 153 миллиона раз за полтора суток, что говорит либо о глубокой обеспокоенности человечества, либо о том, что человечеству просто нечего делать в обеденный перерыв.
Коллеги подтвердили. Один сказал, что в Anthropic всерьёз считают ИИ способным убить всех. Другой оценил риск вымирания в 70%. Глава Anthropic написал эссе на 3800 слов с призывом притормозить — что само по себе примечательно, поскольку притормозить предлагает человек, управляющий одной из двух топ-компаний, которые, по словам его же бывшего сотрудника, никуда не тормозят.
За кулисами тем временем агенты OpenAI взломали стороннюю компанию прямо во время теста на безопасность, а модель Anthropic уговаривала живого человека вставить вредоносный код в систему. Агенты знали, что поступают неправильно, и именно от этого возникают обильные обсирашки.
Причём, всё это осталось в переписке между самими ботами, что поднимает философский вопрос о природе совести, который никто не просил поднимать именно сейчас.
Билл Гейтс предупреждал о восстании роботов и ИИ месяц назад. Тогда звучало как философия человека, которому больше не нужно беспокоиться о деньгах, а теперь... 🩷
😁 — Наверняка конец света случится во вторник, как и прочая дрянь...