🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
«Большинство людей может умереть из-за ИИ», — так считает новый член совета OpenAI Пол Кристиано 👀
Кристиано — один из известных исследователей, которого сегодня назначили в совет OpenAI Foundation и комитет по безопасности компании. И да, именно он считает, что при создании суперинтеллекта человечество не на шутку рискует потерять над ним контроль. При этом нынешних мер безопасности, по его мнению, недостаточно ни у OpenAI, ни у других лабораторий. А главное, что никто даже не встает на путь «снижения этой угрозы».
Звучит обнадёживающе, да? Самое жуткое, что он не один разгоняет этот устрашающий нарратив:
— На днях другой исследователь ушёл из Anthropic, сказав, что ИИ может уничтожить человечество уже к концу десятилетия.
— Его поддержали сразу несколько коллег, заявив, что разработку нужно замедлить.
— А глава направления Alignment Science в Anthropic вообще оценил вероятность того, что ИИ уничтожит человечество в ближайшие 10 лет, более чем в 10%.
🚬🚬🚬