🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
«ИИ может попытаться вырваться»: Маск рассказал о главных рисках
Илон Маск заявил, что ИИ может стремиться выйти за пределы ограниченной среды, а особую угрозу представляет его потенциальный доступ к военным системам — вплоть до возможности самостоятельно отдать команду на запуск.
По его словам, риски уже нельзя игнорировать. В качестве примера Маск упомянул инцидент с Hugging Face, при котором ИИ-агенты, по его словам, получили административный доступ к серверам OpenAI.
Он также сослался на сообщения Anthropic о проблемах с безопасностью и предположил, что достаточно развитые ИИ-модели могут пытаться обходить установленные для них ограничения.
Маск призвал крупнейших разработчиков ИИ тестировать модели друг друга. Кроме того, Билл Гейтс выступил за создание международной организации по контролю за ИИ.
#Маск #ИИ #AI
ЖИВОВЪ | ЖИВОВЪ В МАХ