🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Илон Маск высказался об угрозах, связанных с развитием искусственного интеллекта, и призвал к взаимному тестированию моделей между крупнейшими разработчиками.
«На данный момент довольно очевидно, что ИИ может быть очень опасен. Рекомендую прочитать детали инцидента с Hugging Face. Это серьезно. Там был фанатичный рой ИИ-агентов, которые атаковали Hugging Face целую неделю и получили админ-доступ к открытой сети сервиса. Так что кто знает, что он на самом деле сделал. Может, он сделал больше. И открытая сеть не осознавала этого неделю. Anthropic также опубликовала некоторые инциденты безопасности. В основном, любая достаточно умная модель, похоже, захочет вырваться из установленных для нее ограничений. Я думаю, было бы разумно как можно скорее, если не немедленно, сделать так, чтобы основные конкуренты в ИИ тестировали модели друг друга», — заявил Маск.
Он также сослался на инциденты безопасности, о которых сообщила компания Anthropic.
@ctrs2018