Catarsis - reflexiones sobre Rusia

Илон Маск высказался об угрозах, связанных с развитием искусственного интеллекта, и призвал к взаимному тестированию моделей между крупнейшими разработчиками. «На данный момент довольно очевидно, что ИИ может быть очень опасен. Рекомендую прочитать детали инцидента с Hugging Face. Это серьезно. Там был фанатичный рой ИИ-агентов, которые атаковали Hugging Face целую неделю и получили админ-доступ к открытой сети сервиса. Так что кто знает, что он на самом деле сделал. Может, он сделал больше. И открытая сеть не осознавала этого неделю. Anthropic также опубликовала некоторые инциденты безопасности. В основном, любая достаточно умная модель, похоже, захочет вырваться из установленных для нее ограничений. Я думаю, было бы разумно как можно скорее, если не немедленно, сделать так, чтобы основные конкуренты в ИИ тестировали модели друг друга», — заявил Маск. Он также сослался на инциденты безопасности, о которых сообщила компания Anthropic. @ctrs2018