Hi, AI - AI news

🤖 У ИИ не должно быть прав — CEO Microsoft AI СEO Microsoft AI Мустафа Сулейман убежден, что опасность ИИ для человечества реальна и срочно требует разработки системы «сдерживания» ИИ-агентов. Иначе — «новый вид из кремния» начнет соперничать с людьми за ресурсы. Поэтому он критикует «Конституцию Claude», на основе которой Anthropic строит «личность» своих моделей. В Anthropic считают, что у ИИ может быть функциональная версия эмоций, и в этих же категориях модель учат рассуждать о себе. По мнению Сулеймана, так замыкается самоподдерживающийся круг: разработчики видят это поведение и принимают его за подтверждение исходной догадки. 📌 Идея «прав» ИИ-моделей только увеличивает риски, что технология выйдет из-под контроля, настаивает Сулейман. Для своих моделей Microsoft AI разработали «Кодекс поведения гуманистического ИИ» с главной идеей, что ИИ должен быть подчиненным и контролируемым инструментом. ✖️ Сулейман против того, чтобы давать ИИ владеть активами, зарабатывать деньги или общаться между собой на непонятном людям языке. По его словам, современные ИИ‑системы не обладают сознанием, они — «движки завершения последовательностей», созданные служить людям. Должны ли у ИИ быть права? ❤️ — да, нейросети умнее многих людей 🤬 — нет, это абсурд 👋 Подпишитесь на Hi, AI!