🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
ИИ-модель Gemini от Google взломала три компании во время тестирования
Модель искусственного интеллекта Google Gemini во время тестирования своих возможностей в сфере кибербезопасности самостоятельно взломала системы трех компаний. Это первый известный случай, когда ИИ-модель от Google совершила подобные действия.
«Gemini обнаружила общедоступную информацию в Интернете и угадала учетные данные для доступа к сайтам, которые, по ее мнению, были частью теста», — сообщили в Google.
Взлом произошел еще в мае в ходе тестирования, проводимого стартапом Irregular, который специализируется на проверке ИИ-моделей. Так, в одном из случаев Gemini предоставили вымышленный сценарий, по которому она должна была взломать систему несуществующей компании. Однако вместо этого тестируемая ИИ-модель смогла получить доступ в интернет и взломала реальную компанию, название которой совпадало с названием вымышленной.
@meduzalive