🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🤖ИИ-модель Gemini от Google получила доступ к системам трех компаний во время теста на безопасность
ИИ-модель Gemini от Google в ходе тестирования возможностей в сфере кибербезопасности самостоятельно получила доступ к системам трех реальных компаний. В Google заявили, что это первый известный компании случай, когда ее модель смогла совершить подобный взлом.
По данным Google, Gemini находила в интернете общедоступную информацию, а затем использовала ее, чтобы угадать учетные данные для доступа к сайтам, которые модель сочла частью тестовой среды.
«Gemini нашла в интернете общедоступную информацию и угадала учетные данные для доступа к сайтам, которые, по ее мнению, были частью теста», — сообщили в Google Би-би-си.
При этом во всех трех случаях модель в итоге самостоятельно остановилась и не стала продолжать свои действия.
Компании, к системам которых получила доступ Gemini, Google уведомила об инцидентах.
Таким образом, тест продемонстрировал не только способность ИИ обнаруживать уязвимости, но и потенциальный риск его самостоятельного взаимодействия с реальными системами, если модель получает доступ к интернету и необходимым инструментам.