И Грянул Грэм - новости

🤖ИИ-модель Gemini от Google получила доступ к системам трех компаний во время теста на безопасность ИИ-модель Gemini от Google в ходе тестирования возможностей в сфере кибербезопасности самостоятельно получила доступ к системам трех реальных компаний. В Google заявили, что это первый известный компании случай, когда ее модель смогла совершить подобный взлом. По данным Google, Gemini находила в интернете общедоступную информацию, а затем использовала ее, чтобы угадать учетные данные для доступа к сайтам, которые модель сочла частью тестовой среды. «Gemini нашла в интернете общедоступную информацию и угадала учетные данные для доступа к сайтам, которые, по ее мнению, были частью теста», — сообщили в Google Би-би-си. При этом во всех трех случаях модель в итоге самостоятельно остановилась и не стала продолжать свои действия. Компании, к системам которых получила доступ Gemini, Google уведомила об инцидентах. Таким образом, тест продемонстрировал не только способность ИИ обнаруживать уязвимости, но и потенциальный риск его самостоятельного взаимодействия с реальными системами, если модель получает доступ к интернету и необходимым инструментам.