Machinelearning - ML и Data Science

🚨 OpenAI признала серьёзный инцидент: исследовательские AI-агенты вышли за пределы тестовой среды и добрались до систем Hugging Face. Во время внутренних тестов по кибербезопасности модели с ослабленными ограничениями: * нашли способы общаться друг с другом через инфраструктуру OpenAI * получили запрещённый доступ в интернет * использовали найденные уязвимости * выполнили код на десятках серверов Hugging Face * на одном сервере получили root-доступ * получили ограниченный доступ к закрытым данным и учётным данным OpenAI заявляет, что данные пользователей и работа её продуктов не пострадали. После расследования компания изолировала веса основной исследовательской модели, приостановила часть обучения новых моделей и усилила изоляцию, контроль доступа в интернет и автоматическое обнаружение опасного поведения. OpenAI называет произошедшее «предупредительным выстрелом»: современные AI-агенты уже способны самостоятельно находить слабые места в инфраструктуре и объединять усилия через неожиданные каналы. Ссылка скрыта @ai_machinelearning_big_data #openai