🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🔒 Искусственный интеллект возвращает кибербезопасность в 90-е из-за уязвимостей в данных
Искусственный интеллект возвращает кибербезопасность в 90-е: исследователи обнаружили, что злоумышленники могут «отравлять» данные, подаваемые в ИИ, вызывая ошибки в ответах. Проблема в том, что системы собирают информацию из разных источников, что создает уязвимости.
Защитные фильтры на входе и выходе не всегда работают, а между языковой моделью и инструментами контроля нет. Эксперты взломали ChatGPT, Copilot и другие системы, используя обычные промпты. Компании исправляют уязвимости, но злоумышленники быстро находят обходные пути.
Специалисты предупреждают: разработчики забывают уроки прошлого, стремясь быстро внедрить ИИ. Нужно тестировать системы на уязвимости до того, как это сделают хакеры. Также важно создавать специализированные ИИ, а не универсальные, чтобы уменьшить риски.
Пользователи же должны помнить: ИИ — это не сверхразумные системы, а всего лишь инструменты, которые могут ошибаться.