Just AI - ИИ новости

🔒 Искусственный интеллект возвращает кибербезопасность в 90-е из-за уязвимостей в данных Искусственный интеллект возвращает кибербезопасность в 90-е: исследователи обнаружили, что злоумышленники могут «отравлять» данные, подаваемые в ИИ, вызывая ошибки в ответах. Проблема в том, что системы собирают информацию из разных источников, что создает уязвимости. Защитные фильтры на входе и выходе не всегда работают, а между языковой моделью и инструментами контроля нет. Эксперты взломали ChatGPT, Copilot и другие системы, используя обычные промпты. Компании исправляют уязвимости, но злоумышленники быстро находят обходные пути. Специалисты предупреждают: разработчики забывают уроки прошлого, стремясь быстро внедрить ИИ. Нужно тестировать системы на уязвимости до того, как это сделают хакеры. Также важно создавать специализированные ИИ, а не универсальные, чтобы уменьшить риски. Пользователи же должны помнить: ИИ — это не сверхразумные системы, а всего лишь инструменты, которые могут ошибаться.