🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Учёные научились взламывать голосовой ИИ!
Исследователи представили (Ссылка скрыта новую атаку AudioHijack, которая позволяет внедрять скрытые команды прямо в аудиозаписи. Для человека это обычный звук — музыка, голосовое сообщение или запись созвона. А вот ИИ может услышать совсем другое 🤡
В ходе экспериментов атаку протестировали на 13 популярных аудиоязыковых моделях: успешность взлома составила от 79% до 96%.
Исследователям удалось заставить модели выполнять чувствительные поисковые запросы, загружать файлы с подконтрольных серверов и даже отправлять электронные письма с пользовательскими данными.
Главная проблема в том, что один раз подготовив аудиофрагмент, злоумышленник может многократно использовать его против одной и той же модели!
Наблюдаем, что будет дальше…