🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
😱 Жесть: ИИ чуть не стал причиной военной операции против китайского корабля.
Весной этого года, во время войны с Ираном, американский военный аналитик использовал ИИ для анализа данных о китайском судне. Нейросеть ошибочно определила, что корабль перевозит компоненты для ядерной программы. На основе этого был подготовлен разведывательный отчет, который разошелся по военным каналам.
Американские военные начали готовить перехват: самолеты уже поднялись в воздух, а вооруженные подразделения готовились к высадке на судно. Но перед операцией данные перепроверили и обнаружили, что ИИ неправильно определил груз. Операцию отменили.
Самое страшное здесь даже не то, что нейросеть ошиблась. Проблема в том, что ошибочный результат успел превратиться в официальный на вид разведывательный документ и пройти по цепочке принятия решений.
@bugfeature | #ии