XOR - журнал программирования

ИИ уже используют для слежки, шантажа, обмана и разработки оружия — Anthropic выложили 154-страничный отчёт о том, как преступники, хакеры и военные пользуются Claude. Вот лишь часть из этих УЖАСАЮЩИХ примеров, которые компания обнаружила и заблокировала с декабря 2025 по август 2026: 🟢 Claude использовали для разработки управляемой ракеты в Йемене. Команда заменила моделью часть работы инженеров и разрабатывала софт навигации и управления этим оружием. Anthropic заблокировала часть запросов, но… не все. Компания не нашла доказательств готового рабочего устройства, однако утверждает, что там уже провели испытательный запуск управляемой ракеты. 🟢 Компания раскрыла сразу несколько крупных кампаний по дистилляции. Самое безумное, китайская ИИ-модель Kimi выдавала ответы Claude за свои. Anthropic также утверждают, что DeepSeek и Qwen тоже этим грешат. 🟢 Группа из России пыталась собрать автономный рой FPV-дронов-камикадзе. Через Claude писали и тестировали основное ПО роя. Причём система проектировалась так, чтобы самостоятельно выбирать цели, в том числе людей. 🟢 В Китае Claude привлекли к проектированию противоторпедной системы. После каждого черновика Claude ещё и заставляли играть роль враждебного эксперта, чтобы он разносил проект и помогал улучшить следующую версию. 🟢 Anthropic обнаружила пять случаев, когда исследователи использовали Claude для работ по разработке биологического оружия. Среди прочего были поиски мутации, усиливающих передаваемость вируса чикунгуньи, эксперименты по адаптации птичьего гриппа к млекопитающим, работа над уклонением ортопоксвирусов от иммунитета. 🟢 В одном случае группа из Китая заставила Claude круглосуточно реверсить защитное ПО, искать новые уязвимости и писать эксплойты. Группа целилась примерно в 50 организаций по всему миру. И хоть все эти кейсы были обнаружены Anthropic и пресечены — они не могут не пугать. Полное исследование можно почитать тут. @xor_journal