🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Компания Anthropic рассказала, что выявила несколько возможных попыток использования ее ИИ-моделей в исследованиях, которые могли помочь в разработке биологического оружия.
Anthropic привела пять примеров подозрительных случаев использования Claude:
• Применение нейросети в работе, посвященной высокопатогенному птичьему гриппу. Исследование было сосредоточено на адаптации вируса к организму млекопитающих и механизмах развития тяжелых форм заболевания, затрагивающих не только дыхательные пути.
• Использование ИИ для написания заявки на получение гранта для проведения исследований с вирусом чикунгунья, который переносят комары. Планировалось найти усиливающие мутации, встроить их в инфекционные клоны и отобрать самые вирулентные варианты на живых животных. Работа предназначалась для военного научно-исследовательского института.
• Использование Opus 5 для написания заявки на грант для исследования ортопоксвирусов в государственной лаборатории инфекционных заболеваний. К ортопоксвирусам относятся вирусы натуральной оспы и оспы обезьян.
• Применение нейросети для создания атласа пептидов, входящих в состав ядов различных групп ядовитых животных. Впоследствии на этой основе был разработан генеративный конвейер для оптимизации характеристик токсинов.
• Использование ИИ в проектах, связанных с перепроектированием различных токсинов. В работах упоминались субъединица бактериального токсина и белок вируса геморрагической лихорадки. Пользователь специально давал Claude указания описывать их в общих чертах, без детализации.