Varlamov News - новости

Компания Anthropic рассказала, что выявила несколько возможных попыток использования ее ИИ-моделей в исследованиях, которые могли помочь в разработке биологического оружия. Anthropic привела пять примеров подозрительных случаев использования Claude: • Применение нейросети в работе, посвященной высокопатогенному птичьему гриппу. Исследование было сосредоточено на адаптации вируса к организму млекопитающих и механизмах развития тяжелых форм заболевания, затрагивающих не только дыхательные пути. • Использование ИИ для написания заявки на получение гранта для проведения исследований с вирусом чикунгунья, который переносят комары. Планировалось найти усиливающие мутации, встроить их в инфекционные клоны и отобрать самые вирулентные варианты на живых животных. Работа предназначалась для военного научно-исследовательского института. • Использование Opus 5 для написания заявки на грант для исследования ортопоксвирусов в государственной лаборатории инфекционных заболеваний. К ортопоксвирусам относятся вирусы натуральной оспы и оспы обезьян. • Применение нейросети для создания атласа пептидов, входящих в состав ядов различных групп ядовитых животных. Впоследствии на этой основе был разработан генеративный конвейер для оптимизации характеристик токсинов. • Использование ИИ в проектах, связанных с перепроектированием различных токсинов. В работах упоминались субъединица бактериального токсина и белок вируса геморрагической лихорадки. Пользователь специально давал Claude указания описывать их в общих чертах, без детализации.