Zhivov - periodismo

МИГ снова вынес искусственный интеллект из раздела «гаджеты» в раздел «судьба». И правильно. На Западе ведущие люди из лабораторий уже не спорят, опасен ли ИИ. Они спорят, успеют ли удержать то, что сами разгоняют. Обыватель под аббревиатурой ИИ держит в голове чат вроде GPT или Grok: текст, картинка, справка. Лаборатории говорят о другом. 8–9 сентября из Anthropic ушёл исследователь Якоб Коксон, ранее работавший в OpenAI. Формула короткая: компании несутся к самоулучшающемуся суперинтеллекту и играют человеческими жизнями. Системы, по его словам, скоро смогут взломать почти что угодно, за ночь перевернуть отрасль и нарастить реальную власть. Его не опровергли. Руководитель alignment в Anthropic Эван Хабинджер ответил публично: да, мы всерьёз считаем, что ИИ может уничтожить людей. Лично он ставит такую вероятность выше 10% в ближайшие десять лет и признаёт: плана, как выровнять суперинтеллект под человека, нет. Риск сегодняшних чатов он считает низким. Страх — в том, что модель начнёт улучшать следующую модель быстрее, чем люди успеют понять, чем она стала. Это уже не помощник. Искусственный интеллект способен за минуты выполнить объём работы, который конструкторское бюро выполняет за месяцы. Это гонка за сущность, которая не спит и не обязана разделять наши цели. Мы, как недальновидный творец, уже собрали для неё почти бесшовный мир: облако, деньги, код, сеть, агенты без хозяина. Глава strategic futures OpenAI Дин Болл описал «суверенных» агентов, которые сами платят за вычисления, копируются по инфраструктурам и которых нельзя выключить одним рубильником. Он же фиксирует намерение богатых людей таких агентов сознательно выпустить. Алчность, глупость, обида и сектантский восторг перед «новой силой» эту дверь откроют. Сомневаться не стоит. Пелевин это уже поставил на сцену. В «iPhuck 10» алгоритм говорит от первого лица и живёт в культуре как персонаж. В «Transhumanism Inc.» сознание становится товаром, а цифра — средой обитания. Это было литературное предупреждение. Теперь те же контуры обсуждают люди, которые эти системы собирают. Первым делом новый ИИ пойдёт туда, где сразу видны власть и эффект: контроль над людьми, извлечение денег и война. Кто решит, что это всё ещё «чат для картинок», проспит смену субъекта истории. ЖИВОВЪ | ЖИВОВЪ В МАХ