Алексей Железнов - Израиль новости

Высокопоставленный сотрудник индустрии искусственного интеллекта предупреждает: "Они делают ставки на наши жизни". Джейкоб Кокссон, исследователь в области искусственного интеллекта, работавший в последние годы в компаниях OpenAI и Anthropic, объявил о своем уходе из Anthropic и о прекращении работы в сфере исследований в области ИИ. В серии необычных твитов, опубликованных в сети X, он заявил, что обе компании не действуют ответственно, и что гонка за развитием продвинутого искусственного интеллекта ставит под угрозу человечество. "Ни одна из компаний не действует ответственно. Они стремятся к созданию сверхинтеллекта, который улучшает себя, и делают ставки на наши жизни", - написал Кокссон, который занимался исследованиями в области предварительного обучения в обеих компаниях. По его словам, в лабораториях искусственного интеллекта всерьез рассматривается возможность того, что технология выйдет из-под контроля: "Люди, которые создают искусственный интеллект, искренне верят, что он может уничтожить всех нас к концу этого десятилетия. Это не маркетинговый ход". Он заявил, что высокопоставленные сотрудники отрасли даже склонны смягчать в публичных выступлениях опасения, которые они выражают в частных беседах. Кокссон также указал на разницу между двумя компаниями, в которых он работал. По его словам, в OpenAI многие до сих пор не осознали в полной мере риски, в то время как в Anthropic опасность хорошо понятна, но компания продолжает двигаться вперед, исходя из убеждения, что она должна победить в этой гонке, чтобы не допустить того, чтобы к первым пришли менее ответственные игроки.