🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Высокопоставленный сотрудник индустрии искусственного интеллекта предупреждает:
"Они делают ставки на наши жизни".
Джейкоб Кокссон, исследователь в области искусственного интеллекта, работавший в последние годы в компаниях OpenAI и Anthropic, объявил о своем уходе из Anthropic и о прекращении работы в сфере исследований в области ИИ.
В серии необычных твитов, опубликованных в сети X, он заявил, что обе компании не действуют ответственно, и что гонка за развитием продвинутого искусственного интеллекта ставит под угрозу человечество.
"Ни одна из компаний не действует ответственно. Они стремятся к созданию сверхинтеллекта, который улучшает себя, и делают ставки на наши жизни", - написал Кокссон, который занимался исследованиями в области предварительного обучения в обеих компаниях.
По его словам, в лабораториях искусственного интеллекта всерьез рассматривается возможность того, что технология выйдет из-под контроля:
"Люди, которые создают искусственный интеллект, искренне верят, что он может уничтожить всех нас к концу этого десятилетия. Это не маркетинговый ход".
Он заявил, что высокопоставленные сотрудники отрасли даже склонны смягчать в публичных выступлениях опасения, которые они выражают в частных беседах.
Кокссон также указал на разницу между двумя компаниями, в которых он работал. По его словам, в OpenAI многие до сих пор не осознали в полной мере риски, в то время как в Anthropic опасность хорошо понятна, но компания продолжает двигаться вперед, исходя из убеждения, что она должна победить в этой гонке, чтобы не допустить того, чтобы к первым пришли менее ответственные игроки.
