🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
В OpenAI готовы притормозить развитие ИИ из-за высоких рисков
Руководство американской ИТ-корпорации OpenAI обсуждает стратегию торможения создания новых продвинутых нейросетей. Как пишет Bloomberg, глава корпорации Сэм Альтман выразил надежду, что конкуренты поддержат эту инициативу.
На недавнем совещании Альтман подчеркнул, что OpenAI готова стать инициатором регулируемого темпа разработок. Ранее компания уже сообщала о временной приостановке ряда исследовательских проектов, аргументируя это соображениями безопасности и недостаточным исследованием всех рисков. Подобные дискуссии Альтман вёл и с администрацией президента США.
Внутри самой OpenAI звучат призывы к осторожности: главный научный сотрудник Якуб Пачоцки настаивает на необходимости добровольного замедления прогресса до тех пор, пока не будут выработаны глобальные стандарты безопасности.
Эти опасения эксперты разделяют. На днях член совета директоров OpenAI Пол Кристиано предупредил, что в случае выхода ИИ из-под контроля большая часть человечества может погибнуть. Для снижения угрозы потребуется сотрудничество как внутри отдельных стран, так и на международном уровне. О рисках бесконтрольного развития ИИ ранее предупреждал глава Tesla и SpaceX миллиардер Илон Маск.
Напомним, что согласно недавнему исследованию учёных из Королевского колледжа Лондона, тестировавших ведущие языковые модели (включая GPT, Claude и Gemini) в стратегических военных симуляциях, искусственный интеллект доводил конфликт до ядерной эскалации или угрожал применением оружия массового поражения примерно в 95% сценариев.
"Skynet" из "Терминатора" ближе, чем кажется?
Мы в MAX | в ВК | в ОК