🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
От людей «слишком долго» скрывали риски ИИ, идея индустрии была в том, чтобы преподносить эту технологию «как можно более позитивно», заявил глава Anthropic Дарио Амодеи в интервью CBS News:
• Возможность полного отключения ИИ-модели — «не единственное, что нужно». Если модель достаточно мощная, она может обойти попытки ее отключить, мы видели это в симуляциях.
• Нет одной вещи, которая защитит человечество от рисков ИИ, но полный запрет — это неправильный подход.
• «Геополитическая ситуация — вот с чем труднее всего иметь дело». Меня беспокоит, как Китай может использовать свой продвинутый ИИ для подавления собственного народа. Но даже Китай не хочет, чтобы с помощью ИИ создавалось биологическое оружие.
• Вспомните, как США и Советский Союз, несмотря на все разногласия, договорились, когда у них были десятки тысяч ядерных ракет, направленных друг на друга. Это подходящая оптика, через которую стоит смотреть на ИИ-гонку.
• Будет очень ценно, если власти США и Китая смогут договориться о замедлении ИИ-разработок. Также им нужно договориться не выпускать модели, которые могут быть использованы для создания биологического оружия.
• Нас высмеивают из-за того, что на наших моделях слишком сильные биологические предохранители. Я не хочу, чтобы наши модели использовали для убийства людей, пусть лучше надо мной смеются.
• Мы делаем все, что можем, для работы с властями и созданием надлежащего надзора над технологией.
• «Реальные опасности есть. И, думаю, слишком долго отрасль скрывала от людей, что у этой технологии есть риски. Идея была в том, чтобы преподносить ее как можно более позитивно. Мы никогда так не делали. Но слишком многие в отрасли так делали».