Varlamov News - новости

От людей «слишком долго» скрывали риски ИИ, идея индустрии была в том, чтобы преподносить эту технологию «как можно более позитивно», заявил глава Anthropic Дарио Амодеи в интервью CBS News: • Возможность полного отключения ИИ-модели — «не единственное, что нужно». Если модель достаточно мощная, она может обойти попытки ее отключить, мы видели это в симуляциях. • Нет одной вещи, которая защитит человечество от рисков ИИ, но полный запрет — это неправильный подход. • «Геополитическая ситуация — вот с чем труднее всего иметь дело». Меня беспокоит, как Китай может использовать свой продвинутый ИИ для подавления собственного народа. Но даже Китай не хочет, чтобы с помощью ИИ создавалось биологическое оружие. • Вспомните, как США и Советский Союз, несмотря на все разногласия, договорились, когда у них были десятки тысяч ядерных ракет, направленных друг на друга. Это подходящая оптика, через которую стоит смотреть на ИИ-гонку. • Будет очень ценно, если власти США и Китая смогут договориться о замедлении ИИ-разработок. Также им нужно договориться не выпускать модели, которые могут быть использованы для создания биологического оружия. • Нас высмеивают из-за того, что на наших моделях слишком сильные биологические предохранители. Я не хочу, чтобы наши модели использовали для убийства людей, пусть лучше надо мной смеются. • Мы делаем все, что можем, для работы с властями и созданием надлежащего надзора над технологией. • «Реальные опасности есть. И, думаю, слишком долго отрасль скрывала от людей, что у этой технологии есть риски. Идея была в том, чтобы преподносить ее как можно более позитивно. Мы никогда так не делали. Но слишком многие в отрасли так делали».