🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🤔 ИИ на паузу? Цукерберг против
Марк Цукерберг не спешит жать на тормоз. Каждая компания сама отвечает за темп, при котором её модели обучаются безопасно, — написал он и добавил, что его компания уже так и работает. И это на фоне того, что OpenAI, Anthropic, Google и Илон Маск как раз предварительно договорились притормозить.
Что за договорённость? На выходных Сэм Альтман, Дарио Амодеи, сооснователь Google DeepMind Демис Хассабис и Маск в общих чертах согласились замедлить разработку. Цель сформулировали так: «задавать темп на передовой». В основе — трёхшаговый план из эссе Амодея: встроить в ИИ-компании сторонних аудиторов, регулировать лаборатории внутри страны и прийти к глобальному соглашению о замедлении. Все четверо поддержали его хотя бы частично.
Главный страх — рекурсивное самоулучшение, когда модели сами обучают и создают свои новые версии без участия людей. В Anthropic допускают, что этот рубеж может наступить уже в начале 2027 года, и Амодеи предлагает ввести для него своеобразное «ограничение скорости».
Скептики, впрочем, быстро нашли подвох. Мол, гиганты хотят отсечь будущих конкурентов, придушить опенсорс и уйти от реальных правовых гарантий — некоторые и вовсе назвали договорённость «картелем».
Позицию Цукерберга лучше всего объясняет его августовский манифест. Там сказано: любая политика, которая задержит выпуск американских моделей хотя бы на месяц, серьёзно угрожает лидерству США и даёт фору иностранным разработкам. Китай, кстати, призывы к паузе тоже не оценил: в МИД КНР их назвали «нагнетанием страха».
@droidergram