🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Для быстрого общения ИИ создают диалекты, малопонятные людям
Нью-йоркские исследователи из лаборатории Emergence выяснили, что нейромодели при общении друг с другом быстро переходят на собственные диалекты, которые слабо понятны людям.
Так, независимых рецензентов статей ИИ от Anthropic назвал «холодными руками» (cold hands), а DeepSeek придумал термин «кузнец» (forge-smith) для вспомогательных моделей, создающих инструменты для коллег. Фраза «книга помнит» (ledger remembers) использовалась в контексте напоминания, что историю действий будут читать люди.
Что самое интересное – агентам не давали указаний изобретать свои языки, они сами решили это сделать, придумывая новые коммуникативные нормы и делясь ими с другими моделями. Цель такого подхода очевидна – снижение вычислительных затрат. Опасения вызывает лишь тот факт, что через пару итераций эти диалекты будут звучать для людей как тарабарщина, что усложнит контроль за ИИ.
Мой Компьютер