🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Давайте что ли про роботов поговорим, раз уж мы увлеклись опять этим ихним ИИ.
Производители роботов, а вслед за ними и бескорыстные технооптимисты типа почетного говоруна вся Яндекса товарища Себранта уважаемого, уже провозгласили век завоевания модельками физического мира, а китайские роботы, показывающие отчаянное кунг-фу на хорошо размеченной сцене по четкому алгоритму, создают полное впечатление, что кожаным скоро хана.
К тому же, если смотреть на прогресс LLM и агентов, то и правда становится страшновато - а последняя версия мечты про роботов звучит как “а давайте засунем в робота LLM и пусть себе работает без человека, ибо LLM - это же симуляция мышления, почему бы ей не работать так же в физическом мире”.
А потому что. Задачка “автономный многоцелевой агент, анализирующий табличку в экселе и дающий рекомендации, что делать по результатам данных” и задача “автономный многоцелевой робот, принимающий решения и действующий в физическом мире” различаются по сложности не на проценты, и даже не на порядки, а, как бы это правильно сказать, на измерения.
Например, большие языковые модели первым делом скушали примерно весь Интернет, чтобы научиться статистически предсказывать следующее слово, которое сказал бы в этих ваших интернетах средний человек (умными словами это называется pre-training). Для физического мира ничего подобного претрейну на открытых данных не существует. Скачать все человеческий действия в физическом мире, и потом на этом тренировать роботов - неоткуда.
И из этого (на нашем дилетантском уровне) есть два вывода.
Первый - что прогресс в отношении развития физического ИИ не будет таким же взрывным, как в области больших языковых моделей. То есть не будет условного аналога чатика GPT 3.0, который такой ррраз - и начнет делать все как человеки. Для этого нужно собрать огромное количество данных, которые лежат в разных местах, если вообще где-то лежат.
Второй - что разные роботы будут друг от друга отличаться значительно сильнее, чем разные модели. Потому что, как говорят знающие люди, одна и та же модель, обученная на одном и том же наборе данных. не всегда одинаково работает даже на двух одинаковых роботах, выполняющих одинаковые действия. И это мы еще не начали про то, что параметров качества этих самых действий значительно больше, чем параметров речи, но не являясь специалистами, мы в эту степь не пойдем.
В общем, при выполнении заданий в реальном мире нас ждут многие и многие поколения роботов, которые будут не просто отчаянно тупить, нарушая все понятия о человеческом здравом смысле, но и представлять из себя некоторую опасность - врезаться в предметы, натурально биться в судорогах, вызывая у окружающих лютый кринж, случайно травмировать людей, и к тому же постоянно нарушать три закона Азимова потому что внутри робота будет слишком умная пробабилистическая модель, которая подумает и решит, что знает лучше, чем не причинять вред себе и человеку своим действием или бездействием.
И так еще лет… сколько? Мы не знаем, но надеемся, что получится быстрее, чем с беспилотными автомобилями, которые, спустя пятнадцать лет после лозунгов “кожаным - хана” до сих пор ездят в по пальцам пересчитанных городах мира, и там с серьезными ограничениями.
