🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Право на ошибку нужно всем
Даже роботам.
Сегодня ИИ-агенты быстрее всего приживаются там, где ошибку легко заметить и недорого исправить.
Именно поэтому программирование стало идеальным полигоном: код либо работает, либо нет. Агент получает обратную связь, фиксит баг и идёт дальше.
Но стоит дать ему доступ к платежам или общению с клиентами — цена самостоятельности резко меняется.
Ошибка превращается уже не в красную строку теста, а в реальные деньги, репутацию и иногда разговоры с юристами.
Этот парадокс автоматизации отлично разобрал директор ИИ-центра Т-Банка Дмитрий Ушанов в своей колонке.
Он формулирует ловушку, в которую упирается почти любая попытка дать агенту больше свободы.
Чем больше самостоятельности получает агент, тем сильнее хочется поставить рядом человека.
Но если человек перепроверяет каждый шаг, автоматизация быстро теряет смысл.
Дешевле было оставить всё как есть.
Поэтому Дмитрий Ушанов предлагает начинать автоматизацию с рутины, где результат однозначен и проверяем, а затем постепенно расширять полномочия агента.
Кажется, автоматизация растёт не вслед за технологиями.
А вслед за уровнем риска, на который готов ваш бизнес.