🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Сара Коннор может спать спокойно
Машины не восстанут.
Science опубликовал аналитику учёных из разных дисциплин про ИИ. Для них большие модели — вовсе не зачаток разума.
Это культурная система, стоящая в одном ряду с письменностью, печатным станком, рынком и бюрократией.
Следите за руками.
Что делает рынок?
Сжимает всю сложность экономики в одно число — цену. Покупателю не нужно знать про урожай, логистику и биржу.
Что делает бюрократия?
Сжимает живых людей в категории: граждане, резиденты, люди с разрешением или без него, с правами или без них.
Что делает языковая модель?
Сжимает массив человеческих текстов, изображений и знаний в систему, которой можно задать вопрос.
И тут важно понимать: любое такое сжатие ведёт к искажению.
Модель сильнее всего там, где данных много, и слабее всего — в редком, новом, непривычном. Так уж она устроена: алгоритм воспроизводит вероятности, а вероятность — это про частое.
Поэтому модель не отражает культуру.
А усредняет.
Того же боялся Макс Вебер в бюрократии: система формальных правил не замечает всё, что в правила не укладывается. Проще говоря, без бумажки ты букашка, система тебя не видит.
Ровно так же ИИ не видит уникальность, зато помогает производить однотипные видео, тексты и баннеры.
Мы получили инструмент, который на любой вопрос выдаёт самый вероятный ответ. И чем чаще мы к нему обращаемся, тем шаблоннее рассуждаем сами.
Машины не восстанут.
Машинами станем мы.