🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🧠 Память для ИИ из переписки: карточки вместо векторной базы
Сервис «второй памяти» превращает переписку в Telegram в базу людей, проектов, тем и фактов. Через полгода можно спросить «какой бюджет мы согласовали на поездку» и получить ссылку на нужное сообщение.
Автор отказался от векторной базы: переписка плохо режется на чанки — один факт собирается из десятка реплик в разных чатах, человек то Саша, то Александр, то ник, а устаревшие договорённости лежат в индексе наравне со свежими.
Вместо чанков — карточки сущностей: люди, проекты, темы, факты, задачи. Сообщения режут на куски по 100 штук (внутри — один чат), на каждый кусок один вызов модели со строгим JSON. В промпт подкладывают список известных сущностей, чтобы имена не расползались, а слияние идёт по ключу «пользователь + тип + каноническое имя».
Вывод: решают скучные вещи — состояние обработки, дедупликация, идемпотентность и связь с источником; вызов модели — процентов пять работы. На 34 чатах вышло 281 сущность и 1815 фактов, около 10 млн токенов — меньше $10.
🌐 Источник: Хабр
#ИИ #Память #Агенты #RAG #Автоматизация