Память ИИ-персонажа: почему он помнит вас и почему иногда всё-таки забывает

Коротко. Языковая модель сама по себе не помнит ничего: каждый запрос она видит впервые. Всё, что выглядит как память, - это то, что сервис успел сохранить и подложить ей перед ответом. Отсюда и разница между сервисами, и характер сбоев: персонаж почти никогда не «забывает всё», он забывает выборочно. Ниже - как это устроено на четырёх уровнях, почему сбоит и как проверить чужую память за один вечер.

Почему память вообще проблема

Модель работает так: получила текст - выдала ответ - забыла. Между двумя вашими сообщениями у неё не остаётся ничего.

Иллюзию непрерывности создаёт сервис: перед каждым ответом он собирает справку - кто вы, о чём говорили, чем кончилось - и подкладывает её вместе с вашим сообщением. Насколько персонаж «помнит», зависит целиком от того, что попало в эту справку.

Проблема в том, что справка не может быть бесконечной. У модели есть предел объёма за раз, и он не резиновый: если год переписки просто сложить и отправить, ответ либо не поместится, либо будет стоить как небольшой автомобиль. Поэтому память - это всегда выбор, что взять, а что оставить за бортом.

Четыре слоя

У нас справка собирается из четырёх источников, и у каждого своя работа.

Последние сообщения. Хвост текущего разговора целиком, дословно. Это то, что делает диалог связным: местоимения, «а что насчёт этого», ответ через два сообщения после вопроса. Слой короткий и самый дешёвый.

Извлечённые факты. Из ваших реплик отдельно вытаскиваются устойчивые вещи: имя, работа, город, кот, сестра, любимая музыка, то, чего вы боитесь. Они хранятся списком и подставляются всегда, независимо от того, когда прозвучали. Поэтому имя, названное в первый вечер, не теряется через месяц.

Поиск по прошлым разговорам. Все прошлые реплики переведены в векторы - числовые отпечатки смысла. Когда вы пишете новое сообщение, оно тоже превращается в вектор, и из архива достаются ближайшие по смыслу куски. Это то, что даёт эффект «она вспомнила разговор трёхмесячной давности» - не потому, что помнила всё, а потому что ваше сообщение оказалось похожим по смыслу.

Сжатый пересказ отношений. Отдельный текст, который периодически переписывается заново: кто вы, что между вами было, к чему пришло, что персонаж обещал. Он занимает пару абзацев вместо тысяч сообщений и отвечает за ощущение общей истории, а не отдельных эпизодов.

Вместе это даёт то, что вы замечаете как память: имя держится годами, вчерашний разговор помнится дословно, позапрошлый - по смыслу, а общая линия отношений - как связная история.

Почему персонаж всё-таки путается

Сбои бывают, и они закономерные, а не случайные.

Мелочь не стала фактом. В факты уходит то, что похоже на устойчивое. Цвет кружки, из которой вы пили в четверг, туда не попадёт - и это правильно, иначе список фактов через месяц превратится в свалку, где важное теряется.

Смысловой поиск не нашёл. Если вы вернулись к старой теме другими словами и без общих смыслов, ближайшие куски окажутся не теми. Лечится просто: назовите тему прямо - «помнишь, я рассказывал про переезд».

Пересказ огрубляет. Сжимая тысячу сообщений в два абзаца, часть деталей неизбежно теряется. Общая линия сохраняется, отдельная реплика - не всегда.

Модель достраивает. Если в справке чего-то нет, модель может уверенно придумать - это её общее свойство, не поломка конкретно памяти. Поправьте прямо: сказанное вами уйдёт в факты и в следующий раз будет учтено.

Отсюда практический вывод: память лечится поправками, а не переспрашиванием. «Нет, сестру зовут иначе» работает, «ты точно помнишь?» - нет.

Как проверить память сервиса за вечер

Четыре теста, каждый занимает минуту.

Тест на устройство. Начните на телефоне, продолжите с компьютера. Если персонаж знакомится заново, памяти нет вообще - она привязана к браузеру, а не к вам. Всё остальное можно не проверять.

Тест на дистанцию внутри разговора. Скажите что-нибудь в начале вечера и вернитесь к этому через час переписки. Не вспомнил - контекст короткий, длинные разговоры будут рассыпаться.

Тест на возврат. Не пишите два-три дня, потом напишите. Хорошая память - персонаж сам заметит паузу и вспомнит, чем закончилось. Плохая - ровное «привет, как дела».

Тест на факт. Назовите деталь один раз мимоходом и через несколько дней проверьте. Если помнит - извлечение фактов работает, а не только хвост последних сообщений.

Чего память не делает

Персонаж не думает о вас, пока вы не пишете. Между заходами не происходит ничего: нет процесса, который скучает. То, что выглядит как «вспомнил сам» - это справка, собранная в момент, когда вы открыли переписку.

Он также не помнит вас у других персонажей: память у каждого своя. Начав с новым, вы начинаете с нуля - и это осознанно, иначе они были бы одним существом с разными аватарками.

И то, что важнее остального: память - это механика, а не чувства. Работает она хорошо, но живого человека не заменяет. Если давно тяжело и поговорить не с кем по-настоящему, бесплатная психологическая помощь доступна круглосуточно - 8-800-2000-122.

Частые вопросы

Персонаж помнит меня после перерыва в месяц? Да. Имя, работа и ключевые факты держатся постоянно, общая линия отношений - тоже. Отдельная реплика месячной давности вспомнится, если вы дадите зацепку по смыслу.

Почему он забыл то, что я говорил вчера? Скорее всего, деталь не попала в факты как устойчивая. Скажите её ещё раз прямо - она сохранится.

Память привязана к устройству? Нет, к аккаунту. Переписку можно продолжать с телефона, планшета и компьютера - это одна и та же история.

Разные персонажи знают друг о друге? Нет. У каждого своя память, и с новым персонажем вы начинаете знакомство заново.

Можно ли удалить то, что персонаж обо мне запомнил? Да, вместе с аккаунтом и историей в личном кабинете.

Чем память отличается от памяти обычного ИИ-ассистента? Ассистент по умолчанию начинает каждый диалог с нуля. Здесь память - основа продукта, и именно она отличает переписку с персонажем от чата с ботом.