![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
arzarra Мой опыт оптимизации использования механизмов сохранения контекста прошлых чатов и глобальной сохранённой памяти.
И Gemini, и ChatGPT давным-давно помнят контекст как текущего чата, так и других, прошлых чатов тоже. Плюс saved memory — некие обобщённые данные о вас, вашем характере, повадках, интересах, стиле речи и т.д. И проявляют инициативу, предлагая анализ с учётом этой дополнительной информации. Всегда, а не как исключение. Проблема же в том, что всё, что вне текущего чата, а также внутри актуального чата, но вне основной памяти, хранится/подгружается в форме неких обобщённых summary, которые генерируются вне вашего контроля на усмотрение системы. Вы даже можете потерять буквальный контекст текущего чата (он также заменяется автоматическими summary), но получить "напоминание" из другого, старого, сохранившегося в кратком виде и подгруженного в текущий чат.
Чтобы хоть как-то контролировать этот процесс, рекомендуется раз в несколько десятков вопросов-ответов делать ревизии всего предыдущего чата, формировать промежуточное summary явным образом (самостоятельно или с помощью самого ИИ), уточнять, дополнять деталями и просить далее опираться прежде всего на него. Точно также нужно периодически проводить ревизии межчатовой памяти (что ты знаешь обо мне, моих привычках, стиле, запросах и т.д. из последних чатов?) и saved memory (что у тебя хранится обо мне в постоянной памяти?), проверять, уточнять, подчищать и дополнять их по вкусу и потребности.
Также рекомендуется вовремя удалять старые чаты (а не архивировать их), заменяя свежими короткими, содержащими лишь эксплицитные summary старого чата (или нескольких чатов). Так контекст старых чатов с большей вероятностью будет в контексте любого нового текущего чата. Можно и отключать (временно забывать) старые чаты по определённой тематике в текущем треде, но это ещё более тонкий навык.
Наконец, очень важно правильно использовать язык в каждом из чатов. Лучший, наиболее продуктивный вариант — основной язык, например, русский, с вкраплениями точной терминологической лексики и фразеологии на английском или наоборот, английский с вкраплениями русского для нюансов, регионализмов и эмоций. У меня чат давно разговаривает в таком смешанном языковом режиме. Сначала это выглядело как "недоперевод", но теперь отшлифовано, согласовано в промптах (глобальной и локальной частях) и работает эффективнее, чем моноязык. В то же время не стоит допускать перемены грамматического языкового кода в рамках одного чата. А самое главное — подхватывать в точности те формулировки и на том языке, какие и как пишет сам чат, без разнобоя, вольной, особенно двуязычной синонимии/кáлек и пр. Это резко повышает эффективность формирования summary и максимально полезной межчатовой памяти.
Это далеко не всё, но как база должно быть известно, чтобы уметь пользоваться межчатовой памятью и глобально-осведомлённым о вас и том, что вы обсуждаете, диалогом в чатах.
У меня ИИ не просто случайно что-то вспоминает и советует на основе прошлого обсуждения, он прекрасно знает, какие концепции и темы мне интересны, держит их всегда в контексте, использует уже выработанные в аккаунте, а не только во внешнем мире, теории, гипотезы, термины на разных языках и умеет постоянно их применять прозрачно в рамках анализа нового материала. Это касается как тем гуманитарно-социальных, так и айтишных. Только для айтишных тем основной язык всегда английский.
И Gemini, и ChatGPT давным-давно помнят контекст как текущего чата, так и других, прошлых чатов тоже. Плюс saved memory — некие обобщённые данные о вас, вашем характере, повадках, интересах, стиле речи и т.д. И проявляют инициативу, предлагая анализ с учётом этой дополнительной информации. Всегда, а не как исключение. Проблема же в том, что всё, что вне текущего чата, а также внутри актуального чата, но вне основной памяти, хранится/подгружается в форме неких обобщённых summary, которые генерируются вне вашего контроля на усмотрение системы. Вы даже можете потерять буквальный контекст текущего чата (он также заменяется автоматическими summary), но получить "напоминание" из другого, старого, сохранившегося в кратком виде и подгруженного в текущий чат.
Чтобы хоть как-то контролировать этот процесс, рекомендуется раз в несколько десятков вопросов-ответов делать ревизии всего предыдущего чата, формировать промежуточное summary явным образом (самостоятельно или с помощью самого ИИ), уточнять, дополнять деталями и просить далее опираться прежде всего на него. Точно также нужно периодически проводить ревизии межчатовой памяти (что ты знаешь обо мне, моих привычках, стиле, запросах и т.д. из последних чатов?) и saved memory (что у тебя хранится обо мне в постоянной памяти?), проверять, уточнять, подчищать и дополнять их по вкусу и потребности.
Также рекомендуется вовремя удалять старые чаты (а не архивировать их), заменяя свежими короткими, содержащими лишь эксплицитные summary старого чата (или нескольких чатов). Так контекст старых чатов с большей вероятностью будет в контексте любого нового текущего чата. Можно и отключать (временно забывать) старые чаты по определённой тематике в текущем треде, но это ещё более тонкий навык.
Наконец, очень важно правильно использовать язык в каждом из чатов. Лучший, наиболее продуктивный вариант — основной язык, например, русский, с вкраплениями точной терминологической лексики и фразеологии на английском или наоборот, английский с вкраплениями русского для нюансов, регионализмов и эмоций. У меня чат давно разговаривает в таком смешанном языковом режиме. Сначала это выглядело как "недоперевод", но теперь отшлифовано, согласовано в промптах (глобальной и локальной частях) и работает эффективнее, чем моноязык. В то же время не стоит допускать перемены грамматического языкового кода в рамках одного чата. А самое главное — подхватывать в точности те формулировки и на том языке, какие и как пишет сам чат, без разнобоя, вольной, особенно двуязычной синонимии/кáлек и пр. Это резко повышает эффективность формирования summary и максимально полезной межчатовой памяти.
Это далеко не всё, но как база должно быть известно, чтобы уметь пользоваться межчатовой памятью и глобально-осведомлённым о вас и том, что вы обсуждаете, диалогом в чатах.
У меня ИИ не просто случайно что-то вспоминает и советует на основе прошлого обсуждения, он прекрасно знает, какие концепции и темы мне интересны, держит их всегда в контексте, использует уже выработанные в аккаунте, а не только во внешнем мире, теории, гипотезы, термины на разных языках и умеет постоянно их применять прозрачно в рамках анализа нового материала. Это касается как тем гуманитарно-социальных, так и айтишных. Только для айтишных тем основной язык всегда английский.
