0: Тема у нас сегодня интересная, насущная, всех интересующая. Если вы работаете с агентами, то тема памяти это 1 из основных тем, и это основа вообще в
1: В принципе, работы агента, потому что без памяти сейчас даже захудалый, не знаю, десктопный, либо там, не знаю, браузерный любой агент уже не работает, то есть
2: Любой сейчас любая лмка уже имеет функцию памяти, функцию запоминать вас, ваши предпочтения и когда даже в браузерной версии gpt там или не знаю.
3: Да, вы что-то пишите, он уже понимает вас и, соответственно, обладает той самой памятью, но не в той мере, да, в которой используем её мы.
4: Об этом сегодня и речь. Короче, смотрите, я буду вам показывать свои, так скажем, свои работы, свои схемы, какие-то схемы мы уже с вами
5: Видели, смотрели. То есть это была схема последняя по гермес агенту это по состоянию, да, то есть что такое гермес, в принципе, его состав. И сейчас мы будем
6: Изучать вот эту вот схемку. Называется она память. Я её составил вместе со своим агентом, который занимается у меня как раз архитектурой моей агентской системы. Он хорошо.
7: Понимает, знает себя, знает всю агентскую свою команду и память. Соответственно, вот с этого мы и начнём прежде всего с того, что это такое. Из чего
8: Стоит и как это все работает. Вот. А дальше уже может быть там на примерах, может быть на общение с моим агентом, позадаем ему вопросы, да, то есть какие-то нюансы как раз и также разберём память аген.
9: Это не та самая память, да, когда мы с ним общаемся, да, то есть в диалоге мы уверены, что агент будет нам говорить, исходя из того, что он понимает контекст вчерашнего разговора. Но нихрена подобного
10: Зачастую как раз у нас случается так, что агент говорит, о чем мы с тобой там обсуждали, он не помнит, да, то есть, и вот, значит, подписчики и просто, да, из комьюнити товарищи говорят.
11: Что, блин, с памятью проблема, память не работает. Ну, это опять же, как и в прошлый свой стрим. Я, наверное, сделаю вывод, что просто это происходит из за непонима.
12: Вообще, каким образом и какая память существует у агентов, понятное дело, что есть сейчас крутые всякие там вторые мозги, графовые, крутые, там, какие-то машины, вы там
13: К ним подключаетесь, и все, там, и космос, да, полетело все, да, это все есть, но даже я в своих системах это не использую. То есть я на самом деле использую достаточно простую систему, но есть там
14: Ну, это я сейчас наперёд захожу, да, то есть о чем мы будем говорить. Но есть там свои определённые адаптации в плане адаптации свики, да, как карпатова. У меня также есть адаптация моей системы памяти с рлм.
15: Тоже классная штука, то есть достаточно простая система, но она состоит из внедрённых в неё достаточно интересных сложных вещей, но адаптированных под агентскую систему. Вот, и в итоге это получа,
16: Ну, по крайней мере, мне так кажется, не настолько все и сложно. И вот че, значит, мы делаем, да, мы, общаясь со своим агентом, пишем агенту сообщение, я буду разговаривать с
17: Сегодня о своей системе, системе памяти, о том, как устроено это у меня, потому что все достаточно индивидуально вот и на примере своей системы я расскажу, как она устроена вот я пишу ему в telegram, я использую telegram, я использую
18: С агентом, значит, вместе с текстом это сообщение наш агент получает id, id чата, id отправителя, имя отправителя, тип чата id системы или сообщение, ну,
19: Если сообщение находится в теме, да, тред, то есть, опять же, если мы используем какой-то, ну, в топике, допустим, да, когда мы пишем, я так не использую, да, но, тем не менее, информация о сообщении, на которое
20: Вы ответили, временная метка вложения, если они есть, ну, там всякие фотографии, может, аудио, может, вы записали голосовуху. Вот. И далее определяется профиль агента, опять же, профиль агента.
21: Мы же ему и пишем, да? То есть мы пишем тому агенту профиль, которого хотим задействовать. То есть наш профиль агента подключается к ключу бота, да, когда мы изучали агент
22: Систему полностью, да, гермеса. Вот мы здесь как раз в каком-то из стримов, да, посмотрите, если кто-то не смотрел полностью, разбирал я эту систему, и мы с вами понимали, что
23: То установленный агент, да, гермес, агент, как, грубо говоря, там приложенька, да, она 1, но чтобы нам разделить агента на несколько там живых исполнителей, да.
24: То есть тех самых агентов, о которых я все время говорю, которых у меня уже 19 штук. Мы создаём профили, профиль. Это вот, грубо говоря, папка с определёнными файлами, с памятью, с ролью, да?
25: Вот у него, то есть есть всякие и ключи, и модель под каждого агента можно сделать сам, самостоятельно. База диалогов, история сообщений, служебные данные профиля, ну и те самые файлики солди.
26: Да, age memory, эдди юзери, ну и скиллы, соответственно. То есть каждый отдельный профиль обладает вот этими всеми плюшками, что как раз и выделяет каждого из агентов, что как раз и позволяет нам
27: Общаться с агентом, с 1, как там, не знаю, с продавцом, с другим, как с автомехаником и так далее. То есть профиль как раз нам отделяет нашего агента и возможность
28: Этого агента и развитие потом этого агента происходит вот в этом как раз в отдельном его профиле.
29: Вот, то есть определяется профиль, как я уже сказал, роль рабочая директория, стартовые инструкции, доступные инструменты, локальные скиллы, мемори ди, user, Эмди.
30: Подключены плагины, настройки, модели, правила маршрутизации, разрешённые источники. То есть мы, набирая сообщение агенту, автоматически цепляем за своим сообщением этот агентский контекст.
31: То есть автоматом все это уже загружается к нашему сообщению этого агента, к этому агенту, к этому профилю.
32: Getaway находит или создаёт сессию в контекстной инженерии мы с вами разбирали, значит, что такое сессия, сессия это отдельный рабочий стол. То есть это как будто у нашего агента
33: Есть, ну, письменный стол, на котором находится контекст. Все, что сейчас разложено на столе, да, вот эта информация, история сессии, это рабочий журнал этого стола. Память это короткий блокнот с устой.
34: Фактами. База знаний это шкаф с документами и регламентами. Ну, скиллы это инструкции, технологические карты. То есть у нас нам агент должен увидеть
35: Сессию. Была ли эта сессия, да, продолжается ли она? 1 ли это сессия? Предыдущая сессия истекла или сброшена. То есть нам нужно определить вот этот вот рабочий стол, на кото
36: Буду будет находиться наша вся информация. Ну, это если говорить образно, если сессия продолжается, да, если активная сессия уже существует, используется её сессия. Найди.
37: То есть idea этой сессии. Именно поэтому наш агент и понимает наше обращение к нему. Допустим, мы там вчера что-то обсуждали, я могу сегодня агенту написать, ну чего там, какой итог вчера.
38: Вчерашнего дня он, опять же, подгрузив эту сессию, так как она была, так как она сейчас загружена, так как рабочий стол этого агента имеет некую информацию, он может продолжать с нами диалог. То есть, если бы у нас сессии не было, если бы это
39: Была 1 сессия, то он бы сказал, привет. А че мы вчера с тобой, типа, обсуждали, да? Вот, то есть сессия это, ну, важно, то есть её найти агент обязан, чтобы продолжить с вами, допустим, какой-то вчерашний там или сегодняшний диалог, если мы к нему снова
40: Обращаемся опять же, исходя из того, что тема, ну, тему мы продолжаем. Используется id сессия, да, сохраняется прежняя история, восстанавливается сохранённый систем промт и продолжается тот же разговор. Ну, это о чем я
41: И сказал, если это 1 сессия, если сессии ещё нет, создаётся новый сессия, найди история, пока пустая. Систем промт будет собран заново. Стартовые контекст, файлы, там, memory и так далее. Они
42: Будут прочитаны с диска. Вот если сессия предыдущая истекла или сброшена, да, то есть, если сессия завершилась из за таймаута сброса, да, создаётся новая
43: Опять же сессия старая история не добавляется автоматически агенту передаётся системная отметка, что разговор свежий, прошлую сессию при необходимости можно искать отдельно, через session search это мы тоже с вами сейчас, чуть чуть позже.
44: Пройдём, найдём и расскажу вам. Это очень важная штука. Вот. То есть, исходя из этого всего у нас формируется метаконтекст сессии гитвей строит сессион, контекст, туда могут входить
45: Платформа, тип чата, id, имя отправителя. То есть все, что у нас сверху было, то, что я показывал, да, это все опять же компонуется в определённый, ну, контекст. То есть вот этот весь рабочий стол, грубо говоря, да, нашего агента. Зачем
46: Он следит за стол с информацией, это все туда падает, то есть что у него будет перед глазами, то есть он должен видеть всю информацию, чтобы иметь в контексте всю полноту для качественного вам ответа.
47: Вот подключённые платформы должны быть здесь уже подключены ограничения приватности, отметка. Ну все, все, да, что вот здесь вот вы видите, этот блок отвечает на вопросы, где происходит разговор? Кто пишет
48: В каком чате, в какой теме, на какое сообщение отвечает, отвечает пользователь? Куда можно доставить результат? Является ли сессия новой или продолжающейся? Вот мы сейчас с вами только лишь собираем контекст, который
49: Приплюсовывается к нашему запросу, да, то есть это сейчас работает, так скажем, такая память, постоянно, постоянно подгружаемая агенту полностью, да.
50: Вот. И тут же опять есть автокилл для новой сессии. Если да, загружается скилл. Если нет, будем продолжать. То есть он продолжает, переходит к следующей операции. Что здесь происходит? Здесь опять?
51: Если агент у нас какой-то профильный там, допустим какой-нибудь там
52: Не знаю, ну, кто у нас может быть. Ну, допустим, дизайнер, да, у него подключается возможность скилл, да, использования, там, как у меня gpt, да, gpt имидж для создания изображения.
53: Вот, то есть в данном случае у агентов не должно быть всех Скилов, которые вы имеете у себя в системе агентской гермес. Все там, кто хвастается, да, то есть зачастую слышу.
54: Куча людей думает, что если много Скилов, значит у него агент умнее. Не так это эти скиллы. Просто если неправильно ими пользоваться, они просто засрут с 1, с 1 же запроса контекст.
55: Вашего агента. И в данном случае агент не сможет нормально работать, потому что у него изначально с 1 же запроса будет вот этот рабочий стол, да, он полностью забит. То есть ничего хорошего.
56: У вас этого не будет, поэтому я тоже советую подгружать агентам скиллы только те, которые действительно будет агент использовать. То есть, если это designer, ему не нужны скиллы юриста, подгружается транскрипт активной
57: Сессии, то есть сессия айди сессия стор. Так, чтение записей из sql lite. Здесь уже подключается эскьюэль лайт. Они, кстати, отдельно, да, хочется
58: Сказать, когда я только начал работать с агентами, а начал я с open клоу вот именно такими агентами, да, то есть продвинутыми у него никаких баз скьюлайт не было.
59: Все работало только на md файлах да, md файлы это классный формат, который в принципе то очень неплохо воспринимают агенты, то есть я считаю, что не то что очень неплохо супер, но баз.
60: Данных, они все-таки нужны, в них может храниться большой массив информации, иначе просто агенту придётся читать полностью все эти Эмди файлы для поиска нужного. Какого
61: Контекста амди файлы могут и быть достаточно тяжёлыми, да, там целые книги туда можно помещать. Вот, то есть поиск по базе данных, если там, ну, с индексами
62: Далее, да, с метаданными просто проще происходит и хранить можно просто большой объём информации вытаскивать удобнее. Так вот, я к чему сейчас эскьюэль лайт по умолчанию уже работает в агенте.
63: Гермес и туда записываются как раз все разговоры с агентом. Ваш разговор с конкретным агентом, с конкретным профилем. То есть ваш диалог записывается автоматически сейчас в эскьюэль лайт базу.
64: И хранится там, но поиск идёт по тексту, да, то есть мы пишем какой-то запрос. То есть агент пишет запрос в эту базу, чтоб найти какой-то кусок информации. Исключи.
65: По тексту, то есть не по семантике, не по смыслу, а по тексту. Про семантику тоже мы сейчас с вами скоро поговорим.
66: Так, сортировка в порядке разговора. Далее идёт список предыдущих сообщений. То есть здесь опять все все ещё мы работаем с сессией, с контекстом ещё.
67: Пока не обращаемся сильно ни к какой там специальной базе данных, кроме вот как раз эскьюэль лайт.
68: События этой сессии возвращает их в хронологическом порядке, то есть sqlite хранит техническое состояние Разговоров в 3 основных таблицах.
69: Ну, об этом чуть чуть попозже, подробнее поговорим. Далее проверяется объём загруженного транскрипта. Что такое транскрипт? Это текстовая и структурированная история разговора, которая состоит из, ну,
70: Токенов, да, а токен это техническая часть, технические части, на которые модель разбивает этот текст перед обработкой. Вот тут как раз происходит работа именно с транскриптом, загружается транскрипт активной сессии.
71: Проверяется объём транскрипта. Транскрипт слишком большой. Если нет, то используется без изменений. Если да, то сжать старую часть в, summary, обновить склайт, загрузить сокращённый транскрипт. Вот тут как раз
72: Происходит то самое сжатие контекста, да, то есть, когда у нас, у агента есть определённый контекст, это, ну, окно, да, которое он может прочитать за раз.
73: Если в данном случае вот этот вот транскрипт позволяет не перегрузить этот контекст, контекстное окно, то все хорошо, да, то есть если
74: Нет, то вот здесь как раз сжимается старая часть в самбери и загружается сокращённый транскрипт. Далее, опять же, если транскрипт не перегружен, либо если
75: Transcript сжат, подготавливается текущее сообщение пользователя, вот оно здесь подготавливается, то есть извлекается текст сообщений, добавляется контекст реплей, обрабатывается изображение.
76: Вложения учитывает тред и метаданные платформы, очищает служебные элементы. В результате формируется месседж текст, текущее сообщение пользователя, которые будут переданы агенту вместе с мета контекстом и транскриптом. Вот.
77: Здесь как раз, да, приплюсовывается то самое сообщение. И вот получается вот этот комок информации, да, полностью с прошлыми какими-то, с прошлой сессией, с прошлыми сообщениями агента, со всеми данными.
78: Нужен ли скилл, да ещё что-то. Ну и все это формируется в 1 большой запрос.
79: Далее собирается контекст и выполняется 1 вызов модели в контекст объединяются системные инструкции и метаконтекст юзер эдди мемори Эмди активная транскрипт текущая месседж текст, доступные инструменты.
80: И компактный индекс Скилов вот тех самых незагруженных полностью, да?
81: А компактный их индекс собирается. Контекст передаётся модели. Достаточно ли текущего контекста для надёжного ответа? Это следующий идёт такой анализ. Модель оценивает. Понятна ли задача хватает
82: Текущего транскрипт и персистент мемори нужна ли, нужны ли прошлые разговоры, нужны ли инструкции из скил, нужны ли канонические документы, требуется ли проверка?
83: Состояния. Вот тут скоро начнётся самое интересное.
84: То есть тут только лишь 1 вызов модели. Только сейчас вот модель 1 раз смотрит вообще, что к ней, грубо говоря, пришло и что дальше будем делать. Итак, мы накопили контекст, да, то есть мы приплюсовали к контексту.
85: Наш запрос моделька посмотрела и, значит, она определяет
86: Достаточно ли текущего контекста для надёжного ответа? Если да, тогда можно формировать ответ. То есть в данном случае моделька даёт нам ответ, потому что она видит, что все в принципе,
87: Достаточно, мне никакие типа, базы больше не нужны там я сказал агенту привет он посмотрел, собрал контекст, выпулил мне привет. То есть дополнительно ничего не требуется, да? Ну из каких-то, каких-то простых вот таких вот сообщений.
88: В которых не нужно взаимодействие агентов, никаких в которых не нужно что-то вспоминать, тяжёлое, в которых не нужно подключать какие-то инструменты и прочее.
89: Нет, нужно выполнить действия. То есть агент понимает, что в этом контексте, допустим, какому-то агенту, допустим, ресерчеру, я ему сказал, найди там какие-то в интернете, но
90: Либо найди какие-то крутые способы применения агента гермес в бизнесе, да, допустим, он пошёл, собрал весь контекст, посмотрел, что у него в сегодняшних разговорах об этом
91: Там речи со мной не велось. То есть он понимает, что у него, грубо говоря, нету этой информации. То есть найти он там её не может по смыслу и по словам вот соответственно, ему модель определяет, что нужно чем-то воспользоваться.
92: В данном случае он может воспользоваться там инструментом, браузером, да, здесь как раз нужно выполнить действие action тул, то есть активировать какой-то инструмент, изменить файл, запустить тест, создать документ, выполнить разрешённое действие. Ну, как пример, допустим, да, он по
93: И нашёл это все в каком-то браузере, либо в каком-то Ином инструменте, который я этому агенту даю для поиска. Ну и 3 вопрос. 3 ответ нет, нужен дополнительный контекст, то есть
94: Здесь ему не хватает какой-то, видимо, информации, хотя информация также это и ответ какого-то инструмента, да, то есть мы запросили что-то agent пошёл в инструмент, активировал этот
95: Инструмент вытащил какую-то тоже информацию, это тоже является информацией, но здесь это больше вот именно какая-то, ну скорее какая-то база, да, то есть bass той информации, которую мы уже, допустим, где-то собрали. То есть, ну вот эти 3 варианта.
96: То есть, если действительно модель понимает, что достаточно контекста, отвечает, нужен инструмент, пошла в инструмент, если нужен дополнительный контекст идёт в контекст. И тут у меня
97: Подключена очень интересная штуковина, которая называется рлм.
98: Это рлм, у меня подключена до того, как агент может воспользоваться любой другой информацией, любой другой какой-то базой данных, даже источников истины, такие как Вики.
99: О которых мы тоже поговорим. Итак, что такое rlm рлм у меня и в операционке я говорил об этом можете и в предыдущих, по моему, стримах я говорил и информацию.
100: Ссылки присылал, если кому интересно будет, да, потом найдите на гитхабе, просто наберите рлм и он у вас выползет, выпадет, да, то есть почитайте, это очень классная штуковина. То есть это рекурсив лангвич.
101: Модель, механизм выборочного получения дополнительного контекста. То есть он что делает вместо загрузки всей доступной памяти рлм определяет, какой информации не хватает, выбирает подходящий источник за
102: Пускает нужный инструмент поиска, извлекает только релевантные фрагменты, добавляет найденное в текущий контекст модели рлм ничего не хранит, он маршрутизирует запросы к существующим источникам памяти и при необходимости повторяет.
103: Доступные маршруты это прошлые разговоры, это session search, это канонические знания, мемори, индекс серч и исходные Вики файлы. То есть это уже индекс, это он идёт по
104: По векторам, да, по семантике определяет процедуры скиллс смотрит, да, опять же, код конфигурации, документы, текущее состояние. То есть, что он делает, вместо того, чтобы тот недостаток
105: Информации, которая необходима лмке для агенту. Для ответа агент не начал искать по всем базам. Да, он может кинуть запрос в векторную базу, значит, векторная база ему
106: Выдаёт какие-то там, не знаю, релевантные 10 Чанков, да, 10 там текстов каких-то, и он это все загружает слепо в контекст, и лмка, исходя из этого, начинает там
107: Значит, че то придумывать, отвечать. Рлм это как будто такой стоп, стоппер, да, то есть это возможность остановиться и в дальнейшем выбрать с помощью подключённой вашей же лм.
108: У меня так настроено, да, он определяет, а куда, куда надо обратиться, то лучше всего. То есть здесь лмка определяет отдельно. То есть это такой шаг, дополнительный шаг, который позволяет
109: Отдельно осмотреться и понять, откуда конкретно что-то тащить, да, что нам делает качество ответа гораздо выше, потому что она не находит релевантные несколько, там, 5 каких-то Чанков, да.
110: Она может найти там большее количество, дальше из этого количества, отобрать по смыслу более подходящее и взять в контекст именно ту информацию, которая конкретно нужна для ответа, чем отличается обыч.
111: Рак от как раз той самой рлм, о которой я сейчас как раз и говорил. Обычно рак делает 1 заранее определённый подход. Вот как раз о чем я говорил. Да, вопрос поиск топ 10 и вставить 10 фрагмент.
112: Фрагментов промт и получается ответ рлм работает итеративно. То есть вопрос 1 поиск изучить результаты, изменить стратегию, разделить кандидатов, вызвать, подмодели, обнаружить про
113: Сделать дополнительный поиск, объединить и тогда уже даёт ответ. То есть rock заранее задаёт способ извлечения рлм позволяет модели адаптировать способ исследования к конкретному вопросу, то есть
114: Это не библиотекарь, который постоянно читает все книги, он скорее аналитик и читает в читаемом зале. То есть очень классная штука. Очень рекомендую. То есть и у меня она стоит вот здесь, когда мы уже по
115: Что у нас все собрано, когда агент с моделью определяет, что че то не хватает, он делает запрос в rlm и соответственно, рлм уже ищет по всем вашим базам, их может быть множество.
116: Именно ту информацию, которую нужно. Так, если мы посмотрим, да?
117: Состав агента гермес, то здесь я также показывал, да, что инструмент
118: Рлм, он уже присутствовал у меня изначально, да, то есть я его включал в состав агента, можно сказать так, что rlm это инструмент, да, как любой
119: Другой тул у агента, и этот инструмент, он, значит, управляет нашей нашими базами там памяти и bass памяти. Если у вас, допустим, даже нету этой рлм, если у вас просто есть какая-то база, если у вас там векторная, граф.
120: И другая база. Я это тоже, так скажем, называю инструментом, потому что это то, что нам даёт контекст. Если нам инструмент, браузер даёт контекст, это инструмент, если нам
121: Какой-то скилл даёт контекст если когда мы его проходим, да, то есть у нас получается какой-то результат, этот контекст так и база данных это тоже инструмент, который нужно научить агента пользоваться.
122: Как любым другим инструментом и любой, как и как любой другой инструмент, этот, значит, эта память даёт нам дополнительный контекст. То есть все, что мы, в принципе с агентом делаем для
123: Ответа нашего агента нам, да, в любом его виде, это мы добиваемся, мы ему даём необходимую информацию. То есть мы ему собираем этот же контекст ему туда, да, делаем, грубо говоря.
124: Большой промт. И опять же, подключая все эти инструменты, мы эту информацию обогащаем нашим контекстом, то есть мы её персонализируем. Если эта информация о нас, он должен знать где
125: База данных нашей информации о нас, и тогда он получит к тем самым тому комку информации, да, то к тому самому рабочему столу сессии, да, именно контекст о нас, то есть
126: Все, что мы делаем с агентом, это мы ему готовим всю эту информацию для того, исключительно для того, чтобы он классный ответ нам дал. То есть раньше, если мы там учились писать промпт на 3 страницы.
127: Чтобы получить более менее нормальный ответ, то он уже изначально этот prompt, имеет, собрав всю информацию изначально там memory Эмди эджент Эмди юзер Эмди.
128: Про сессию посмотрев, да, то есть, посмотрев историю наших диалогов, он уже представление полностью максимальное имеет. Вот. И опять же, если ему этого не хватает, он воспользуется инструментом памяти и
129: Найдёт дополнительно. То есть вообще рлм управляет. Видите, рабочая память может посмотреть память профиля. User, если нужно ещё раз зайти. История диалогов, векторная память, источники истины, такие как Вики.
130: Процедурная память, скилы и прочее. Вот, то есть я его, этот инструмент сильно выделяю, он помогает нам добиваться качественного ответа и собирает очень хороший контекст.
131: Нужен ли дополнительный контекст. То есть рлм здесь определяет, если не нужен дополнительный контекст, тогда происходит прямой ответ без обращения к внешним источникам. Опять же, когда контекст необходим актуальное состояние, файл теку
132: Задачи, какая-то процедура и прошлые разговоры. То есть мы отсюда можем вытаскивать какой-либо контекст, актуальное состояние вы можете посмотреть live tools, рантайм, веб локс и так далее, да, то есть дальше.
133: Это все идёт в минимальный контекст, добавлен основной модели. То есть в данном случае основная модель его этот контекст получает. Если файлы текущей задачи, мы смотрим эти файлы серч файлс, ищем эти файлы, читаем эти файлы.
134: Рит файл, нужный участок этого файла. И опять же мы передаём минимальный контекст. Добавлен основной модели. Если какая-то процедура скил, ну в данном случае, значит, подключается какой-то скилл и опять же
135: После этого скилла мы собираем минимальный контекст для модели. Прошлые разговоры, сессион серч. Здесь у нас идёт поиск по базе эскюэль лайт, кстати,
136: По поводу эскьюэль лайт. Все, повторюсь, сессии Разговоров. То есть что такое сессия Разговоров? Это диалоги ваши с агентами, да, с каждым агентом, как у меня это настроено, у меня настроено так.
137: Что у каждого агента своя база данных свой вот этот вот session search, то есть там хранится диалоги конкретно моего агента и меня.
138: В 1 месте, то есть это все не должно быть. Если у вас опять же много агентов, это все не должно быть где-то в 1, ну, огромном там, да, складе это, это нужно тоже разделять.
139: То есть я рекомендую всегда своему, любому, каждому из ваших агентов делать отдельную базу.
140: Вот, и опять же, если необходимо какому-то агенту вспомнить что-то, он может не найти это в текущей сессии, да, в текущей сессии до сброса, если он не находит эту информацию в текущей сессии до сброса.
141: Допустим, чем мы занимались там 20 июня, тогда он обратится в базу данных диалогов и будет там искать по
142: По словам, то есть не по семантике, по словам, по метода там, там, по датам, по и так далее. Ну то есть полностью будет искать эту информацию и вытаскивать что-то, да, что найдёт, ну, допустим,
143: Вот, все, мне агент отвечает, вот, допустим, вот наш основной агенту. Скажи, пожалуйста, что мы с тобой обсуждали 20 июня?
144: То есть сейчас он здесь пойдёт в, он сейчас в этой сессии не обнаружит информации. Сейчас технические сообщения, скорее всего, покажут, что он будет заходить как раз искать в сессии.
145: Так, пока он отвечает. Так вот, сессионс, вот серчинг пас сессион, вот он нам написал. Так, а чем он пользовался? Эскюэл лайт джейсон? Вот он, он, он ходил.
146: В нашу базу диалогов. И вот он нашёл, что мы 20 числа обновили гермес с 16 до 17 версии. И вот, вот, вот мы че то там с ним много что наделали. Окей?
147: Окей, окей, давайте дальше.
148: Так вот, мы собрали необходимый контекст и дальше получается опять же, контекст доказательств достаточно. И здесь опять, может быть не
149: Достаточно. То есть вот этих Кругов, да, может быть много тоже самое, что мы смотрели. Помните, когда мы использовали инструменты, где там вот описание нашего агента, когда у нас агент луп части
150: Агента. Вот это оно и есть, да, грубо говоря, если нам чего-то недостаточно, мы будем ходить вот здесь вот tool систем кругами, как здесь указано. Видите, мы будем
151: Совершать вот эти лупы, пока ответ модели, значит вот пока финальный ответ не будет готов, да, то есть мы будем постоянно набирать этот контекст.
152: Постоянно пользоваться инструментами, постоянно че то искать, пока все-таки ответа не будет. Итак, если мы опять же, если нам опять необходимо какой-то контекст заполучить, уточнить запрос и выполнить ещё 1
153: Ограниченный поиск, да, и мы стрелочкой вот уходим снова. Какой контекст необходим, и снова актуальное состояние, файлы текущей задачи, процедуры, прошлые разговоры.
154: Если нам контекста достаточно, основная модель составляет источники и формулирует, сопоставляет источники и формулирует результат, какие источники он сопоставляет все правильно, наш запрос, наш контекст резуль.
155: Результат инструмента результат Скилов результат базы данных, да, к которой он обратился за контекстом. Опять же, здесь нужно ли выполнить действие, если нет финальный ответ, если
156: Нужно выполнить действие. Тут опять тул экшен, то есть воспользоваться инструментом, проверить результат, факт дифф, тест, ред баг и так далее. То есть либо мы сюда уходим, либо мы можем
157: Сейчас, секунду. Очень важная штука. Это vika файлы, вот они, я их оставил в самом конце, потому что это важная штуковина, которая влияет на все и которая влияет на
158: То, почему у людей возникают вопросы, с каким с памятью агента, что он плохо выполняет свои инструкции, что он не идёт туда, куда
159: Его просят идти, что он там глупый, там отвечает мне что-то не то, не идёт в какую-то базу данных и так далее. Вот что такое Вики.
160: Вот здесь мы можем как раз обратиться к агенту, который умнее меня и который не так косноязычно вам это все расскажет. Вообще ллм Вики это система, которая
161: Не придумал, да, он, скажем, решил внедрить, как ллм карпаты, но его система, она немножко отличается от той системы, которую я адаптировал под свои
162: Под своих агентов. Нача, посмотри, пожалуйста, система Вики от карпаты, чем наша адаптированная система под гермес агентов отли.
163: Отличается от, ну, оригинальной, так скажем, версии ллм Вики.
164: Напиши простым языком и не, ну, коротко, так скажем.
165: Я рекомендую всегда не усложнять систему, да, как я уже в начале сказал, усложнять систему не нужно. Нужно просто потихонечку её наполнять и смотреть, что работает. То есть у меня в данном случае работает хорошо.
166: Это рлм рлм, понятно. Ещё раз повторюсь, это step шаг для того, чтобы осмотреться лмки осмотреться и понять что конкретно брать.
167: На больших объёмах, именно не адаптированный под агентскую мою систему работает, кушает меньше токенов. Если вы с гитхаба скачаете, посмотрите, да, то есть именно вот этот
168: Оригинальная версия, но на агентских системах есть определённые нюансы. Вот, кстати, да, пока он ищет так, друзья с операционки, я
169: Я вам хочу скинуть, скинуть файлы определённые.
170: Вот этот вот, вот эту схему, вот эти все схемы в excalibur, а также я собрал, я когда короче этого агента.
171: Ага, вот я когда своего агента мучил относительно
172: Относительно работы с памятью.
173: Вот, то есть, я его очень долго мучил, чтобы, ну, нарисовать эту схемку симпатично, да, то есть мы, мы углублялись в каждый вот этот вот частичку разбирали, каждую, каждый, вот этот вот прямоугольничек и прочее, вот он.
174: Повторил опять же и рассмотрел полностью, как работает эта вся моя агентская система. Вот, и исходя из того, что были вопросы, были сложности у подписчиков, у комьюнити,
175: Нашего с памятью определённые, что-то кто то там не делал, что то куда-то не заходил. Вот я попросил агента, исходя из знаний моей агентской системы, сформировать 1, что
176: Происходит у людей, что может ломаться. 2, причины, из за чего может что-то ломаться, что-то идти не так, что не так может работать. Почему такие ответы могут происходить и 3 это
177: Как это все починить. То есть если у вас что-то из этого происходит, вы давайте этот файл агенту своему, да, может сами почитайте, как бы, ну я рекомендую все файлы, которые я делаю, обязательно читать. И когда агент вам что-то присылает, вы
178: Читайте. Когда вы читаете, у вас происходит определённая, ну, насмотренность, да, вот этих действий, что воспроизводимых агентом, и просто вам потом становится понятнее, как, что происходит. Вот, то есть в этом файле посмотрите.
179: Давайте посмотрим, что, что он там будет опять выпендриваться. Ага.
180: Ага, сейчас, секунду. Вот почему агент гермес забывает причины диагностики исправления. То есть надо читать, когда вы читаете здесь очень доступно, я попросил сформировать все, вот и все. Полностью это
181: Все относится к агентской памяти гермес и причины и так далее. Ну, как я уже сказал, вот мы хотели посмотреть, чем отличается. Так.
182: Уточнение правильное говорить, говорить ллм Вики, Андрея карпаты он не придумал обычную Вики, а предложил шаблон персональной базы знаний, которая ллм постепенно создаёт и поддерживает маркдаун. Да, все верно, наша
183: Система действительно выросла из той же идеи, но мы довольно сильно переделали её под многофункциональную команду гермес агентов, в чем оригинальная идея карпатова карпаты начинает с проблемы обычного.
184: Рак в классическом рак происходит примерно так человек загружает документы, система делит их на фрагменты, но на чанки опять же по запросу ищет подходящий фрагмент. Ллм каждый раз заново собирает ответ. Все верно, да, то есть она делает запрос.
185: К векторной базе или к базе данных получает чанк и постоянно, да, постоянно это делает. То есть в контексте у него вся ллм, вся, весь, точнее, рак, все эти системы не загружены. То есть вообще агент не
186: Знает, в общем, вашу базу, и никакой агент не будет знать, у него просто контекста не хватит. То есть, если вы думаете, что ваш агент, значит, как он пользуется базой данных, что он просто загружает в себя эту базу данных, и всегда вам
187: Отвечает, потому что он её знает. Нет, он каждый ваш запрос, ваш запрос отправляет в эту базу данных по вашему ключевому слову, либо по семантике. Если это векторная база данных по смыслу, база данных отдаёт вам
188: Определённый результат и уже в контексте этого результата, лмка, агент даёт вам ответ. Проблема в том, что знания не накапливаются в готовом виде. Вот о чем я сказал. Если для ответа нужно связать 5 документов моделька
189: Раз повторно ищет и сопоставляет их карпаты, предложил добавить между исходными документами пользователем отдельный слой ллм Вики исходные материалы дальше ллм.
190: Читает и анализирует их, создаёт связанные маркдаун, страницы, обновляет существующие выводы, формирует развивающиеся Вики. Пользователь задаёт вопросы уже по этой Вики. То есть получается не
191: Просто поисковик по сырым документам, а постепенно развивающаяся база знаний и она состоит из md файлов Эмди файлы очень хорошо кушаются нашими агентами, 3 слоя оригинальных м Вики в исходной.
192: Идея есть 3 главных слоя исходные материалы, там статьи, научные работы, книги, изображения, заметки и так далее. Эти материалы лен читает, но не переписывает. В оригинальной модели именно раф сорс является
193: Первоисточником Вики обработанные знания. Ллм создаёт страницы понятий, страницы людей, организаций, тематические обзоры, сравнения, выводы, связи между темами, заметки о противоречиях и прочее. То есть эти страницы уже не
194: Является простыми копиями источников. Это результат синтеза. Например, 5 статей про памяти агентов. Лм. Сравнивает их, создаёт 1 страницу архитектура памяти и агентов. То есть он, грубо говоря, Вики перечитывает
195: Всю базу оттуда вынимает определённые данные, формирует их в Индии файлы, и тут их можно хранить. Очень удобно. Если вы хотите эти файлы визуально постоянно иметь под рукой, то
196: Как у меня, допустим, Вики файлы mmd файлы можно открывать с помощью обсидиан, то есть в obsidian не хранятся Эмди файлы mmd файлы хранятся в Папке на компьютере, в md формате и доступ вашего.
197: Агента как раз и осуществляется в эту папку, он не в обсидиане, это все читает, а его можно заставить просто в этой Папке ковыряться и туда значит, формировать эти знания. Вот обсидиан он необхо
198: Для того, чтобы вы просто могли самостоятельно визуально контролировать, че там у вас есть. Вот, и в данном случае Вики этот вот разделяет, он разделяет большую какую-то базу на отдельные части, которые проще и удобнее использовать.
199: Агенту вот правила ведения Вики. Обычно это agents Эмди клод Эмди или другой управляющий файл. Он объясняет модели, какие страницы создавать, как называть файлы, как оформлять ссылки.
200: Как добавлять новый источник, как обновлять старые выводы, как проверять Вики, как отвечать на вопросы Шема превращает обычного чат бота в редактора базы знаний, кто управляет оригиналом Вики в модели карпатова?
201: Человек в основном выбирает источники, загружает материалы, задаёт вопросы, направляет исследования, проверяет результаты. Алм выполняет основную работу. То есть здесь в данном случае человек загрузил только информацию. Сама эта система
202: Она как бы самостоятельная, то есть она прям супер самостоятельно все это дело, исходя из опять же, инструкции, как это делать, она самостоятельно все это дело разбивает, создаёт и формирует.
203: Вот карпатый прямо описал это примерно так человек отвечает за источники и хорошие вопросы. Ллм отвечает за ведение Вики. То есть в данном случае мы опираемся полностью на, ну, волю.
204: Лмки и полностью доверяем её формировать все ваши базы знаний. Если опять же, мы, значит, опять же упираемся именно в оригинальную идею, да, то есть у меня она немножко другая, в чем главная цель оригинал
205: Модель. Главная цель накопление интеллектуальной работы. Новый вопрос заново ищем документ, заново собираем ответ. Ответ остаётся в чате. Это без Вики. А с Вики новый вопрос. Используем уже накопленные знания. Добавляем новый вывод Вики становится
206: Каждый новый источник и каждый хороший вопрос улучшает общую базу, что мы сохранили из идеи карпатова. Это в моей уже системе, в моей, в моём вот этом вот моей адаптации мы сохранили основную идею знания находится вне модели.
207: Мы не рассчитываем, что лм. Сама всегда запомнит все внутри своих весов или текущего разговора. Знания хранятся в файлах и других внешних источниках. Основной формат маркдаун понятен человеку, понятен.
208: Легко читается, легко изменяется. Работает с гид, проходит для поиска, не привязан к 1 модели. Агент читает только нужную часть. Мы не загружаем всю Вики в каждый промт. Агент находит конкретный файл или несколько связанных.
209: И считает, только их знания могут развиваться, там, обновлять Вики. Можно, да, добавлять новые связи и так далее. Индекс помогает найти оригинальные документы. Самое важное отличие нашей системы от оригинальной Вики. Сырые источники, явля,
210: Первоисточником, а ллм свободно создаёт поверх них Вики синтез. У нас Вики выполняет более строгую роль наш Вики это утверждённый источник истины для архитектуры ролей, правил контракт.
211: И рабочих принципов май гермес. То есть у нас Вики уже не просто удобный конспект, созданный моделью, это нормальный слой, который определяет, кто за что отвечает. Вот. Ну короче, у нас он
212: Ближе уже не к человеку и знаний, и знаниям, а к системе агентской. И их уже каких их взаимодействию, их, их источников истины. То есть за что каждый агент отвечает.
213: Какие агенты входят в команду, как маршрутизируется работа, что требует подтверждения, где находится правильный источник, как выполнять технические операции, какие правила считаются действующими, что делать при конфликте информации. Поэтому
214: Агент не может бесконечно переписывать её после каждого разговора, то есть я её, эту систему, адаптировал под агентов, под агентскую систему, то есть i настроил так, чтобы она приносила пользу как.
215: Как основная, грубо говоря, конституция агентской системы, разница в статусе Вики у карпатова роф соус главный первоисточник Вики, развивающийся м. Синтез у нас Вики и действующие.
216: Контракты устойчивое правило системы live tools, текущее состояние системы референс, поддерживающие материалы мемери, индекс только поисковой слой, то есть у нас, Вики, не вся память это 2 фундаментальное отличие, то есть.
217: Как у карпаты. Да, говорил, что больше ничего не нужно. У нас Вики, у меня Вики, это только 1 из слоёв памяти. То есть 1, понятно, это тот весь контекст у каждого.
218: Из профиля агентов, да, из каждого агента свой. Далее это рлм, которая смотрит, какие использовать базы данных. Потом идёт у нас Вики. То есть это источник истины, чему нужно верить, как работает.
219: Взаимодействуют агенты между собой, то есть это слой памяти. И далее идёт какие-то базы данных. У меня есть 1 база данных. Это опять же обычная векторная память с помощью
220: Как раз локальной лмки. Эти вектора как раз и у меня, ну, индексируются, создаются, и с помощью неё же наши сообщения, которые я даю в эту, в поиск, в базе данных также превращаются.
221: В вектор и идёт поиск по базе данных. То есть это все тоже бесплатно.
222: Так, то есть в нашей системе информация сначала классифицируется новая информация, что это за тип информации, куда она должна попасть. То есть используются разные слои. Устойчивое командное правило это vika текущее состояние гители процесса.
223: То внешние статьи или транскрипт, референсы, почта, предпочтения пользователя. User Эмди короткий, устойчивый факт профиля мемори Эмди повторяемые процедуры в нашей системе в моей это скилл.
224: Как и у всех, приватная информация есть определённая база, текущая задача канбан, которой все мы пользуемся, детализированный результат проверки, репорт и полная история Разговоров. Стоит база.
225: Данных наших диалогов, о которых я уже много сегодня рассказал, если кратко оригинальный лм Вики карпаты это саморазвивающаяся маркдаун база, в которой ллм превращает сырые материалы, связанную с системой накопленных знаний. Наша адаптация это управ.
226: Система источников для команды гермес, агентов Вики у нас хранит только устойчивые утверждённые правила, системы и другие типы информации направляются в референс, скиллы, мемори, репорт, канбан, приват, сорс или.
227: Является live tools. И главное отличие у карпатова основная задача Вики накапливать знания. У нас основная задача Вики определять, какими знаниями агенту доверять, кто ими владеет и как безопасно использовать их в работе вот.
228: Кстати, Вики я также давал и в спрут иай, не знаю, воспользовались ли кто-нибудь. Посмотрите, я его, ну, какую-то из версий. Вот видите, я добавлял, я добавлял есть.
229: File. Можете зайти и скачать и попробовать адаптировать под себя, что вы из этого получите, вы получите
230: Более понятный, более понятное взаимодействие между агентами и более предсказуемое поведение там агентов, да, то есть он уже не будет путаться.
231: А че делать, если получил какую-то такую задачу, да, то есть мы должны указать агенту источник истины, источник истины по контекстной инженерии. Вот это верхушка пирамиды контекстов, да, и
232: Агент. У меня, по крайней мере все агенты изначально, когда приходит какая-либо задача, они придерживаются самой верхушки пирамиды, а это как раз у нас Вики файлы, то есть это источники.
233: Истина это самое важное. Далее уже идут какие-то базы данных, которые мы формируем для того, чтобы агент получал более понятный контекст относительно вашей задачи какой-либо вот в самом низу это, это база данных диалогов. Вот.
234: Почему она в самом низу, ещё раз скажу, потому что у нас во время диалогов с агентами может что-то меняться. И, соответственно, когда мы получаем контекст какой-либо информации, которая изначально была 1, потом мы обсудили уже по другому думаем.
235: Уже другая информация, то агент самостоятельно будет решать, какой из этой информации пользоваться как правильной. А если у нас есть источник истины, где прописано, если вдруг не хватает информации.
236: Пробуй, брат, ну, допустим, там возьми правильные источники, исходя из числа, который позже, чем там предыдущая информация. То есть он будет уже смотреть по метаданным.
237: Число, если это число старше, там, да, ближе к сегодняшней дате, он её будет принимать как источник истины и, ну, пользоваться этой информацией это как пример, да, то есть всегда над агентом, над, в точнее,
238: Агентской системе. У нас помимо инструкции, да, агента должна быть база основной какой-то информации. То есть источников истины ещё нужно с вами поговорить как информация.
239: Сохраняется в памяти агентской системы, то есть, как мы её, в принципе, то туда погружаем. То есть пользователь пишет агенту. То есть тогда мы с вами в 1 случае, да, в 1 базе
240: Схеме мы писали запрос агенту, и агент, исходя из нашего запроса, бегал по всем базам, бегал по инструментам и так далее, собирал контекст и отдавал.
241: Нам ответ, исходя из этого контекста. Ну, нам же нужно как-то загрузить, да, эту информацию, чтобы агент то, что мы говорим, каким-то образом запоминал, да, ведь основная причина того, что у нас, ну, проблема в том,
242: Что у нас агент тупой, он нам не отвечает, как мы хотим, потому что я же вчера ему говорил, а он сегодня уже говорит, что не знает. Поэтому нужно понимать, как происходит эта система. То есть пользователь.
243: Пишет агенту 2 варианта автоматическая, автоматически сообщение и ответ сохраняются, она сохраняется вот как раз вот здесь вот в эскюэль лайт в state диби история ди.
244: Логов и ф ттс 5. То есть история диалогов, которую мы можем с вами поискать. Точнее агент может поискать, если вдруг ему нужно что-то вспомнить о диалоге.
245: С вами да, то есть он этой базой будет пользоваться, это sql lite, она идёт сейчас по умолчанию с гермесом. Ну и, соответственно, доступ через session search внутри профиля этого агента. Нужно ли сохранять информацию надолго?
246: Если не нужно, то эта информация остаётся только в истории диалога. Когда мы говорим там, там привет, смысл её записывать, да, она, она остаётся только в истории диалога. Далее вариант
247: Если да, к какому типу относится информация? И у нас здесь существует несколько типов. 1.
248: Стабильный факт о пользователе или среде, роль и правила поведения агента, повторяющаяся процедура либо задача, процесс или результат. Итак, если это стабильный факт, о
249: Пользователе или системе. Тогда эти данные могут записаться в user энди или memory Эмди компактной записью. То есть агент их фиксирует. Именно там, и впоследствии эта информация загружается посто.
250: Постоянно при каждом ответе агента. То есть эти файлы, они постоянно грузят контекст вашей системы. Поэтому user Эмди и memory. Эмди, моё вам
251: Убедительная, так скажем, мой убедительный совет вы анализируете у ваших агентов, как дела с этими файлами юзер Эмди мемори Эмди и agent Эмди обязательно посмо?
252: Спросите агента провести анализ, чтобы они не переполнялись. У них есть ограничения определённые. И когда эти ограничения, значит, ну, близок контекст, н, близок вот этот
253: Наполняемость к ограничению агент у вас может пропускать какие-то там важные штуки оттуда. Вот поэтому лучше, конечно держать в компактном понятном виде. Лучше выделить, как я ещё в прошлый раз говорил, если
254: Если вам что-то нужно отдельно какую-то если вы что-то говорите агенту конкретное и вам нужно это грузить в какую-то базу, в какой-то контекст, лучше отдельно создать Эмди файл какой-нибудь другой допустим.
255: Допустим, мои мысли, да, и просить агента в user Эмди, мемори, Эмди, джеди, там, ну, где инструкция у него хранится, да, прописать, что если я буду говорить, что запиши мою мысль, то записывай, значит, куда, ну, туда, ну, как?
256: Как как пример, да, может быть разное, то есть это может быть как контекст, может быть как база и так далее. То есть не перегружайте инструкциями и какой-то информацией эти файлы вот далее после этого загружаются в стартовый контекст векторы
257: Создаются. Ну, как я уже сказал, да, они загружаются постоянно в стартовый контекст и дальше уже уходят в главное, главное, мы вернёмся, да, куда дальше это все проходит, если, значит, роль или правила поведения агента, да, что-то
258: Мы говорим, что ты все-таки должен отвечать мне более дерзко. Либо ты там поменяй роль. Ты, короче, там какой-то был маркетолог, стал, там, не знаю, главный маркетолог, либо там, не знаю, какой-то советник или прочее. То есть здесь уже меня
259: Soldi. Эджи Эмди. Роль бриф Эмди. Вот они, вот здесь роль бриф Эмди, это скорее мой файл. Далее только контролируемые изменения векторы не создаются. То есть все, что мы пока заполняя, все, что здесь, пока заполняется,
260: Для агента оно заполняется в режиме Эмди файлов. Если какая-то повторяемая процедура происходит тогда у нас, как мы уже знаем, особенно в нашем гермесе, агенте создаётся скил Эмди.
261: То есть это повторяемая постоянная процедура, она создаётся в skill референс и templates навык, то есть создаётся навык, да, скилл, это навык агента используется через скилл.
262: То есть не является общей векторной памятью. Это тоже не векторная память, да, то есть это навык нашего агента. Если мы даём какую-то задачу, прогресс или результат, который мы, ну, который мы хотим получить, тогда у нас канбан для
263: Этого создаётся для состояния задачи. Репорт для датированного результата не записывается в Вики и не индексируется автоматически. То есть это для того, чтобы эта задача просто выполнилась, но она
264: В этом канбане создаётся, она там же остаётся как выполненная задача. Впоследствии вот есть ещё вариант.
265: К какому типу относится информация? Это устойчивое знание, какой бывает вид этого знания, каноническое правило системы или команды? То есть это жёсткое, какое-то крутое правило, да?
266: Справочный или исходный материал, приватное знание владельца. То есть если это каноническое правило системы, то тогда у нас создаётся Вики маркдаун, источник истины, о котором я недавно вам рассказал. То есть, если что-то мы мощное агенты,
267: Говорим, что это необходимо выполнять 100%. Это прям, ну прям нужно и никуда не отвертеться, то создавай, пожалуйста, Вики файл. Агент сам знает. Да, он сам будет создавать.
268: Если это справочный или исходный материал, то создаётся референс маркдаун, поддерживающий источник. То есть тот самый там статья, допустим, да, какая-то. Если этот материал нужный, то в, reference, он упадёт.
269: Если это приватное знание владельца, то есть это определённый, ну, приватная база, он туда упадёт. То есть, допустим, там, не знаю, какая-то у врача, да, у моего врача или там у психолога.
270: Какая-то карточка или сессия. Вот. Далее это проверенный маркдаун сохранён в правильном источнике.
271: И это все нужен. То есть это все идёт опять же, на развилочку. Нужен смысловой поиск по этому знанию. То есть нужен ли, нужен ли векторный поиск, да, к чему мы все привыкли? Там база дтб.
272: Раньше, да, были и прочее. То есть какой если нужен поиск по смыслу из этой базы, тогда
273: Точнее, если не нужен, да, давайте с этого начнём. Тогда агент читает маркдаун напрямую. Если точный путь известен, ну, как пример, допустим, если мы знаем точный путь к Вики файлу, то
274: Агент прочитает его и исполнит, то есть он будет придерживаться этой инструкции. А если все-таки нам нужен этот
275: Векторный поиск важно. Сохранение маркдаун само по себе не обновляет векторный поиск. То есть, когда мы создаём маркдаун, у нас векторный поиск не работает. Так у нас надо это убрать.
276: Тут у нас неправильно скопировалось, мы сразу уберём красиво, чтобы было.
277: Ручной контролируемый ресерч проверка источников и приватности это идёт следующая.
278: Дальше идёт, индексируется, индексируется у нас индексатор, читает разрешённые маркдаун файлы очищают текст.
279: Delete по заголовкам и фрагментам для каждого фрагмента создаёт эмбеддинг. Вот та самая нейронка, которая у меня есть, бесплатная, она этим занимается, она
280: 184 числа и записи в ттс 5 это уже текстовые. То есть у нас создаётся не только по смыслу поиск, но он гибридный. Вот и дальше идёт коммон сейф, эскюэль Вики и референс.
281: Ппп, референс и мои другие файлы. Так, окей. И все. Это проверка, значит, кандидатных базз, поиск, доступы, целостности. Все.
282: Проверки пройдены. Атомарная замена рабочих лайт индексов. Да, здесь происходит замена индексов, они не переписываются, они меняются. Если что-то меняется в Вики файлах, значит они переписываются. Все.
283: Вот, и memory. Индекс серч ищет по словам и по смыслу. То есть здесь гибридный поиск. Гибридный поиск. Это значит, что 75% по смыслу определяется и 25 по слову. То есть, знаете, где у меня это
284: У меня как раз обязательное условие. У меня все Вики файл, все Вики файлы, они обязательно векторизируется. То есть и у нас, у меня есть специальная база, векторная, в
285: Sqlite там, да, которая копирует мои Вики файлы все, да, и и записывается туда копией в векторах. Почему это сделано? Потому что
286: Агент, бывает, не может найти по слову. Значит, смысл, да, какой-то отношения между агентами. Либо что агент конкретно должен делать, что у него прописано в Вики файле.
287: Ему необходим поиск по смыслу. Вот, а поиск по смыслу у нас здесь просто проще организовать через вектора. То есть по весам определяется самым максимально, так скажем,
288: Подходящий вариант из векторной базы, но важный момент читается этот файл после того, как он найден чанком там где-то в векторной базе он читается все равно в md.
289: В формате свежий файл, самый свежий файл это md файл вот уж допустим когда по крону там можно поставить изменение базы данных Вики файлов в векторном виде ну то есть.
290: Может не совпасть. Ну, короче, это нюансы. Не буду вас грузить. Вот. То есть все это у нас попадает в главное, автоматически сохраняется история диалога, да, то есть, опять же, здесь вот такая
291: Пометочка если в разговоре появилась важная информация агент сначала определяет её тип предпочтения пользователя user и memory Эмди, правила системы это vika справочный материал.
292: Reference. Приватное знание. Контекст мой, да, моя другая база процедура это скилл. Состояние задачи канбан. Датированный результат. Репорт, то есть важная информация не складывается в
293: Автоматически в 1 общую память, то есть долговременное знание проходит классификацию.
294: Автоматически сохраняется история диалога. Это каждое ваше сообщение. Ответ агента сохраняется автоматически. Это мы уже много раз сегодня говорили, но это ещё не означает, что информация стала долговременным знанием команды. Нет, потому что это у нас за это отвечает Вики.
295: Векторная эскюэль является производным индексом сначала знания сохраняются в markdown, только потом эти файлы из этих файлов строится sql lite с векторами, о чем я и говорил.
296: Поэтому векторный лайт не оригинальное место хранения знания, это удобная поисковая копия, вот то есть эта база нужна только для того, чтобы мы по смыслу нашли че читать, а потом мы читаем все равно это в md файле оригинал.
297: Макдаун остаётся источником истины. Когда векторный поиск находит ответ. Агент не должен слепо доверять найденному фрагменту. Он получает мемори индекс. Найденный подходящий фрагмент получает путь в markdown, читает оригинальный файл. Если.
298: Векторный склайт маркдаун отличаются правильным считается маркдаун. Индекс мог просто устареть после изменения файла. Вот о чем я пытался сказать, но из за своей косноязычности, да, то есть я, мне проще прочитать, вот
299: То есть вот здесь мы, я как раз показал, каким образом данные должны записываться у, значит, нашего гермес агента туда, куда они должны попадать. Вот.
300: Так, то есть мы разобрали, как искать, откуда он ищет, и мы разобрали, как они туда попадают. Вот. Ну а дальше это уже скорее нюансы и эти нюансы, их настолько много, что
301: Опять же, у всех все разное, да, то есть все могут как-то по своему настраивать эту всю систему, но это опять же все настраивается, регулируется путём многократных
302: Тестов путём постоянных улучшений, путём выхода новых каких-то инструментов и адаптации этих инструментов под вашу систему. То есть это куча, куча, куча чего-то нового нужно постоянно быть
303: Теме нужно постоянно че то изучать, постоянно куда-то что то устанавливать, смотреть и тестировать. Так, друзья, на данном этапе тогда давайте на сегодня закончим, да, то есть много чего сегодня рассказал.
304: Думаю, что если будет, будут какие-то вопросы, значит у нас в операционке связанные с темой памяти, да, я буду более детально уже смотреть, где
305: Эти вопросы, да, и возможно, если на том у меня есть компетенция, да, какая-то, если я понимаю, о чем и как вам помочь, я буду это делать. Вот сейчас тогда попрощаемся. Спасибо, что
306: Были со мной, да, если что, обращайтесь. Всегда готов с вами пообщаться. Пишите, если есть желание, да, заходите в операционку и там я делюсь своими какими-то разработками.
307: Своими агентами и прочим, что я использую сам для себя. Поэтому, если хотите сэкономить немножко времени, пожалуйста, заходите, буду всех вас рад видеть. Все, друзья. Спасибо.