0: Всем добрый день. Добро пожаловать на наш курс, посвящённый разработке агентов и мультиагентных систем. Немножко расскажу о том, что это будет за курс, что в нём будет. Да, и
1: И почему мы его решили сделать? Ну, во первых, представлюсь. Меня зовут Андрей Грабарник. Я CPO продуктов в компании джеста и, в частности, наши нового продукта, наши новые продукты агентской платформы.
2: На примере работы которого мы будем показывать, что, собственно, у нас, как делать агентов и какие-то решения на основе этой технологии. Вот, значит, что будет у нас в курсе, у нас в курсе есть
3: Несколько модулей это 1 модуль. 1 модуль у нас про о том, что такое в принципе агенты, зачем они нужны и в каких кейсах мы можем применять этот подход? Будет модуль про использование лм для агентов. Какие лм выбирать
4: Как их правильно настраивать, как писать промты и так далее. Вот следующий модуль, 3 будет про интеграции и безопасность агентов, да, то есть о том, как подключать к агентам различные инструменты, каким образом использовать и как избежать утечек дан
5: Или каких-то некорректных ответов от лдм будет отдельный модуль про рак, то есть интеллектуальные базы знаний. Значит о том, как создавать такие базы знаний, каким образом их использовать в работе.
6: С агентами. Вот, в общем, и все, что связано с работе, работой с корпоративными данными. И последний модуль будет это про масштабирование и различная архитектура мультиагентных систем. Это уже такой более расширенное модуль про
7: То как следующий шаг в развитии, если вы хотите делать действительно какие-то большие, сложные и мощные системы. Вот. Плюс на основе всех наших модулей будет практика, в которой мы будем не просто рассказывать о том, какую-то общие вещи.
8: Да, какую-то теорию о том, как это все устроено, да, но ещё и будем реально собирать работающую систему на базе агентов, чтобы вы не только поняли, как это работает, но ещё научились сами это делать. Начнём мы с того. А что, собственно, такое агенты, да.
9: И в чем их отличие или преимущество по сравнению с классическими чат ботами? Ну, многие из вас наверняка сталкивались, да, практически все, я думаю, с работами классических чат, Ботов или голосовых Ботов, которые были построены на базе классических технологий.
10: Вот где у нас есть какой-то сценарий, да, и есть какой-то модуль распознавания вопросов от клиентов, классические боты, да, они работают, как правило, по заранее предопределённым сценариям. Вот где вы создаёте какие-то как бы логические схемы, да, то есть определяете запро,
11: Пользователя и пытаетесь найти какое-то место в вашем сценарии, которое ему соответствует. И соответственно, отвечаете теми репликами, которые у вас прописаны в этом блоке. Этот подход как бы очень был сильно распространён и до сих пор как бы большая часть автоматизации коммуни
12: Работает на нём, но у него, естественно, есть ряд ограничений. Во первых, чат бот может отвечать только на те вопросы, которые вы ему заранее прописали, да, то есть, если он, вы ему задаёте какой-то нестандартный вопрос, то и которого у него заранее не было прописано, то, соответственно, он вам ничего не
13: Может ответить. Как правило, он отвечает что-то вроде, я не понимаю, что вы мне написали. Попробуйте написать ещё раз, переформулировать, вот. Или там, например, переводит на оператора самый классический ещё минус этого подхода в том, что чем больше кейсов вы хотите покрыть, тем,
14: Дороже и больше у вас становится вот этот ваш сценарий, да, чем больше у вас как бы сценарий, тем дороже его поддерживать и развивать. То есть каждый как бы следующий процент автоматизации у вас становится все дороже и дороже, потому что у вас разрастается этот сценарий. Плюс
15: Ещё 1, точнее, минус это плохая работа с контекстом. То есть бот как бы редко учитывает предыдущие все запросы. Конечно, он как бы по ллогике находится, например, в каком-то месте, которое соответствует определённой тематике, но, например, все запросы
16: Который там писал ему клиент заранее, ему очень тяжело запомнить и вообще с этим работать. Ну, практически это на самом деле невозможно. Ну, и кроме того, если, например, пользователь вдруг пишет какие-то вводные, у него есть какие-то эмоциональные составляющие, да, то есть у него
17: Реально какая-то очень сложная проблема. Вот он очень по поводу этого переживает, то классические боты тут вряд ли могут прям как-то ему помочь. Вот. Ну они, конечно будут давать какой-то стандартный ответ на этот ответ. Он будет не сильно адаптирован к тому вопрос.
18: Тому, как бы контексту, который у клиентского запроса. Самое главное, что всегда есть некий потолок автоматизации вот таких решений, выше которого, как бы как раз, как я уже говорил, достаточно дорого, ну, все дороже и дороже становится или даже практически невозможно. Стараюсь этот потолок преодолеть. Вот.
19: Потому что, ну, все запросы пользователей просто невозможно предусмотреть новый подход на базе генеративного искусственного интеллекта и на базе агентов эти проблемы у нас закрывает. То есть он не просто понимает запрос, который ему отправили, да, но ещё и подготавливает ответ, который максимально
20: Ходит под этот запрос, под эту как бы боль клиента, с которой он пришёл. Ну и собственно, сейчас мы подробнее поговорим о том, что такое агент и как он внутри устроен. У агента есть несколько ключевых составляющих ключевых характеристик из характеристик. Это как раз очень
21: Мощная технологическая подложка, связанная с большими языковыми моделями, да, которые заранее в себе содержат всю информацию, там, если мы используем там самые современные модели, да, типа яндекс, gpt или там чат.
22: Не так важно, да, он как бы содержит в себе всю существующую, условно говоря, информацию в интернете. И он очень хорошо как бы понимает, о чем ему пишут. Естественно. Кроме того, в отличие от просто лм, которую действительно вы можете что-то написать, и она вам что-то ответит. Отличие основной
23: Что он ещё может сам принимать решения, что дальше делать? Главное? Он обладает инструментами, при помощи которых он может решать эти проблемы. У него есть инструменты, у него есть возможность принимать самостоятельно решения, как ими пользоваться. Он, естественно, может
24: Как бы менять своё поведение, то есть адаптироваться, если, например, по ходу, как бы, решения проблемы возникают какие-то, например, новые вводные, или клиент че то передумал или вообще задал какой-то вопрос, как бы на меж, на какую-то отвлечённую тематику. А и агент это может
25: Распознать, вот, и, соответственно, как бы продолжить с пользователем диалог, как бы при этом сохраняя все предыдущие историю общения. Это как бы с точки зрения концептуально, что вообще у нас агенты могут с точки зрения технологии это как раз наличие
26: Ядро, собственно говоря, агента это большая языковая модель ллм при помощи, это, собственно, сам искусственный интеллект, который находится в сердце этого подхода. Вот это инструменты, то есть какие-то интеграции с внутренними системами, с интегра,
27: С там, с базами данных, с какими-то ещё как бы виртуальными историями, это руки агента, при помощи которых он как раз и осуществляет свою деятельность. Вот дальше это естественно, память и контекст, то есть возможность запоминать все, что ему
28: Пользователь писал раньше и использование этого в при обращении как раз к искусственному интеллекту клм. Вот. Кроме того, у агента, естественно, есть инструкции, то есть его описание, его Роли, его
29: Задачи его цели. Вот, то есть, что он собой представляет, это помогает как бы ему сфокусироваться именно на решении каких-то конкретных проблем. Эффективнее всего именно делать агентов не которые могут, условно говоря, все, и у них есть доступ ко всем инструментам, а как бы более узкоспециализированно во
30: А потому что, ну, это позволяет фокусироваться и выдавать более качественный результат. Вот, ну, естественно, у него есть доступ к какой-то базе знаний конкретной под его задачи, потому что, да, у него есть информация, условно говоря, по всем.
31: Знанием интернета. Вот, но у него совершенно необязательно есть информация по каким-то вашим корпоративным данным, особенно если они там довольно часто меняются. Вот. То есть, например, вы можете ему дать информацию, доступ к базе знаний своей вообще внутренней, если это какой-то внутренний агент.
32: Который нигде снаружи, естественно, и нет, и модель про него не знает. Вот, ну, соответственно, вот эти вот 5 ключевых историй. То есть, 1, это лм, 2, это инструменты, вот память и контекст знания какие-то ваши
33: И инструкция о том, как с этим действовать, как действует агент, как он работает. Такая краткая схема приведена. Вот, но она как бы отражает, в общем, историю. То есть, например, вы пишите или говорите голосом, или, например, из какой-то внешней системы у вас приходит запрос.
34: Всегда есть какой-то запрос, сформулированный, как правило, на естественном языке. Причём этот запрос может быть на самом деле довольно сложный, да, то есть, если, например, у вас классический ною боты сценарные, где есть несколько сразу вопросов внутри 1 запроса так называемых интентов, да,
35: То, как правило, ему тяжело было разобраться, как бы, что к чему. Вот агент, кстати говоря, с этим справляется довольно легко. То есть вы ему пишите комплексный запрос. Вот, например, там найди клиентов сирм со сделкой на 1000000 больше, точнее 1000000 составь для них кпп. И, например, там ещё отправь
36: По емейлу. Вот, то есть вот такой вот запрос, как бы на работу с базой, с вашей клиентской базой агент может спокойно разобрать. То есть он поймёт этот вопрос, придумает последовательность действий самостоятельно, какой, как бы нужно совершить, причём не обязательно вы ему
37: Описываете это в качестве входного запроса, да, он у него внутри в инструкциях может содержаться вот эти вот описания, типа какие у него в принципе есть истории. Кроме того, у него есть описание инструментов, которыми он может пользоваться. То есть после того, как он составил себе план действий, который он будет выполнять. О
38: Берет инструменты и при помощи них собирает какие-то данные, то есть подключается к CRM, фильтрует клиентов, ищет данные, собирает информацию, генерирует коммерческое предложение и собирает это все вместе, также он может задать дополнительные вопросы, если, например, ему не хватае.
39: Каких-то данных, которые он понимает или, например, неоднозначно определённый результат. То есть он может самостоятельно прийти и доспросить какую-то недостающую информацию. Вот. И после этого уже выдать готовый результат. Причём, что самое интересное, этих агентов может быть несколько, да, то есть
40: Как я уже говорил раньше не всегда удобно всю информацию загружать в 1 агента, он может запутаться вот лучше например как-то например 1 агент у вас как бы производит действия, a2 агент, он у вас проверяет за ним все ii качественно например он выполнил, если что-то не так, то например может отправить обратн.
41: Запрос предыдущего агента, и он постарается улучшить результаты своей деятельности. Перейдём теперь к более практической истории. На самом деле, может быть даже само к более интересной вот это кейсам применения агентов в бизнесе. На самом деле применение
42: Подхода, оно супер широкое мы здесь как бы вот рассмотрим некоторые основные истории но их разумеется, может быть гораздо больше. Вот во первых, это клиентский сервис то есть то, про что с чего мы начали, да, то есть возможность более гибко, более качественно отвечать на
43: Запрос клиентов в качестве поддержки это работа с продажами, то есть автоматизация именно каких-то пайплайнов, сейлс менеджеров, работа в hr. То есть это рекрутинг, это анбординг, обучение сотрудников, проведение опросов 360 и так далее.
44: Далее. То есть, в принципе, эйчар, он очень хорошо поддаётся автоматизации, причём рекрутинг может быть как в тексте, так и голосе. То есть, может агент сам звонить, спрашивать какую-то информацию, квалифицировать кандидата и так далее и так далее. То есть это все возможно новое на самом
45: Направление, в котором сейчас развиваются тоже искусственный интеллект и агенты это помощники внутри екоммерса, внутри маркетплейсов. Мы вот немножко про это поподробнее расскажем. Вот. Ну и это какие-то внутренние процессы компании, тоже виртуальные ассистенты, то есть помощники там
46: Как sales, так и, например, других менеджеров, операторов кц и так далее. То есть виртуальные ассистенты. Вот это возможность поиска по базам знаний, ну и вообще автоматизации любой рутины, которая существует в бизнес процессе теперь
47: Смотрим немножко про конкретные кейсы, как это реально работает, как я уже говорил раньше, классические боты, они, как правило, плохо распознают сложные запросы, особенно если там намешаны какие-то эмоции. Вот. И такие запросы, как правило, либо вообще не распознавались, либо там
48: Сразу переводились операторов, чтобы вот этот негатив снять. Вот агенты как раз могут эту проблему решать автоматически. То есть вот здесь вот, например, проведён реальный запрос и реальный ответ агента, который мы уже внедряем внутри наших клиентов. Вот, то есть, например, запрос про там, вопрос.
49: Какой-то про кэшбэк, какой-то эмоциональный запрос, куда делись мои деньги? Я их покупал, значит что-то покупал в макдаке. Вот. Точнее вкусно и точка, но не суть. Почему мне не начислился кэшбэк и ответ агента выглядит так, что он запросил несколько
50: Которые существуют у него, да, то есть доступ ко внутренним системам посмотрел, какие были реально начисления, посмотрел, какие у клиента подключены категории кэшбэка, понял, что клиент эмоциональный, он очень переживает. Значит, что у него что-то пошло не так, и он подготовил
51: Ответ, что он сказал, что да, понимаю, что у вас, вы расстроены тем, что что-то не так. Но, тем не менее, вот смотрите, у вас на самом деле, в прошлом месяце не было такой категории, поэтому вам кэшбэк не начислился, а в этом она, например, уже подключена. Вы, наверное, просто там перепутали и соответствен,
52: В этом месяце у вас уже там вы действительно совершали покупки. Кэшбэк будет вам начислен, что здесь можно увидеть, что, во первых, это реакция на эмоцию клиента, да, генерация вот именно под его запрос. Во вторых, анализ, что же реально произошло, что было начислено, что было не начислено
53: Кроме того, ну, например, он распознал, что такое макдак. Вот, что это действительно там макдональдс или вкусная точка, как бы некоторая относящаяся к категории ресторанов. И, соответственно, эту информацию тоже обогатил свой запрос. Вот, то есть, что мы здесь можем видеть, агент
54: Самостоятельно понял, какими инструментами он может пользоваться, распознал язык, учёл контекст, информацию, как бы, которая хранится о клиенте, подстроил свой ответ под вопрос пользователя и, в общем, покрыл тот кейс, который, скорее всего, действительно был
55: Отправлен на оператора. Следующий кейс уже более такой внутренний бизнесовый. Это кейс про квалификацию Ледов и создание коммерческого предложения. Например, представим себе, что у вас есть какая-то ваша база, клиентская база, с которой
56: Работают с менеджеры, у вас приходят какие-то входящие Лиды, вот, и вам нужно как бы с ними произвести, с менеджеры, с ними проводят какую-то работу. То есть им нужно, например, подготовить какое-то коммерческое предложение, в принципе, выйти с ними на контакт, уже как бы не просто рассказываем все, а сделать более точечное предложение.
57: Как бы, как мог бы выглядеть такой процесс. Ну, как он, как правило, выглядит, если нет автоматизации, да, то есть нужно этого клиента там взять эту компанию, пойти в интернет, там, в спарк или в руспрофайл, проанализировать сайт компании.
58: Кто значит лпр, собственно, подготовить кпп, вот собрать это все вместе, отправить клиенту, назначить встречу и так далее. Вот эти все действия может на самом деле взять на себя агент. То есть агент самостоятельно может найти всю информацию по названию компании в интернете.
59: Сходить на сайт компании, собрать всю вместе информацию. Кроме того, посмотреть, например, какие продукты есть у вашей компании, которые бы могли ему подойти, вот, и собрать это все вместе самостоятельно. И, например, отдать менеджеру для подтверждения. Вот, во первых,
60: Информацию, которая поможет ему провести более качественно встречу. Во вторых, собственно, подготовить самого материала кпп для отправки. Следующий кейс, про который хочется немножко рассказать, это то, как вот прямо сейчас на самом деле агентский подход подход и вообще ассистентов начинает
61: Применять в ритейле, в коммерсе. На самом деле, в частности, в маркетплейсах, например, люди внедряют агентов в качестве помощников при выборе товаров. То есть это как бы немножко меняет механику взаимодействия и покупок в ритейле, да, то есть
62: Если до этого, например, ну и сейчас, на самом деле, в основном самый обычный кейс, да, люди видят каталог товаров, какие-то рекомендации, да, смотрят сами и что-то убирают, то эту практику немножко сейчас пытаются менять, вот, и делать.
63: Ассистентов, куда вы можете просто текстом примерно написать, что вы хотите. Да и ассистент уже сам предлагает вам какие-то варианты по товарам, сравнивает характеристики и предлагает какие-то конкретные решения. Вот у этого кейса на самом деле есть очень интересная
64: Как бы нюанс в том, что это не только как бы помогает пользователю, да, как-то с выбором, но ещё и обогащает знания о клиенте для самого маркетплейса. И в дальнейшем этот контекст как раз может использоваться в рекомендациях товара. То есть, в принципе, можно как бы
65: Вообще менять подход к представлению каталогов или чего-то такого, да, как бы сразу, например, пользователя предлагать ему пообщаться с ассистентом. Вот, и на основе там его каких-то того контекста, который он как бы сообщает о себе, о своих запросах, ему предлагать уже какие-то
66: Товары немножко расскажем про экономику вообще всей, всей агентской истории. Есть как бы, представление о том, что это, ну, достаточно дорогая история. Вот, потому что, ну, необходимы запросы, клм, запросы к лм, это стоит денег, то есть каждый запрос, какие-то расходы.
67: Вот, в отличие от классической истории, да, где вы создали бота, он у вас работает, и вы платите, например, какую-нибудь лицензию, фиксированную за использование. Вот. Но, как я уже говорил раньше, стоимость разработки таких вот классических Ботов это
68: Довольно дорого. Особенно если у вас там, вы большой бизнес, у вас большой объём клиентов, которые приходят у вас такой сценарий как бы дорого разрабатывать и дорого поддерживать. Вот, и каждое новое развитие этого решения это все большие затраты. Вот. Ну и кроме того,
69: Как бы есть все равно какой-то объём кейсов, который у вас не покрывает и вам для этого нужно привлекать операторов людской ресурс. Он у нас сейчас, во первых, супер дефицитный, во вторых очень дорогой дороже становится, все дороже агент, он меняет подход к этому, то есть у вас
70: Во первых, сама разработка становится дешевле, потому что, как правило, например, разрабатывать вы можете не обязательно все делать на каких-то там, условно, фреймворках писать код, вы можете это действительно собрать в конструкторе, например, в low code или в
71: Какой-то огромный сценарий. Ну это практически вообще нереально. А здесь как бы вам не нужен такой большой сценарий. Все агентские пайплайны это, как правило, как бы гораздо компакт, более компактное решение. То есть у вас там не, там, сотни этих блоков, да, как бы, десятки, ну, 10.
72: В большом решении, как правило это там какие-то единицы, десятки блоков сами по себе сборка агентов это по сути написание Промтов, это какие-то настройки и так далее. Вот ну естественно как бы здесь бывает часть, которая связана с разработкой. Вот, потому что если, например, в
73: У вас есть какие-то внутренние системы, с которыми требуется интеграция. Интеграция это то, что все-таки придётся создавать. Вот. Но сейчас создание таких интеграций тоже автоматизируется. Система вам сама помогает писать код для таких интеграций, сама помогает его тестировать и так далее.
74: Кроме того, у вас гораздо больше возможно покрытия кейсов, что в совокупности даёт реально как бы выигрыш, во первых, в продуктивности, а во вторых, ещё и затратах как бы в комплексе на такое решение.
75: И выгоды, которые от этого приобретает бизнес. Здесь можно ещё сказать именно немножко про компетенции. Вот, то есть, если как бы для разработки решений на чат ботах, вам нужно было там либо заказывать эту разработку в каких-то компаниях, либо держать у себя там штат лингвистов,
76: Разработчиков, которые у вас будут это поддерживать, то при создании мультиагентных систем ресурсов на разработку именно надо намного меньше. То есть это саму бизнес логику могут разрабатывать вплоть, ну, в том числе и как бы менеджеры или, например, бизнес аналитики какие-то
77: Ну а вот эти интеграции, тут нужны какие-то разработчики, которые могут это делать, но их количество становится намного меньше. Ну и главный момент, который хотелось бы здесь подсветить. Вообще по поводу автоматизации есть ощущение некоторое на рынке представление как бы немножко ложное, да, что вот пришли к нам.
78: Пришёл к нам искусственный интеллект, пришли большие языковые модели и сейчас как бы все типа, все проблемы будут решены, что это серебряная пуля и все, все проблемы она решит. Конечно, это не так. Конечно, искусственный интеллект не решит всех проблем. Главный принцип звучит так, что автоматизировать можно то, что
79: Так работает по процессам. То есть если у вас уже есть какие-то процессы, которые по которым действуют люди, такие процессы очень легко как раз пересобрать в том же конструкторе, просто вместо людей у вас будут агенты, и они как бы заработают гораздо более эффективно. То есть, чтобы вам спроектировать такую рабочую
80: Систему нужно сформулировать и описать как бы текущий какой-то бизнес процесс, выделить там какие-то корнер кейсы и после этого уже собирать на систему на базе вот этого описанного решения. Но в этом, кстати говоря,
81: Может помочь искусственный интеллект. То есть если вы как бы можете закинуть какое-то описание этого бизнес процесса, попросить модель сформулировать как какие здесь есть ключевые блоки, как это можно систематизировать то как бы искусственный интеллект вам может помочь тако
82: Такое решение, как бы, по крайней мере, его образ вам предоставить. От этого уже можно будет оттолкнуться в проектировании системы автоматизации. Ну и подведём итог. Во первых, то, что происходит сейчас, это как раз в каком-то смысле эволюция от классических
83: Решений, созданных на сценарии к гибким и адаптирующимся агентам. Архитектура выглядит этих агентов, выглядит так, что сердце этой истории это большая языковая модель. Искусственный интеллект плюс информация о
84: О вашей компании, о знаниях внутри неё, плюс инструменты, которые могут работать с внешними какими-то ресурсами, либо с вашими внутренними. Ну и описание того инструкций каких-то для поведения аген.
85: Основные отличия от классических чат Ботов это то, что агенты самостоятельно могут принимать решения, использовать инструменты и адаптироваться, но кейсы применения, они очень широкие от классическая саппорт, классическая клиентского сервиса до внутренних процессов, до
86: Come продаж и так далее. Что касается экономики, выигрыш, который как бы несёт потенциально внедрение таких решений в бизнес процессы. На самом деле он гораздо выше, чем те затраты, которые нужны на их создание и
87: На использование, собственно, самих. Ну а дальше мы как раз, я точнее покажу вам о том, как, собственно, выглядит наш продукт, на котором мы будем собирать в дальнейшем какие-то решения и рассказывать вам. А как, собственно, сами можете сделать какие
88: Решение на базе агентов. Так что всем спасибо большое. Надеюсь, дальше вам будет ещё интереснее. Всем привет. С вами, Антон Малышев. Я элит, продакт агентской платформы джаст иай. Перехвачу слово у Андрея и покажу немножко
89: Возможности и функциональность нашей платформы. Мы с вами находимся на главной страничке со списком проектов. Здесь вы можете видеть как классических Ботов, которые собраны на нашей конверсейшн платформ, так и иай приложений
90: Также здесь, на этой страничке вы можете собрать своё решение с нуля, либо запустить быстрый старт для того, чтобы немножко разобраться вместе с инструкцией, которая есть у нас в документации. Мы с вами
91: Создадим новый проект, назовём его как-нибудь, так и провалимся на главную страничку эта страница у нас отображает такую экспресс аналитику.
92: Здесь расход по токен в разрезе провайдеров, здесь также будут отображаться запуски процессов по тем триггерам, которые вы подключите, но об этом мы с вами поговорим немножко в следующих уроках. Давайте пойдём сразу в конструктор.
93: И чуть чуть посмотрим, как он выглядит. Это у нас бесконечный канвас, на который мы можем добавлять различные блоки и элементы. Здесь у нас есть блоки триггеров, которые позволяют запускать какой-то сценарий здесь
94: У нас есть блоки агентов, здесь есть возможность использовать встроенные функции, добавлять пользовательские функции, использовать эмсипи сервера, которые вы подключите. Об этом тоже поговорим чуть позже и также возможность добавлять какой-то
95: Код, который вы хотите исполнить разово. Его нет необходимости превращать в функцию либо разветвить наш сценарий по какому-либо условию. Давайте для начала добавим с вами триггер сообщения для того, чтобы
96: Можно было общаться с нашим агентом, и здесь можно подключить канал на демонстрационном стенде. Каналов пока не очень много, но в общей сложности у нас их больше 30 штук, и мы их потихонечку подключаем. Здесь будет
97: Появляться все больше и больше каналов, но уже сейчас вы можете подключить telegram матермоста, подключить телефонию и создать телефонного агента, использовать чат, виджет для своего сайта или использовать универсальный чат.
98: Для подключения в любой текстовый канал давайте сразу добавим агента.
99: Какие у него есть возможности? В 1 очередь это, разумеется, выбор лмки, которая будет являться его мозгом. Как видите, интеграция к лм производится очень просто. Мы просто выбираем из списка нужную нам модель и сохраняем это.
100: Сохраниться он нам не даст, пока мы не запомним для него роль, цель и инструкция это стандартный блок prompting, который рекомендуют нам провайдеры больших языковых моделей. Давайте назовём его как-нибудь так. Цель.
101: Придумать хокку инструкции, отвечай на любое сообщение хокку. Вот так ниже у нас находятся дополнительные настройки, параметры, модели.
102: Если вам необходимо в этом глубже, скажем так, погружаться, также есть 2 режима. Мы имеем возможность отправлять ответ пользователю или отключить эту галочку на тот случай, если мы строим какую-то сложную систему и
103: Промежуточные размышления агентов мы не хотим, чтобы видел пользователь. И есть режим диалога. Наоборот, когда агент должен что-то доуточнить, спросить у пользователя, как-то переформулировать, например, его запрос или получить информацию.
104: Для внешних функций. Кроме того, здесь у нас есть возможность передачи управления другим агентом, как, скажем так, напрямую соединяя связями на канвасе, либо если мы строим
105: Multi агентскую систему, то выбирать здесь из списка готовых агентов. Об этом тоже чуть позже вам расскажет моя коллега. Вот таким образом мы получаем самое простое агентское решение, здесь же можем его
106: Сохранить и запустить тест. Вот замечательно. У нас открылся тест, виджет. Мы ему говорим привет отличная погода.
107: Все замечательно работает.
108: Так, теперь немножко расскажу про другие инструменты. У нас есть 3 вида. Их 3 вида триггеров. 1 из них это вибху на тот случай, если нам нужно вызвать наш сценарий из какой-то внешней системы, например.
109: Из рпи есть планировщик на случай, когда нам нужно исполнять сценарии. Регулярно. Например, там каждую минуту, каждые полчаса, каждый последний понедельник месяца и так далее. Здесь есть как простой режим.
110: Планирование, так и возможность задать крон. Выражение это уже для более продвинутых пользователей. Помимо этого, давайте поговорим про встроенные функции. Здесь их достаточно большое количество у нас есть
111: Встроенные функции работы с контекстом диалога с пользователем это наследие нашей конверсейшен платформ. Здесь мы можем узнать id пользователя, в какой чат он нам написал. Получить о нём информацию, получить его исходный запрос.
112: Получить историю диалога с пользователем для каких-то нужд, которые нам могут понадобиться в коммуникационном сценарии. Здесь у нас есть раздел креденшлс. Об этом я расскажу чуть позже. Инструменты для работы с базой данных.
113: Работа с электронной почтой. Мы полностью поддерживаем эйчтитипи протокол в любую точку сценария. Если вам не хватает каких-то встроенных интеграций, вы можете отправить информацию или получить из неё информацию по http протоколу.
114: Также есть изолированные вызовы к лемкам, например, к другой модели если вам это необходимо, есть возможность работы с рагом получения Чанков или получение сгенерированного ответа из нашей системы нолидж хаб из нашей базы знаний.
115: Есть возможность отправить различные форматы получившихся у нас результатов. У агента есть инструменты работы с каналами, например, с telegram. Есть возможность распознать и синтезировать речь давайте.
116: Здесь немножечко поговорим про интеграции. Если ллм, которая выполняет задачи, это мозг нашего агента, то у нас есть специальный раздел с интеграциями, где мы даём нашему
117: Агенту руки, как это происходит, у нас, достаточно большой набор интеграций уже предусмотрен из коробки, разумеется, интеграции с лмками, интеграции с каналами, про которые уже сказал.
118: Возможность подключения к эмсипи серверам об этом тоже коллеги расскажут чуть позже возможность использовать внутреннюю базу данных с различной различными областями видимостями, то есть базу данных можно создать на весь world.
119: Space на конкретный проект, на отдельный канал для каждого отдельного клиента и даже для каждой отдельной сессии помимо этого, у нас есть телефония, почтовые сервера для того, чтобы агенты могли взаимодействовать по телефону, по электро.
120: Почте есть возможность подключения нашей базы знаний ноледж хаб. Если вы работаете на текущем аккаунте, достаточно просто выбрать из какой-то базы и интеграция создастся. Есть модели синтеза распознавания.
121: Речь для того, чтобы у нас заработали интеграции, нам необходимо добавить креденшелы, то есть учётные данные, они хранятся все в закрытом виде, никуда не передаются. Это у нас такое внешнее хранилище секретов, опять же.
122: К каждому из инструментов можем добавить свой токен, который нам необходим, и забрать его потом для использования в сценарии как в коде, так и просто в интерфейсе и помимо этого
123: Если каких-то учётных данных у нас не хватает здесь для интеграции, мы можем создать собственный тип данных по токену, либо по логину и паролю и таким образом дальше использовать эти учётные данные в интеграции вернём.
124: В наш конструктор. И давайте посмотрим теперь на пользовательские функции, что у нас здесь есть. У нас есть возможность создать собственную коллекцию.
125: Назовём её как-нибудь.
126: Давайте сделаем идентичными, чтобы не путаться, и добавляем сюда описание. Описание важно добавлять корректное для того, чтобы мы сами в разработке не путались, это будет отображаться в документации в боковом меню.
127: Я покажу это чуть позже. И, кроме того, некоторые описания, например, функций или полей могут передаваться агентам автоматически для того, чтобы им было проще использовать инструменты. Соответственно, старайтесь заполнять описание максимально корректно. Вот.
128: Здесь у нас есть функция по умолчанию.
129: Давайте сразу напишем хорошее описание для неё сохраним. И теперь у нас появляется здесь собственная коллекция и собственная функция. Если мы её добавим на
130: Канвас, мы сможем перейти в редактор кода, добавить здесь нужные нам параметры, например, там число
131: Допустим, это у нас будет ордер айди и строка, например, order нейм.
132: Сохраним это.
133: Так. Угу.
134: Так, и у нас появится вот такой вот замечательный билдер полей. Что теперь можно с этим сделать? У нас появилась собственная функция, которую мы можем, например, прицепить к сценарию после агента и тогда
135: После выполнения работы с агентом эта функция у нас исполнится, но также любая функция в нашей агентской платформе может выступать и инструментом для агента. Соответственно, мы можем дать агенту возможность самостоятельно.
136: Выполнять параметры, которые мы только что создали, и давать агенту возможность принимать решение самостоятельно. Нужно ли вызывать эту функцию в каждом конкретном случае. Таким образом, у нас получается очень гибкая система.
137: Которую мы можем формировать, как мы сами захотим. И, в принципе, на этом, наверное, мой экспресс обзор будет завершён. Про что нужно помнить. Здесь у нас есть возможность работать с
138: Документацией обращаться за поддержкой в наше сообщество в telegram. Если вы что-то разрабатываете и сталкиваетесь со сложностями, не стесняйтесь писать, там я мои коллеги, техническая поддержка в том числе.
139: Стараются отвечать максимально оперативно. Для любителей тёмной темы можно здесь же переключиться на такой более строгий вариант, но я предпочитаю светлую, поэтому, с вашего позволения, останусь на ней. Вот, и
140: Пожалуй, все, что вам необходимо знать про агентскую платформу на данном этапе чуть более сложные вещи мы с вами начнём рассматривать уже в следующих уроках. На этом у меня на сегодня все и до новых встреч. Итак,
141: Мы с вами посмотрели, как выглядит наша агентская платформа, что она из себя представляет с точки зрения как бы самого продукта. Ну а в следующих курсах, в следующих модулях, мы уже непосредственно начнём на её основе собирать реальные кейсы, я надеюсь,
142: Что эти агенты реально смогут дать буст вашему бизнесу?