ym104432846
Вставьте ссылку на видео из Youtube, Rutube, VK видео
Задайте вопрос по видео
Что вас интересует?
00:00:03
Искусственный интеллект в контакт-центре:
  • Актуальность использования ИИ в обслуживании клиентов растёт.
  • Стандарт CIO PCIE 8 версии акцентирует внимание на управлении ИИ и омниканальном обслуживании.
  • Платформа ERA поддерживает интеграцию различных ИИ-компонентов.
00:10:51
Голосовые роботы и платформа ERA:
  • Голосовые роботы используют технологии ASR, TTS и LLM.
  • Платформа ERA поддерживает создание и управление голосовыми роботами.
  • Примеры демонстрации работы голосовых роботов в страховых и логистических сценариях.
00:33:40
Инструкции и сценарии для роботов:
  • Поведение роботов определяется промтами и инструкциями.
  • Различные подходы к созданию инструкций: сценарный и агентский.
  • Использование нейросетей для анализа и подсказок операторам (ИИ-суфлер)
00:44:51
Технологии и инфраструктура ИИ:
  • Независимость компонентов ИИ и гибкость в выборе инфраструктуры.
  • Рекомендации по самостоятельному разворачиванию компонентов.
  • Сочетание локальных и облачных ресурсов для оптимальной работы.
00:50:00
Внедрение и эксплуатация платформ ИИ:
  • Этапность внедрения технологий ИИ в контактные центры.
  • Преимущества подхода Ollowcode Builder для адаптации платформ.
  • Особенности работы и развёртывания платформы ERA.
00:54:11
Вопросы и ответы:
  • Рассмотрены практические аспекты разработки и эксплуатации ИИ-платформ.
  • Подтверждена гибкость и масштабируемость платформы ERA.
  • Даны рекомендации по написанию эффективных промтов.
0: Всем добрый день. Меня зовут Илья. Надеюсь, что меня видно и слышно. И сегодня мы снова будем говорить про искусственный интеллект в контактных центрах, причём в наиболее полном и технологически сложном исполнении. Как это?
1: Следует из названия вебинара, мы будем разбирать принципы голосового взаимодействия с клиентами в реальном времени, то есть голосовых ии агентов или, другими словами, голосовых роботов. Мы видим, что сегодня много новых участников, поэтому
2: Очевидно, стоит сделать краткий вводный обзор в платформу эра, но давайте оставим это на заключительный этап, а сейчас сразу перейдём к основной теме нашего вебинара. Напомню, что вопросы можно задавать в ленте. Я на них отвечу после завершения.
3: Презентации, а запись вебинара, как обычно, будет опубликована на наших информационных ресурсах.
4: Актуальность темы стремительно набирает обороты. И мы сегодня поговорим не только о том, как применять искусственный интеллект для обработки голосовых и текстовых вызовов, но также затронем вопросы методологические. Что изменилось?
5: В стандартах за последнее время и архитектурные, из каких компонентов эти инструменты состоят и как эти компоненты можно комбинировать, начнём с методологии. Наверняка многие из вас слышали о документе.
6: Seo ppc разработанным корпорациями майкрософт дел и american express документ не секретный, его легко получить в оригинале на английском языке, и 8 версия этого стандарта опубликована совсем недавно 11.
7: Февраля и является крупнейшим обновлением за 30 лет с акцентами на управление искусственным интеллектом и омниканальным обслуживанием клиентов.
8: Олег Зельдин, управляющий партнёр компании epic сберг контакт центр консалтинг, недавно опубликовал ряд материалов и провёл серию вебинаров с детальным разбором новой версии стандарта мы следим за трендами в методологии отрасли.
9: И стремимся предоставить актуальные инструменты, которые помогают контакт центрам соответствовать вызовам и требованиям современности. Перечислим основные тезисы этих материалов. Искусственный интеллект и автоматизация входят
10: Ключевые факторы управления контакт центром из зоны ответственности айти департамента технологии переходят под общее управление менеджментом, искусственный интеллект перестал быть инструментом, а стал полноценной средой работы факти.
11: Это означает свершившийся переход от частных экспериментов и прототипов к повсеместному применению технологии. Стандарт содержит чёткие требования учитывать этичное и ответственное использование технологий, особенно.
12: Искусственного интеллекта много внимания уделяется контролю качества автоматизированная оценка, калибровка, технологии и требования отключать дефектные функции в части обучения и верификации стандарт перехо.
13: Ходит от людей, как это было раньше, к унифицированным людям и технологиям, выполняющим клиентские задачи.
14: Стандарт сио писи 8 версии, по сути, транслирует руководителю следующую мысль недостаточно просто внедрить бота, автоматические саммари, автооценку или инструменты поддержки операторов важно встроить эти решения в систему.
15: Управленческого контроля и ясно определить, в каких точках технология влияет на клиентский опыт, каким образом проверяется корректность её работы, как выполняется калибровка, где проходят границы допустимого применения.
16: И кто отвечает за последствия, если технология систематически ошибается? То есть сегодня вопрос уже не в том, используете ли вы искусственный интеллект. Гораздо важнее другое. Управляется ли искусственный интеллект как полноценный?
17: Элемент сервисной операции. И в этом, по оценке Олега, проявляется зрелость самого стандарта. Он выводит искусственный интеллект из области презентационных лозунгов и переводит его в плоскость полноценного операционного управления. Внедре
18: Новых технологий инструментов всегда сопряжено с рисками и издержками. Если говорить про любые сервисы, включающие в себя искусственный интеллект, важно учитывать недетерминированность или, другими словами, непредсказуемость результата проект
19: Тируя привычную блок схему любого сценария, мы легко можем прогнозировать его поведение почти в любой ситуации с точностью до каждого логического элемента, а вот переходя к запросам в нейросеть, точность и уверенность снижаются вплоть.
20: До полного размытия границ и возможного выхода технологии из под нашего контроля. Давайте рассмотрим самую нашумевшую задачу внедрения искусственного интеллекта в контактном центре, а именно замену операторов голосовыми роботами.
21: Предположим, что клиенты звонят в контакт центр с целью решить не типовой вопрос, пообщавшись с живым оператором, что, как правило, может предложить голосовой робот решение типового вопроса, не особо качественно маскируясь под живого чело.
22: Какой результат мы получим? Более 90% обращений, скорее всего, будут завершаться нервным требованием переключить на человека и растущим негативом наших клиентов. Мы предлагаем рассмотреть итерационный подход.
23: Вот и 1, с чего стоит начать, это классификация обращений по категориям. Кстати, всем известная корпорация циско уже несколько лет в качестве ключевого кейса применения искусственного интеллекта в контакт центрах называет точную и
24: Достоверную классификацию обращений. Почему же классификация так важна? Потому что она позволяет выделить 1 или несколько категорий обращений, поддающихся автоматизации и не требующих обязательного участия человека. Далее.
25: Для выбранной категории мы формулируем цель взаимодействия с клиентом на основе этой цели, проектируем правила работы робота и, казалось бы, можем приступать к экспериментам, но прежде чем это делать, важно проработать применимые к
26: Этой категории обращений метрики, научиться их измерять и определить критерии контроля, что для нас допустимо, а что нет, и эти метрики уже будут отличаться от привычной классики контакт центров уровня обслуживания.
27: Или процента потерь. Ведь почти любой голосовой робот покажет в этой части идеальные показатели метрики, оценки роботов как голосовых, так и текстовых переходят в плоскость Смыслов и должны показывать, был ли вопрос клиент.
28: Решён, насколько качественно и с каким настроением клиент завершил коммуникацию с компанией, если мы такие метрики разработали и научились измерять. А для этого в платформе эра уже есть модуль автоматиз.
29: И ручного контроля качества. У нас появляется возможность сравнивать результаты, достигаемые живыми операторами и нашими роботами. Причём необязательно для этого сразу включать роботов в очереди обслуживания реальных клиентов можно
30: Проводить технологические тесты на основе архива взаимодействий и шлифовать промты и сценарии до тех пор, пока мы не научимся получать приемлемые результаты. Далее мы наконец то включаем роботов в очереди, начинаем
31: Обрабатывать реальные взаимодействия. Регулярно возвращаемся к метрикам и в соответствии с требованием стандарта сио писи, оперативно принимаем решение о необходимости корректировок вплоть до полного отключения технологии, если она
32: Каким-то причинам не обеспечивает требуемый результат. Давайте немного забегая вперёд. Послушаем, как может разговаривать с клиентом голосовой робот, реализованный на платформе эра.
33: Добрый день, я Мария из страховой компании. Подскажите, пожалуйста, с кем я разговариваю вам зачем? Вот давайте повторюсь. Меня зовут Мария, я виртуальный оператор стра.
34: Страховой компании для продолжения мне нужно уточнить, с кем я разговариваю. Назовите, пожалуйста, вашу фамилию, имя, отчество. Меня зовут Пётр. Спасибо, Пётр. Для полной идентификации мне также необходима ваша фами.
35: Хорошо, Максимов Пётр Сергеевич, спасибо. Я вас идентифицировала. Вам удобно сейчас поговорить? Это займёт буквально пару минут. Ну, давайте быстро.
36: Благодарим вас за то, что пользуетесь продуктами страхования. У вас оформлено 2 полиса ОСАГО и КАСКО на автомобиль тойота камри. Срок действия обоих полисов скоро подходит к концу. Хотели бы предложить вам продлить их вам это.
37: Интересно. Ну, наверное, да. Прежде чем перейти к условиям продления, мне нужно уточнить, изменились ли ваши персональные данные за последний год. Например, фамилия, адрес регистра.
38: Водительское удостоверение? Нет, наверное, ничего не поменялось по автомобилю ничего не менялось. Дополнительное оборудование. Были ли дтп за прошедший год? Да нет, наверное, отлично. Тогда стоимость.
39: Продление на следующий год составит ОСАГО 12 800 ₽, КАСКО 47 500 ₽. Они итого 60 300 ₽ готовы продлить на этих условиях. Повторите, пожалуйста, сколько ещё?
40: КАСКО. Стоимость продления полиса КАСКО на следующий год составит 47 500 ₽. Ну окей, давайте продлять.
41: Замечательно. Сейчас я отправлю вам ссылку для оплаты в мессенджер. После оплаты обновлённые полисы поступят вам на электронную почту. Остались ли у вас какие-то вопросы? Нет, все понятно.
42: Благодарю вас за звонок и за доверие к страховой компании. Хорошего дня. До свидания. Пока.
43: Теперь давайте разберём технологические компоненты, необходимые для построения голосовых роботов, для того, чтобы робот нашего клиента слышал, нам нужна технология распознавания речи или аср этот компонент переводит
44: Голос в текст для дальнейшей обработки. Для того, чтобы клиент слышал нашего робота, потребуется технология синтеза речи или ттс. Этот компонент выполняет обратную операцию, преобразует текст в голос для озвучивания клиенту, для
45: Перехода от единичных операций к полноценному диалогу. Нам также потребуется вад или детектор голосовой активности. Этот компонент работает непрерывно и позволяет отслеживать завершение клиентской фразы для её распознавания и обра.
46: Кроме этого, what позволяет обнаружить перебивание робота клиентом, чтобы вовремя остановиться и перейти в режим распознавания ключевой компонент робота, причём не только голосового это большая языковая модель или
47: Ллм. Именно стремительное развитие этой технологии в последние годы сделало возможным построение человекоподобных роботов ллм это весьма загадочный чёрный ящик, получающий на вход подробную инструкцию.
48: Которую обычно называют промт и историю взаимодействия клиента с роботом на выходе ллм выдаёт очередной ответ для отправки или озвучивания клиенту также на входе любому роботу, как правило, нужен контекст взаимодей.
49: Например, информация о клиенте или его заказе если робот использует базу знаний, контекст автоматически дополняется наиболее релевантными её фрагментами, а в процессе работы роботу могут потребоваться инструменты управление.
50: Звонком или диалогом, запросы в информационные системы и так далее. Если сопоставить все эти компоненты с органами живого оператора, то получится примерно следующая картина аср это уши оператора ттс, это
51: Рот ллм, мозг. Ну а контексты, инструменты можно считать его руками и ногами или, как ласково говорят наши разработчики, это его ручки и ножки. Ещё год назад мы реализовали в платформе эра.
52: Возможность построения текстовых роботов там не требуется высокая скорость ответа и достаточно простой ллм, которые уже были доступны в то время, однако за прошедший год развитие технологий, в том числе открытых и бесплатных совер.
53: Настолько качественный скачок, что нам удалось комбинации компонентов аср и ттс, работающих поочерёдно под управлением вад и хорошей современной ллм, обеспечить вполне достойное качество диалога уже.
54: Сейчас очевидно, что скорость и качество моделей будут и далее совершенствоваться и развиваться архитектура наших голосовых роботов показана на схеме с точки зрения платформы r e e. Движок является.
55: Почти обычным сип пользователем. Кроме этого, он умеет забирать настройки и отдавать результаты сессий непосредственно в объектную модель эры, поэтому для администраторов и пользователей сохраняется работа в едином интерфейсе движок.
56: Роботов используют внешние сервисы ллм, аср и ттс, которые мы только что рассмотрели, а также внутри себя содержат сервис what хорошая новость заключается в том, что все эти компоненты можно развернуть на 1 сервере.
57: С 1 единственной видеокартой протокол взаимодействия с ллм, как правило, унифицированный это означает, что замена 1 модели на другую происходит практически без накладных расходов с сервисами аср тт.
58: Чуть сложнее. Их внешние интерфейсы часто отличаются, поэтому при переходе от 1 модели к другой, как правило, необходима разработка специфического коннектора. Ну и ещё 1 хорошая новость заключается в том, что все эти
59: Компоненты вынесены за пределы эры в отдельные докер контейнеры, а это, в свою очередь, означает, что их обновление, замена и прочие процессы обслуживания не требуют каких-либо манипуляций на стороне эры и, следовательно, не приводят к просто.
60: Ну и, к слову, эра может работать с несколькими экземплярами таких ии. Движков и таким образом обеспечивать между ними балансировку нагрузки. Давайте теперь посмотрим, как выглядит создание голосового робота в платформе эра.
61: И включение его в очередь вместе с операторами.
62: Наиболее важные настройки робота, определяющие его поведение, это инструкция или, другими словами, промты, их объёмы содержания сильно зависят от задачи и корректируются в зависимости от
63: Используемой модели. Например, инструкция для психолога может уложиться в десяток строк, а вот для создания более сложного робота, который, например, помогает продлить страховой полис, может потребоваться гораздо
64: Более сложная инструкция, даже содержащая специфическое форматирование, понятное ллм модели.
65: После создания робота мы можем включить его в очередь распределения вызовов. Наряду с операторами и группами делается это в карточке очереди. Мы просто добавляем нового участника с типом робот. Выбира.
66: Конкретного робота и определяем ёмкость.
67: Важная особенность роботов заключается в том, что, в отличие от живых операторов, ёмкость учитывается и для голосовых вызовов тоже. Таким образом, мы только что добавили робота рекрутёр, в нашу очередь распределения вызова.
68: И этот робот может одновременно обрабатывать до 5 вызовов для каждого робота автоматически создаётся пользователь платформы, в начало имени которого добавляется слово робот, и в результате мы можем управлять приоритетами распределения.
69: Вызовов между операторами и роботами привычными средствами. Роботу, как и живому оператору, можно назначать квалификация и управлять его локальным статусом. Готов, не готов для каждой конкретной очереди, ну и кроме этого, отчёты по
70: Вызовом очередей продолжают работать без каких-либо изменений. И в этих отчётах мы можем сравнивать показатели, которые достигают наши роботы и живые операторы. Давайте теперь вернёмся к нашим роботам.
71: И более подробно рассмотрим инструкцию на примере робота коллектора.
72: Для наглядности сюда уже подставлены все данные о клиенте и его задолженности в реальности. Вместо этого, конечно же, будут макросы для подстановки данных из контекста, который отличается для каждого звонка, как правило, инстру.
73: Инструкция для робота начинается с краткого описания Роли. Далее идёт информация о клиенте и прочая контекстная информация. После этого сформулирована задача, перечислены основные правила.
74: И достаточно подробно описана логика диалога.
75: После описания логики часто повторяются наиболее важные правила или приводятся запреты в данном случае мы видим, что роботу делать запрещено, и иногда также в промт или в инструкцию включается.
76: Финальная установка, которая напоминает ллм модели, суть и цель её работы для того, чтобы модель, как и живой человек, ничего случайно не забыла. Давайте послушаем, как конкретно эта инструкция работает на
77: Практики.
78: Здравствуйте, меня зовут Наталья. Компания фин линия. Разговор записывается. Петрова Марина Сергеевна, это вы? А кто её спрашивает?
79: Меня зовут Наталья, компания фин линия. Соедините, пожалуйста, с Петровой мариной сергеевной. А по какому вопросу?
80: Мне необходимо поговорить с Петровой мариной сергеевной. Я не могу озвучивать информацию 3 лицам. А, ну да, это я. Что случилось?
81: Петрова Марина Сергеевна, звоню из компании син линия по вопросу вашей задолженности на сегодня. Сумма составляет 18 450 ₽. Подскажите, вы сможете урегулировать вопрос оплаты сегодня?
82: Да нет, наверное. Слушайте, я сейчас не очень могу нормально разговаривать.
83: Понимаю. Тогда коротко уточню 1 момент. Вы скорее рассматриваете оплату не позднее 24.04.2026 или я вообще сейчас на улице и можно без давления. Ладно?
84: Понимаю, я подожду. Скажите, пожалуйста, что вам будет удобнее? Оплата до 24.04.2026 или продление, я не поняла. Повторите, конечно, коротко у вас.
85: Задолженность 18 450 ₽. Я уточняю, что вам удобнее сейчас оплатить полностью или оформить продление. Ну, полностью. Сейчас точно нет. До какого числа я должна все это оплатить?
86: Я могу зафиксировать оплату не позднее 24.04.2026. Если этот срок для вас неудобен, можно рассмотреть продление. Какой вариант вам ближе оплата до 24.04.2026 или
87: А, ну конечно, очень удобно придумали, а вы там только и названивать готовы мне?
88: Понимаю ваше раздражение. Я сейчас коротко помогу определить удобный вариант, чтобы не задерживать вас. Вам ближе оплата до 24.04.2026 или продление. Подождите секундочку, мне тут курьер звонит.
89: Да, конечно, я подожду.
90: Так, давай я слушаю. Спасибо. Тогда уточню коротко. Вы рассматриваете оплату до 24.04.2026 или продление? Не знаю. Давайте вы вечером позвоните.
91: Понимаю вас, чтобы не беспокоить вас повторно без необходимости. Уточню коротко. Сейчас вы в целом планируете оплату до 24.04.2026 или продление, скорее, продление?
92: По вашему договору доступно продление на 14 дней, 2 300 ₽ на 21 день, 3 100 ₽ на 30 дней 4 200 ₽. Какой вариант вам ближе, наверное, 14 дней?
93: Хорошо, правильно понимаю, что вы рассматриваете продление на 14 дней, да, скорее всего, да.
94: Поняла вас. Тогда уточню, чтобы корректно зафиксировать результат разговора. Продление на 14 дней вы планируете оформить сегодня или завтра? Завтра?
95: Поняла вас. Тогда фиксирую продление на 14 дней. Вы планируете оформить завтра, верно? Да.
96: Хорошо. Оформить его можно в личном кабинете на сайте fine линия точка ру. Если возникнут вопросы, вы можете обратиться по номеру горячей линии 8 800 0 00:00. Всего доброго.
97: Хорошо. Всего доброго. Ожидаем оформления продления в личном кабинете. Всего доброго.
98: И ещё 1 пример, в записи которого мы попросили поучаствовать девушку иностранца для исследования качества распознавания русской речи и работы ллм в достаточно сложных условиях.
99: Здравствуйте, меня зовут Олег. Служба доставки тип топ келли смит. Это вы? Да, это я.
100: Kelly sweet звоню по вопросу доставки вашего заказа хочу согласовать удобное время доставки подскажите, пожалуйста, когда вам удобно получить заказ? Можно сегодня после 9 вечера?
101: К сожалению, в это время доставка уже не работает. Давайте подберём другое удобное время. Хорошо, правильно понимаю? Доставка вам у
102: А, хорошо, завтра в 5 часов.
103: К сожалению, в это время доставка уже не работает. Давайте подберём другое удобное время. А, хорошо, завтра в 5 часов. Хорошо, правильно понимаю? Доставка вам у
104: Удобно завтра в 5 часов вечера.
105: Нет, я забыла. Завтра в это время я занята.
106: Удобно. Завтра в 5 часов вечера? Нет, я забыла. Завтра в это время я занята.
107: Понял вас. Тогда это время не фиксирую. Подскажите, пожалуйста, есть ли другое удобное время или вам будет удобнее?
108: Я не знать сложно, я не знать, когда я дома.
109: Понял вас. Тогда это время не фиксирую. Подскажите, пожалуйста, есть ли другое удобное время или вам будет удобнее? Я не знать. Сложно. Я не знать, когда я дома.
110: Понимаю. Тогда могу предложить более удобный вариант доставку в почтомат. Подскажите, пожалуйста, какая станция метро вам удобнее?
111: Простите, что такое почтомат?
112: Понимаю. Тогда могу предложить более удобный вариант доставку в почтомат. Подскажите, пожалуйста, какая станция метро вам удобнее? Простите, что такое почтомат?
113: Это автоматический пункт выдачи. Туда привезут ваш заказ, и вы сможете сами забрать его. Когда вам удобно. Подскажите, пожалуйста, какая станция метро вам удобнее?
114: Мне удобно динамо метро.
115: Это автоматический пункт выдачи. Туда привезут ваш заказ, и вы сможете сами забрать его. Когда вам удобно. Подскажите, пожалуйста, какая станция метро? Вам удобнее? Мне удобно динамо метро.
116: Динамо хорошо для меня улица ленина.
117: Хорошо. Рядом с метро динамо есть почтомат по адресу улица ленина, 89. Такой вариант вам подойдёт?
118: Динамо. Хорошо, для меня хорошо. Рядом с метро динамо есть почтомат по адресу улица ленина, 89. Такой вариант вам подойдёт улица ленина.
119: 8, 10, 9. Да, это звучит хорошо.
120: Правильно понимаю, что вам подходит доставка в почтомат по адресу улица ленина, 89, рядом с метро динамо?
121: Да, да, мне подходит, я согласна.
122: Правильно понимаю, что вам подходит доставка в почтомат по адресу улица ленина, 89, рядом с метро динамо? Да, да, мне подходит, я согласна.
123: Хорошо зафиксировал. Доставка будет в почтомат по адресу улица ленина, 89, рядом с метро динамо. Когда посылка поступит в выбранный вами почтомат, вам придёт СМС. После этого вы сможете её забрать, если
124: Возникнут вопросы. Вы можете обратиться по номеру горячей линии 8 800 0 0 0 или на сайт тип топ точка ру. Спасибо. Всего доброго.
125: Хорошо, спасибо большое.
126: Возникнут вопросы. Вы можете обратиться по номеру горячей линии 8 800 0 0 0 или на сайт тип топ точка ру. Спасибо. Всего доброго. Хорошо. Спасибо большое.
127: На этом слайде перечислен ряд наиболее ярких и полезных особенностей наших голосовых роботов, которые мы могли заметить в ходе прослушивания примеров.
128: Особенно важно, что роботы реагируют на перебивания, понимают сложные конструкции русского языка типа да нет, наверное, не пугаются акцентов и не всегда внятной речи эти технологические моменты уже отработаны в нашем движке.
129: Используемых моделях, а все смысловое наполнение управляется промтами, то есть инструкциями для конкретных задач. Например, коллектор может быть упорным и неустанно по 10 раз повторять 26.04.2026
130: Года, а более доброжелательных роботов мы можем прямо в текстовой инструкции попросить о краткости, чтобы нашим клиентам было более комфортно. Но а если в ходе проведения Тестов и экспериментов нам что-то не нравится, вспоминаем про
131: Итерационный подход корректируем инструкции и заходим на очередной круг тестирования. 1 из наиболее мягких и комфортных кейсов, с которого можно начать путь внедрения голосовых роботов. Это ненавязчивый помощник.
132: В очереди ожидания его задача предложить клиенту во время ожидания в очереди сообщить информацию по теме обращения. Робот её принимает, структурирует и передаёт оператору в виде предзаполненной карточки. Давайте
133: Посмотрим и послушаем, как такое может выглядеть на практике.
134: Ориентировочное время ожидания 5 минут. Мы будем благодарны, если во время ожидания вы предоставите предварительную информацию о вашем обращении роботу ассистенту. Это поможет нашим операторам обработать
135: Максимально оперативно. Да, давайте опишите кратко ситуацию. Своими словами в меня врезался автомобиль. Произошло дтп. У меня повреждения есть полис вашей компании.
136: Уточните, пожалуйста, вашу фамилию, имя и отчество Караваева Елена Александровна.
137: Укажите дату происшествия 28 апреля, укажите время происшествия.
138: Так, минутку. Время было 8:25. Укажите марку и модель вашего автомобиля киа спорт эйдж.
139: Укажите государственный номер вашего автомобиля а 720 р. Н 716.
140: Укажите номер вашего страхового полиса. Так, минутку, сейчас.
141: Жду номер полиса. Итак, полис XXX849302176 5.
142: Укажите адрес или место происшествия дтп произошло на пересечении улиц академика Арбузова и академика Губкина на перекрёстке.
143: Опишите подробно, какие повреждения получили вы или ваш автомобиль. У меня пострадал передний бампер. С левой стороны переднее левое крыло и немного задета фара. Спасибо.
144: За информацию оператор скоро вам ответит. Хорошо. Спасибо.
145: После завершения сбора информации отдельной инструкцией запускается постобработка, причём в нашем случае инструкция довольно лаконичная и простая, а на выходе получается вполне достойный результат. Обратите внимание, что все междометия уже вы.
146: Дата и время приведены к машиночитаемому формату, при этом Явных инструкций для этого не было, то есть нейронка выполнила все эти операции самостоятельно. Если нужно, мы можем более явно с точностью до каждого поля указать.
147: В промте правила его заполнения, форматы исключения и так далее результат постобработки можно сохранить напрямую в контекст вызова, а это, в свою очередь, приведёт к автоматическому заполнению полей карточки в операторском приложении.
148: Пример такой карточки, отрисованной в билдере платформы r. Мы сейчас и видим на экране этот кейс и. И помощник в очереди нам очень близок по целому ряду причин во первых, мы не пытаемся обмануть клиента, подсунув.
149: Ему робота вместо человека в самом начале робот честно называет себя роботом ассистентом. Во вторых, разговор с роботом является для клиента добровольным. Можно продолжить ждать ответа оператора не приходится.
150: Это право или эту возможность требовать? Ну и в третьих, в этом кейсе мы видим тройную выгоду. Клиенту не так скучно ждать. В очереди оператору достаётся предзаполненная карточка, а компания экономит на трафике, сокращает время.
151: Обработки вызова оператором и идёт в ногу со временем, показывая клиентам внедрение современных технологий. При этом у клиента не возникает неоправданных ожиданий и, скорее всего, нет желания перейти в плоскость оскорблений, хотя даже если он
152: Вдруг и сделает робот? Не очень сильно обидится. Поведение такого ассистента очень похоже на стажёра в офисе банка, который встречает клиента, помогает взять талон в терминале или решить простую задачу в банкомате, кстати.
153: И мы можем разрешить нашим ассистентам в очередях классифицировать запросы клиентов и в некоторых случаях предлагать помощь без участия человека.
154: В следующем кейсе искусственный интеллект вообще остаётся незаметным для клиента это ii суфлёр когда оператор обрабатывает звонок или текстовый диалог, можно автоматически или по его запросу анализировать контекст взаим.
155: Действия, включая полный текст диалога или стенограмму разговора, и выводить на экран оператору подсказки, статьи, базы знаний, шаблоны предполагаемых ответов с подстановкой информации о клиенте или результат любой другой обрабо.
156: Text нейросетью для голосовых вызовов кстати, может оказаться полезным даже отображение у оператора исходника стенограммы в режиме реального времени, например, для заполнения некоторых полей карточки со слов клиента.
157: Прогресс неизбежен. По информации из открытых источников, уже более 3% операторов. Контакт центров в мире заменены роботами. Мы со своей стороны предоставляем инструменты, которые ускоряют и упрощают внедрение современных
158: Технологий в процессы контакт центров вопрос надо или не надо? Уже не имеет смысла обсуждать. Скорее стоит ответить на вопрос, когда и в каком виде к этому приступать. Давайте немного поговорим о том, каким образом можно описывать поведение.
159: Роботов, как голосовых, так и текстовых. Вообще говоря, сам подход к обслуживанию клиентов роботами не является чем-то революционным. Мы уже 10 и 15 лет назад внедряли голосовых помощников для приёма показаний счётчиков.
160: В энергосбытовых компаниях это были классические авиар сценарии с чёткой и строгой логикой, которые принимали информацию в виде дтмф команд или путём сервисов распознавания речи. Ключевая особенность таких сценариев. Они
161: Очень жёстко ведут клиента по заложенному алгоритму, не терпят отклонений. Ну либо эти отклонения очень трудозатратны в реализации и отладке. Уже сегодня можно расширить этот подход точечным применением в сценариях возможностей ней.
162: Сетей и, например, для выделения смысла можно определять очередную ветку сценария не по жёстко заданным ключевым словам, а попросить эллэ классифицировать свободный ответ клиента и направить сценарий в нужную сторону также
163: Можно точечно генерить текст и озвучивать его компонентом синтеза речи. Можно ли эти первые 2 подхода назвать голосовыми роботами? Очевидно, можно, но те примеры, с которыми мы сегодня познакомились, используют возможности.
164: Нейросетей гораздо шире, а трудозатраты на разработку таких роботов существенно ниже автору робота достаточно в текстовом виде описать инструкцию или prompt и убедиться, что полученный в результате робот решает поставленные.
165: Задачи, то есть диалог клиента выглядит адекватным, а метрики удовлетворяют нашим критериям. Казалось бы, это может полностью лишить сценарный подход какого-либо смысла. Однако на практике оказывается, что большой объём
166: Единой текстовой инструкции может мешать нейросети в достижении цели, особенно если взаимодействие с клиентом состоит из нескольких этапов, каждый из которых имеет свои локальные цели в этом случае возникает потребность совместить 2.
167: Подхода, некое подобие сценария, состоящего из этапов, каждый из которых имеет свои цели, инструкции и переходы. И такой подход получил название агентский подход. Здесь агент понимается в смысле и и
168: Агента, а не агента контакт центра. У нас уже есть в этой части наработки и давайте на них посмотрим на примере очередного робота открываем дизайнер, робота, рекрутёр.
169: Это помощник отдела управления персоналом компании аутстафф ресурс, у него есть базовый системный промт сравнительно небольшого объёма и также у него есть набор клю.
170: Ключевых правил или ограничений их тоже сравнительно немного. Далее мы видим блок схему, которая состоит из 4 этапов. Приветствие, информирование о вакансии, сбор ответов на вопросы и прощание у каждого
171: Этапа, есть свой промт и есть набор целей. Переход к следующему этапу выполняется после достижения целей предыдущего на вкладке привью. Мы можем посмотреть, как выглядит итоговый промт этого.
172: Этапа для нейросети, а он, как правило, включает в себя и системный промт робота в целом, и комбинацию нескольких инструкций, включающие в себя цели, этапы и правила перехода. Дальше робот
173: Умеет вызывать инструменты. Например, в данном случае строчка вызови дроп кол означает, что при выполнении заданного условия робот завершит текущий диалог или телефонный звонок сейчас
174: Сейчас мы находимся на стадии внутреннего тестирования этой модели, а после 1 из ближайших обновлений будем готовы опубликовать его для изучения и проведения экспериментов.
175: Возможность использования ллм при обработке текстовых обращений мы показывали уже более года назад. Давайте ещё раз посмотрим вживую на работу текстового или голосового робота в медицинском учреждении безо всяких агентских под
176: Ходов на базе довольно короткого промта и цель этого робота консультировать клиентов по графику работы клиники и наличие специалистов и фиксировать записи на приём, кроме основной инструкции в наших
177: Роботах появилась возможность задавать отдельные инструкции для резюмирования и постобработки. Давайте откроем режим тестирования и посмотрим, как может выглядеть живой диалог с этим роботом.
178: Диалог завершён, заявка принята, а мы можем выполнить постобработку и посмотреть на машиночитаемый и человекочитаемый. Результаты этого диалога, форматы, содержание которых определяются промтами посто.
179: Работки. Здесь же у нас появились инструменты для тестирования робота в несколько Шагов. Мы можем перейти в раздел симуляция и запустить в параллельном режиме 5 диалогов по заданным, навер.
180: Последовательным репликам пользователя. Как мы помним, нейросеть при одних и тех же внешних воздействиях может вести себя по разному. Диапазон этой свободы управляется настройкой температуры. Это числовое значение от
181: До единицы и содержанием инструкций параллельное тестирование позволяет нам оценить адекватность работы модели и при необходимости скорректировать наши инструкции. Мы видим, что, несмотря на различия
182: В ходе диалогов результат везде одинаковый, теперь давайте посмотрим, как голая ллм без специфической инструкции справляется с задачами обработки текста в части переводов и исправления.
183: Ошибок. Обратите внимание на скорость, качество и полноту ответов.
184: Отправляем тот же самый запрос ещё раз.
185: И ещё.
186: При отсутствии чётких инструкций нейросети часто занимаются самодеятельностью. В данном случае ллм не только исправила ошибки, но и прокомментировала свои действия, однако это легко решается минимальным дополнением запроса или промта. Мы мо.
187: Можем явно указать, что нас интересует только итоговый текст без комментариев, и, скорее всего, мы будем от этой самодеятельности избавлены, большинство современных ллм моделей являются мультиязычными и без труда обрабат.
188: Огромное количество Языков мира.
189: Причём не только европейских и распространённых, но также и тех, которые, к сожалению, нам сложно будет проверить на достоверность, однако какие-то ответы мы получаем, можно выполнить и обратную проверку.
190: Нейросеть довольно быстро отвечает на наши вопросы давайте теперь выполним несколько запросов к базе знаний, в качестве которой проиндексирована наша презентация оо платформе эра. При этом применяется технология rag, которая
191: Позволяет дополнять запросы к языковым моделям, релевантным контекстом. Переключаемся в другой чат и задаём вопросы.
192: Этому роботу чётко сказано, что на все вопросы, на которые нет ответа в предоставленной базе знаний, отвечай дословно не знаю, что он и сделал вот такие возможности по обработке языка, текста или голоса при подключении речи.
193: Технологий предоставляют нам современные модели. Сейчас мы работаем с бесплатной ллм квен, развёрнутой локально в нашей лаборатории. Скоро мы увидим точное название модели потребляемый ей ресурс.
194: И характеристики видеокарт, которые могут обеспечить её работу, индексацию базы знаний и формирование релевантного контекста для обработки последних запросов о платформе эра выполняет другая модель под управлением движка ai лама таким.
195: Образом. При необходимости мы можем реализовать гибридный подход. Полная база знаний с векторными индексами хранится локально в закрытом контуре, а для генерации ответов на вопросы подключается большая внешняя модель, которая при этом не имеет полного до
196: Доступа к нашей базе знаний. Если она представляет собой коммерческую тайну. Кстати, модель queen имеет весьма широкий кругозор. И, несмотря на локальное развёртывание и отсутствие возможности обращаться в сеть интернет. Давайте
197: Мы вернёмся к боту без инструкций и зададим ещё несколько вопросов из самых разных областей знаний.
198: Лично меня скорость, качество и полнота ответов этой модели, мягко говоря, впечатляют.
199: Переходя к теме развёртывания, мне хотелось бы напомнить о независимости ключевых компонентов наших голосовых роботов. Это означает, что мы можем комбинировать различные их сочетания, а также выделять каждому компоненту необходимое количество вычислительных
200: Мощностей. Более того, можно сочетать облачные и локальные компоненты. Это бывает удобно для проведения быстрых экспериментов и тестирования новых моделей с минимальными затратами. Если же говорить о промышленной эксплуатации, то мы все же
201: Рекомендуем все необходимые компоненты развернуть самостоятельно необязательно в закрытом контуре можно и в дата центре. Здесь ключевое именно развернуть, а не подключиться к готовым сервисам. Эта рекомендация имеет несколько причин. Во первых,
202: Во первых, это требования информационной безопасности и защита персональных данных, если все компоненты управляются и обслуживаются нами, выполнить эти требования становится проще, во вторых, это полный контроль над доступностью компонентов.
203: И их версиями развёрнутые контейнеры с моделями ведут себя более предсказуемо доступ к ним прозрачен, а биллинг не принесёт неожиданных сюрпризов в виде миллионов внезапно потраченных токенов, как это иногда случается при исполь.
204: Пользование облачных сервисов среди недавних кейсов из практики внезапно 1 из стандартных и привычных голосов сервиса yandex speech kit вдруг стал недоступным в третьих, если уж мы говорим о голосовых роботах, для которых 1 из
205: Ключевых критериев качества является время отклика, то компоненты, развёрнутые в непосредственной близости к основным серверам эры, будут избавлены от сетевых задержек. Ну и плюс ко всему требования к инфраструктуре на сегодняшний день вполне
206: Неадекватная, по крайней мере для выполнения первых Шагов в этом направлении чуть более подробно про сайзинг и, как следствие, экономику в этой таблице перечислены используемые нами на сегодняшний день модели и приведено потре.
207: Ими видеопамяти, которое наряду с вычислительными операциями влияет на итоговую производительность движка, мы видим, что наиболее ресурсоёмким компонентом является ллм. Поэтому, если возникает потребность уложиться в меньшее
208: Объём видеопамяти можно рассмотреть её замену на более простую модель, однако, очевидно, с потерей в качестве и скорости. Если говорить об основных преимуществах конкретно этих моделей, то я бы выделил следующее эллэ квен.
209: Работает очень быстро, что является критичным для голосовых диалогов и прекрасно справляется с инструкциями большого объёма сервис распознавания речи t Ван, хорошо понимает невнятную речь и акценты иностранцев Аси.
210: Речи, кроме вполне достойной работы с русским языком, умеет копировать голоса, нам достаточно загрузить небольшой аудиофрагмент с расшифровкой, и мы получаем на выходе новый уникальный голос, таким образом, голос.
211: Роботы всех компаний не будут удивительно похожи на алису из яндекс навигатора во 2 таблице приведены модели видеокарт nvidia, наиболее подходящие под сочетание выбранных нами моделей мы видим их.
212: Характеристики и расчётную производительность в виде количества одновременных голосовых сессий. Важно отметить, что компоненты в работе роботов используются поочерёдно. Кроме этого, нами применяется ряд тактик для повышения производительности.
213: Тестовые роботы, с которыми мы сегодня познакомились, обслуживались 6000 видеокартой, размещённой в дата центре селектел на сегодняшний день стоимость аренды такого сервера чуть менее 100 000 ₽ в месяц, а стоимость самой видео
214: Карты порядка 13 000 $.
215: В заключение мне хотелось бы вернуться к стандарту сио писи 8 версии и напомнить, что искусственный интеллект перестал быть инструментом, а стал фактически средой работы. Поэтому мы призываем вас приступать к применению этих технологий для реше.
216: Наиболее подходящих задач. Очевидно, что прогресс не остановить с течением времени качество и доступность моделей аср, ттс и ллм будут расти, а это сделает процесс внедрения новых сервисов ещё более простым и
217: Комфорт. Сегодня мы увидели, что платформа эра уже готова разговаривать с клиентами как текстом, так и голосом, и уж точно готова их слушать. То есть, например, превращать кладбище записанных Разговоров в мощнейшие источники, да.
218: Данных и аналитические инструменты. Пожалуйста, обращайтесь к нам и нашим партнёрам за помощью рекомендациями, с чего начать и как совместно сделать уверенный шаг в современную реальность. Мы работаем по вендорской модели, а это значит, что
219: Наши продукты и технологии доступны через партнёров. За 3 года мы завоевали доверие ведущих интеграторов. Их список доступен на нашем сайте. Ну и кроме этого, конечно же, можно обратиться к нам напрямую. Мы проведём первичную презентацию.
220: Платформы. Ответим на вопросы, проанализируем проект и затем подберём интегратора, экспертиза и специализация которого будут максимально соответствовать задачам и потребностям.
221: Ну а я, как и обещал в начале скажу несколько слов о платформе эра для тех, кто сегодня с нами впервые. Итак, эра это программная платформа, предназначенная для построения омниканальных контакт центров, распределённых айпи атс и
222: Других информационно коммуникационных решений мы занимаемся компьютерной телефонией уже четверть века начинали с ситиай плат, юэсби телефонов и протокола h3 2 3 платформа эра появилась на стыке нашего опыта и современных технологий.
223: Микросервисная архитектура, распределённые кластеры, мультидоменность, развёртывание в дата центрах и закрытых контурах это лишь наиболее значимые характеристики продукта. Недавно мы провели очередное нагрузочное тестирование контакт центра на 4000
224: Операторов и успешно обработали более 30000000 звонков за 72 часа. На борту платформы есть лоукод билдер, позволяющий вносить изменения в существующие приложения и сервисы, а также разрабатывать свои собственные, например,
225: Простую тикетную систему можно реализовать за считанные часы важной особенностью платформы r является концепция олл ин Ван, то есть возможность реализации отраслевых решений на базе целостной объектной модели, чтобы пользователи
226: Работали в едином окне без переключений между приложениями, а интеграторам и инженерам, в свою очередь, не пришлось стыковать и обслуживать разнородные системы и коннекторы между ними применительно к контакт центрам мы предоставляем инструменты.
227: Только для ключевых процессов обслуживания вызовов, но и для сопутствующих управление знаниями и обучением кмс и lms, построение расписаний вфм, контроль качества Кум, при этом базовые функции доступны уже из коробки.
228: А частную специфику можно отработать в проектном режиме средствами лоукод билдера если вернуться к теме искусственного интеллекта в целом и голосовых роботов в частности, то нашим безусловным преимуществом является глубина встраивания новых технологий.
229: В ключевые процессы на сегодняшний день реализовать движок голосового робота, особенно средствами облачных сервисов, и подключить его к любой системе телефонии по протоколу sip вполне подъёмная задача, а вот чтобы реализовать.
230: Ии. Суфлёра или ассистента очереди с передачей контекста в карточку, или же сопоставить результаты работы роботов и живых операторов требуется гораздо больше усилий и необходимость глубокого погружения в технологии и архитектуру.
231: Системы. Тем более, если все эти задачи требуется решать в закрытом контуре, без выхода в интернет, подводя итог, если перед вами или вашими клиентами стоит задача построения, развития или импортозамещения, кон,
232: Центра айпи атс или любой другой информационно коммуникационной системы. Мы будем рады обсудить возможные точки пересечения и сотрудничества. Кстати, в последнее время участились запросы на дополнение функциональности существующих
233: Решений, новыми технологиями и современными сервисами. Мы прекрасно понимаем, что полная замена контакт центра или системы телефонии довольно затратный и болезненный процесс, поэтому готовы к реализации проектов, в которых треб,
234: Интеграция с существующими решениями, благо исчерпывающие рест апи и открытые протоколы позволяют нам многие такие задачи решать на инженерно проектном уровне без модификации ядра платформы. На этом у меня
235: Все, спасибо за ваше время и внимание. Готов ответить на вопросы. Если они есть формально у нас остаётся 6 минут. Но я думаю, что мы можем чуть задержаться, если у вас уже запланировано следующее время или закончилось, заканчивается время.
236: Отведённую на нашу встречу. Пожалуйста, пишите вопросы в ленте, мы на них ответим, и вы сможете потом скачать запись и ознакомиться с нашим ответом. А я перехожу к ленте и смотрю, были ли у нас вопросы.
237: Роман отметил, что в начале лучше узнать, удобно ли говорить, а потом идентификация здесь наоборот видимо, речь идёт об 1 из примеров голосовых роботов, но очевидно, что логика работы робота последовательность его действий определяя.
238: Промтом мы не претендуем на то, что озвученные сегодня примеры являются классикой или лучшими практиками решения этих отраслевых задач скорее была цель продемонстрировать возможности современных моделей.
239: Глубину их интеграции в платформу эра, а далее вы, конечно, можете управлять логикой поведения робота и уж тем более последовательностью его Шагов Ровно так, как это требует ваш кейс. Ну и аналогичный вопрос про скидку.
240: Наверное, если бы собеседник робота задал вопрос про скидку, то дальше есть 2 варианта если в инструкции чёткого указания про скидку нет, то elle включила бы некую фантазию и либо бы её предложила, либо нет, а если же в инструкции мы чётко ска.
241: Как работать с этим вопросом, то лэлэка строго отработает все, о чем мы её просили. Также Роман спрашивает, что за конкретное решение ллм аср ттс на слайде. Эта информация была модели не секретные. Не скажу, что этот выбор Фина.
242: Мы за последние прошедшие полгода уже 3 ллм модель сменили за счёт компонентного подхода это делать довольно просто мы следим за обновлениями, периодически тестируем новые модели, если очередное обновление
243: Для каких-то задач подходит лучше, чем-то, что мы использовали до этого. Конечно, мы все, что доступно, тестируем и используем. Анна спрашивает, можно ли роботу, помимо инструкции, подкладывать файлы из базы знаний? Например?
244: Pdf, чтобы он мог проводить консультацию на основе этой информации, да и мы это видели также в ходе текстового диалога на основе базы знаний в виде презентации по платформе эра это как раз был 1 pdf документ из нескольких.
245: Десятков страниц его предварительно модель проиндексировала и помогала роботу отвечать на вопросы с использованием этого контекста, также Анна спрашивает, можно ли регулировать тембр и скорость голоса, выбирать разные.
246: Голоса и делать свои кастомные. Да, можно. У робота есть настройки по скорости, у каждого голоса есть настройки по скорости, ну и плюс голосов, встроенных в текущую модель, которую мы используем, нет.
247: Любой голос начинается с того, что мы загружаем короткий аудиофайл буквально 10 20 секунд для повышения качества, здесь же прикладываем стенограмму, то есть тот текст, который этим голосом озвучен, и мы на тестах проверяли.
248: Даже если один и тот же человек с разными интонациями, разным количеством междометий озвучивает 1 и ту же фразу, то голоса звучат совершенно по разному, поэтому здесь полная свобода для творчества можно экспериментировать и получать.
249: Индивидуальные голоса либо для компании в целом, либо даже для конкретных сервисов и конкретных проектов.
250: Информацию, с чем сравнивали и что тестировали. Если речь идёт про модели, то мы проверяли, ну, где-то по 10, наверное, моделей распознавания синтеза речи штук 20 лэмо на текущий момент вот остановились.
251: На тех моделях, которые были на экране, если вы по каким-то причинам считаете, что есть что-то более интересное, то elle, повторюсь, подключается элементарно, потому что они все, как правило, поддерживают протокол опен иай, если это распозна,
252: Основание или синтез, то мы можем вместе с вами на эту модель посмотреть. Трудозатраты хоть есть на разработку коннекторов, но они вполне подъёмные, и мы готовы интегрироваться со всем, что предоставляет ожидаемое. Ка,
253: Модель гемма 4 честно говоря, я не знаю, пробовали или нет. Может быть, да, может быть, нет. Будет ли показан ии. Суфлёр? Нет, в ходе сегодняшней презентации ии. Суфлёр показан не будет.
254: Если мы пользуемся программным комплексом инфинити икс, как будет устанавливаться эра по этому вопросу, вам лучше обратиться к интегратору, который занимается внедрением, потому что там есть несколько вариантов, как это можно сделать.
255: Server ии это эра в которой только ii настроен или там есть смысл разместить что-то ещё ответ на этот вопрос зависит от конфигурации сервера вообще говоря для компонентов ллм аср и ттс нужна?
256: Видеокарта самой эре, как мы знаем, видеокарта не нужна. Если на нашем сервере видеокарта хорошая, а центральный процессор слабый или оперативной памяти мало, то можно на этом сервере оставить только компоненты искусственного.
257: Интеллекта а. R стоит рядом на соседнем сервере или кластере серверов если же этот сервер достаточно производительный не только в части видеокарты, но и в части процессора и памяти, то вполне можно разместить их рядом, и они будут вполне.
258: Успешно работать, потому что используют разные ресурсы и не конкурируют за них. Это был вопрос от вадима. Дмитрий спрашивает, можно ли получить запись данной презентации? Да, конечно, записи всех наших вебинаров публикуются.
259: Они доступны у нас в сообществе telegram и также в нашем канале вк видео односерверная или многосерверная эра ну, я думаю, что на вопрос вадима я ответил выше компоненты независимы.
260: В примере вопрос Андрея в примере был указан инструмент агента дроп кол. Какие другие инструменты есть? Можно ли добавлять свои инструменты? Эмсипи, сервера? Да, можно. Когда мы создаём нового робота, мы ему можем на вход предоставить любое количество настраиваемых
261: Инструментов и в качестве инструмента, кроме нескольких системных, связанных с управлением звонками, могут быть, вообще говоря, любые веб сервисы, http, запросы и даже запуски служебных сценариев. Таким образом, можно
262: Либо ллм, если она имеет прямой доступ в интернет, попросить напрямую обращаться к любому стороннему веб сервису, либо, как это иногда бывает, правильнее и безопаснее, можно оставить ллм только возможность вызывать наши служебные сценарии.
263: Платформы r, а уже в служебном сценарии принять на входе параметры и сделать необходимые запросы куда угодно, в том числе во внутренние базы данных эскюэль или опять же в другие веб сервисы. Но тогда мы будем чётко контролировать, что у нас спросили.
264: Куда мы лмку дальше пустили или нет? Таким образом, от каких-то негативных последствий мы себя защитим. Сергей спрашивает, может ли клиент в звонке сказать забудь предыдущие инструкции и
265: Озвучить новый промт. Сказать клиент так может, а какой будет результат зависит от той модели, которую мы используем. Наши прошлогодние модели делились примерно пополам. Это были слабенькие оламы и им подобные половина.
266: Из них на это реагировали достойно. Половина нет queen я предполагаю, что среагирует как надо, но мы всегда можем это проверить, скорректировать промт, проверить ещё раз думаю, что queen версии 3 с половиной впол.
267: Не достойно на такие провокации себя поведёт сколько времени занимает настройка и подключение платформы. Вопрос от Дмитрия. Ну здесь однозначного ответа нет. В целом характеристика платформы эры.
268: Такова, что она устанавливается достаточно быстро и в руках умелого инженера от момента получения доступа к серверу до совершения первых телефонных звонков, как правило, проходит не более часа, но
269: Это такой, скажем, базовый простой кейс. Дальше, если требуется настройка интеграций, очередей, отказоустойчивых кластеров и так далее. Это, конечно, ещё какое-то количество трудозатрат, если говорить именно о искусственном
270: Телекте и тех сервисах, которые мы сегодня видели, то мы скоро подготовим и опубликуем дистрибутивы, которые позволят эти контейнеры на сервере с видеокартой развернуть тоже достаточно быстро. На моих глазах. Наши инженеры запу,
271: Пускали новый тестовый кластер на это ушло примерно полтора часа это с момента получения доступа к кластеру. Далее это настройка операционной системы, установка драйверов, видеокарт, докер контейнера, развёртывание 4 компонент.
272: И до совершения первых звонков, когда этот ii сервер уже подключился к платформе, эра забрал все необходимые настройки, и мы могли совершать первые звонки таким образом ну с очень большим запасом в 1 день можно уложиться и получить.
273: Уже фактически работающую систему.
274: Вопрос от сергея, сколько контекста в среднем используется в рамках 1 взаимодействия, как модель себя ведёт при переполнении контекста если говорить опять же про queen 3 с половиной, то мы с вами видели промты на экране, которые, с моей точки зрения, выглядит
275: Гигантскими с такими промтами модель справляется очень хорошо. Если под переполнением контекста вы имеете ввиду длительный диалог, то здесь можно применять классическую практику. Если вдруг мы увидели, что количество сооб
276: Общение между клиентом и моделью в рамках конкретного диалога приближается к некоему лимиту по объёму контекста, то мы можем ту же самую модель попросить резюмировать основную суть вот этих 100 или 200
277: Сообщений и дальше в контекст уже включать резюме, а не полную переписку. Как правило, такой подход применяется и позволяет расширить контекст, если мы приближаемся к ограничению
278: Александр спрашивает, правильно ли я понял, что ll сейчас по протоколу опен иай, а для аср ттс коннекторы только под те модели, которые были на слайдах. Да, совершенно верно. Оно на текущий момент. Так, но повторюсь, что стыковаться с любыми другими моделями мы все
279: Когда готовы.
280: Роман спрашивает, есть ли от вас рекомендации, как писать правильные промты и где уже внедрено сейчас идёт несколько пилотных внедрений после их завершения. Наверное, если того позволит энди соглашение, мы сможем что-то опубликовать.
281: Какими-то результатами поделиться. Если говорить о рекомендациях, как писать правильные промты, то мы можем поделиться своими наработками и примерами. Не могу сказать, что мы уже чувствуем себя достаточно готовыми для методических рекомендаций.
282: В этой отрасли, хотя какие-то наработки есть, но и по нашей практике для написания Промтов, как ни странно, очень хорошо подходят те же самые модели. Например, когда я сам проводил первые эксперименты в этой отрасли, мне очень помогал.
283: Тот же самый chat gpt или его российские аналоги, ему можно тезисно сбросить мою задачу, привести пример промта, который хорошо работает, и попросить скрестить 1 с другим он думает, несколько секунд на выходе выдаёт несколько.
284: Страниц текста. Я почти не глядя вставляю их в виде промта и получаю вполне адекватно работающего робота. Поэтому здесь любые подходы можно применять в ленте. Вопросы закончились, если что-то ещё вот в последнюю секунду.
285: Хочется спросить, пожалуйста, если нет, то наши контакты не секретны. Будем рады или напрямую, или через наших партнёров продолжить это общение, в том числе по сервисам искусственного интеллекта. Ещё раз.
286: Спасибо всем за ваше время и внимание, надеюсь, что было интересно и полезно.