0: Да, добрый день, мы сегодня с вами поговорим о искусственном интеллекте. Доклад будет больше про архитектуру, но так как если мы начнём просто говорить про архитектуру 40 минут. Ну, наверное, я уверен, вы все уснёте в зале, поэтому мы решили.
1: Построить доклад так что мы сначала начнём с верхнего уровня и будем постепенно погружаться, погружаться там до, вплоть до инфраструктуры аппаратной программной виртуализации. И мы поделили как раз из за этого доклад на 2 части, то есть больше стратегический по корпоративную архитектуру и больше приклад.
2: Pro solution, архитектуру и вот начнём так рассказывать, поэтому 1 часть расскажу его я вам. Это Войновский Александр, a2 часть расскажет Олег Зоткин, архитектор программы, и я ему передам слово хотелось бы начать с того, что мы все
3: С вами знаем, что искусственный интеллект появился не сегодня, это уже прошло больше 60, 70 лет появления термина искусственного интеллекта. Тогда это были имитационные системы.
4: Потом они развивались, появилось машинное обучение, появились первые нейронные, дипленинг тоже термин глубокое обучение появился в связи с появлением мощных производительных gpu процессоров.
5: Сети появлением биг даты. Это был
6: Потом они развивались, появилось машинное обучение, появились первые нейронные сети, дипленинг тоже термин глубокое обучение появился в связи с появлением мощных производительных gpu процессоров, появлением биг даты это был.
7: Новый виток развития искусственного интеллекта и термин, который появился, также поддерживал это направление. Сейчас мы с вами больше говорим про генеративный искусственный интеллект, про большие языковые модели, то есть про те инструменты, которые
8: Позволяет нам обрабатывать и понимать человеческую речь, тексты. И это дало новый импульс развития искусственного интеллекта. То есть это все искусственный интеллект, то есть он с нами уже много, много лет, и мы продолжаем его развивать и взаимодействовать в рамках него.
9: Если мы говорим о трендах, то на сейчас на рынке в 2026 году, я собрал эту информацию тоже из разных источников, что является ключевым в развитии технологий, которые сейчас существуют. Робототехника. Мы го,
10: Говорили на демо вот в начале нашей конференции, что робототехнические комплексы это очень важная составляющая. Сейчас становится любого бизнеса и действительно роботы будут появляться в логистике в складском учёте, в роботизации торговых точек, то есть во всех объектах, где это возможно.
11: Применять. Это тот тренд, который уже сейчас внедряется и работается интернет вещей, все больше носимых устройств, датчиков, промышленных датчиков, инженерных датчиков. То есть они будут насыщаться в рамках производственных процессов нашей производственной цепочки, тем самым давая
12: Нам огромный объём данных, для чего? Для работы с искусственным интеллектом и построения цифровых Двойников развитие биопечати это уже больше про медицину, но так как это технологический тренд, я его тоже здесь отобразил, здесь он больше описан с точки зрения печати.
13: В медицине, но также 3 д печать может использоваться и в индустриальных компаниях, и подготовке определённых исследований флюидов и многих других квантовые вычисления. То есть мы подходим к новому формату вычислительных изменений, там, появления новых компьютеров, новых
14: Методик изменения. И мы все ждём. Когда же вот этот уже барьер преодолеется, мы перейдём на новый уровень скорости, производительности и качества вычислений. Кибербезопасность в связи с тем, что у нас появляется все более зеро траст архитектура, что нам надо объединять и в моменте
15: Управлять цифровыми двойниками, оркестрировать производство и на основании цифровых Двойников все кибербезопасность становится все более и более восходящим трендом, который необходимо учитывать во всех производственных процессах, то есть его уже нельзя игнорировать.
16: Это должно быть в днк вшито любой компании, и, в частности, кибербезопасность искусственного интеллекта это целое направление. Например, в прошлом году выделялась даже отдельная секция с докладами на эту тему. Расширенная реальность. Мост между физическим и цифровым миром исчезает.
17: Это видим уже сейчас, это происходит каждый день. И здесь, наверное, мне нечего добавить. Это такой тренд, который будет и дальше изменяться. То есть сейчас уже даже обучение на всех индустриальных объектах происходит в виртуальных очках. Вы просто садитесь, вам как?
18: Инженеру, либо специалисту компании одевают виртуальные очки, вы видите либо виртуальную азс, либо виртуальный завод. Это уже реальность. То есть это уже не картинки или лозунги, это то, что уже внедрено в производстве, ну и конечно, искусственный интеллект. То есть к чему все вот эти тренды, к тому, что искусственный интеллект это такой
19: Тренд, который сейчас является перспективной технологией, которая развивается на рынке, как мы используем искусственный интеллект и где мы сфокусируемся. Это платформа для управления контроля разработки. И это ml ops конвейер, который сейчас создаётся во всех производственных
20: Компаниях, кто фокусируется, это с точки зрения технологий трендов в компаниях, доминирование бизнеса в исследованиях передовых технологий. Это говорит о том, что появляется все больше центров, компетенций, которые работают с искусственным интеллектом, наукоёмких подразделений, которые
21: Занимаются экспертизой этого направления. Создаётся большое количество моделей искусственного интеллекта для решения сложных когнитивных задач, появление локальных ллм, то есть внедрение опенсорс моделей в рамках бизнеса и многое другое.
22: В рамках стратегии нашей компании мы включили этап внедрения искусственного интеллекта как основное направление развития бизнеса. То есть мы говорим о том, что есть искусственный интеллект, чт есть, соответственно, тренды, в котором есть искусственный интеллект и есть стра,
23: Цифровой трансформации, где этот тренд зафиксирован как направление компании. Это говорит о том, что мы внедряем и создаём технологии. На основании этого. Ну, здесь у нас основные технологии технологического лидерства, это цифровые двойники, искусственный интеллект авто.
24: Автоматизация, роботизация, то есть те тренды, которые мы озвучивали на демо, являются стратегией нашей цифровой трансформации в компании, куда мы движемся.
25: Какой же бывает искусственный интеллект? Он бывает разный. Очень важно, например, выделять инженерный искусственный интеллект, тот, который используется в производственных процессах. Например, в рамках моделирования потоков жидкости в трубопроводах. Это инженерный искусственный интеллект, когда мы проект
26: Трум. Объекты при строительстве это инженерный искусственный интеллект, а бывает корпоративный искусственный интеллект. Это когда мы работаем в рамках поддерживающих функций. И здесь действительно задача при проектировании ассистентов агентов, она совершенно разная
27: В чем главное отличие, что когда мы работаем с точки зрения в корпоративных функциях, там достаточно структурированная информация, она понятна, задача тоже описывается легко. И тогда формат внедрения искусственного интеллекта, он достаточн.
28: Простой, с точки зрения инженерного ии, который я говорил, там чаще всего это наукоёмкие задачи с экспертными центрами поддержки сложной математикой, это совершенно другой формат. И когда мы обсуждаем тот или иной формат внедрения, нам это чётко надо разделять в компании, в рамках стратегии вра,
29: Взаимодействия с бизнесом. Теперь погружаемся чуть глубже. Сегодня я уже показывал такой слайд, я его покажу ещё раз в рамках нашего доклада. Это карта искусственного интеллекта. То есть это классический инструмент капабилити.
30: Архитектора с декомпозицией на 2, 3 уровень, на котором мы детализируем те решения, в рамках которых мы внедряем искусственный интеллект. Почему это важно? Потому что с помощью него мы показываем зрелость нашего ландшафта и разговариваем с бизнесом.
31: Или, например, с другими компаниями по переиспользованию экспертизы, что если другая компания в индустриальным центром компетенции, нефтегаз, нефтехимия, недропользование что-то внедрила, мы можем с ними посоветоваться, например, как вы это внедряли, какие технологии вы при этом использовали, какая экспертиза нужна и как
32: Архитектор. Я вот этим знанием обмениваюсь и фактически создаю предпосылки к развитию коммуникации и взаимодействия в рамках внедрения искусственного интеллекта. Сейчас таких решений внедрено больше 76. То есть они постоянно у нас появляются, мы обновляем эту базу и обмениваемся
33: Нефтегазе этой информации. У нас есть отдельный классификатор. Я его показывал как список в начале демо здесь он больше раскрыт, где мы показываем, например, фокусы текущих проектов и перспективные направления, что мы занимаемся, например,
34: Ыми моделями, методами математической статистики, детекциями и многими, многими другими задачами. То есть фактически через такие карты мы акцентируем внимание бизнеса и показываем, в каких доменах мы развиваем ту или иную технологию. Это позволяет нам лучше понимать и взаимодействовать.
35: С бизнесом пойдём дальше. Основная задача, которая есть с точки зрения архитектурной функции, решить. Мы покупаем модель, которых много на рынке, либо создаём свою, то есть классический выбор баю билд он и
36: Искусственном интеллекте также существует и здесь каждая компания, которая выходит с точки зрения стратегии, говорит, что мы хотим внедрять искусственный интеллект. 1, че сталкивается с этим вопросом с точки зрения, я попытался здесь описать плюсы, минусы.
37: Постараюсь голосом проговорить основные выводы чем хороша вендорская модель, она готовая у вас есть контракт вы можете обратиться к подрядчику, который обеспечит вас некой экспертизой при внедрении модели искусственного интеллекта, настроит вам api, подскажет, как это делать.
38: Но в чем минус? Во первых, чёрный ящик. Во вторых, риски данных, если у вас есть чувствительные данные вашей компании, а в нефтегазовой отрасли они всегда чувствительные, вам будет сложно их передавать. И вот эта точка как раз вот сложности работы с вашими, да?
39: Она всегда возникает, и компания тогда начинает задумываться об опенсорс моделях, какие мы можем использовать опенсорс модели. Ну, например, на рынке есть модели, я не знаю, queen мистраль, многие другие, в рамках которых вы можете экспериментировать, выбирать. Они существуют с раз.
40: Параметрами, в чем сложность их использования. Ну, во первых, вам нужна экспертиза, вам нужны компетенции, центр компетенции людей, которые умеют понимать, что такое модели, как их обучать, как их дообучать, как работать с весами. То есть это достаточно непростая задача.
41: И если вы бизнесе предлагаете что-то из опенсорса, вы должны быть готовы, и ваши коллеги в компании должны быть готовы работать в рамках таких моделей. Поэтому здесь нету какого-то универсального решения. Здесь, наверное, надо использовать гибридный подход, что для тех данных, которые нечувствительные, наверное, проще попробоват
42: Вендорские модели или 1, которые на рынке, есть предобученные в рамках ваших доменов. А если вы идёте в опенсорс, то там, наверное, это критические данные, в которых нельзя передавать, и вы работаете с ними. Поэтому это какая-то будет комбинаторика. Я повторюсь дальше в докладе мы уже разберём референсные архитектур.
43: На уровне элепс конвейера и поговорим уже дальше. Ооо них, какие у нас бывают модели 3 уровня классической классификации. 0 эль 1 эль 2. То есть мы идём от базы, которая есть в мире. Если это отечественная, мы говорим, что есть там
44: 0 яндекса, МТС и Сбербанка. Дальше есть модель эль 1. А что это такое? Это отраслевая модель. То есть, когда её дообучают под конкретную отрасль, например, под нефтегаз есть модель эль 2. Это уже под конкретный проект процесс, например, бурение, если
45: Говорим с точки зрения кейсов, то сейчас, с точки зрения нашей статистики, 80% кейсов закрывают модели эль 0, и только в 20 процессах в 20 процентах, кейсах, сложных уникальных процессах необходимо использование дополнительно
46: Обученных вот моделей, которые действительно тратится много времени и экспертизы на их обучение и их развитие.
47: Когда мы дообучаем, мы вот эта наша шкала, она показывает
48: Функциональность и качество ответов в рамках работы до обученных наших моделей. То есть, когда мы обучили модель с уровня эль 0 0 1, мы прям наглядно видим, с точки зрения наших бич, Марков, насколько модель лучше отрабатывает в тех или иных запросах.
49: В рамках наших специализированных кейсов. То есть у нас в компании есть собственная разработанная модель оценки, которую мы подстраивали под нефтегазовую отрасль или специфику, допустим, нашей компании. И это наглядно показывает, что в каких-то случаях, в рамках решения тех или
50: Иных задач. Действительно, модели эль 1 лучше работают, чем модели 0. Ну, это классический такой кейс. Я здесь как бы просто показываю. Это прям из реальных наших данных компании, что это действительно работает.
51: Подключаем некие, есть иные вопросы.
52: Какие методы обучения их классических 2, да, раги? То есть когда мы информационные системы субд, то информацию, которая помогает нам лучше отвечать на те или и файнтюнинг, когда мы пытаемся
53: Какие методы обучения их классических 2, да, раги? То есть когда мы подключаем некие информационные системы субд, то есть информацию, которая помогает нам лучше отвечать на те или иные вопросы и файнтюнинг, когда мы пытаемся
54: Улучшить весами модели в рамках тех или иных ситуаций, чаще всего rock, нам помогает решить 80% наших кейсов, то есть когда нам нужна дополнительная детализация информации, контентная информация, информация о специфике, процесс.
55: Либо надо добавить какую-то статистическую информацию, мы просто подключаем рак и наша модель действительно начинает лучше отрабатывать вот в рамках предыдущей шкалы на ответы и лучше работать. Но есть все-таки 20 кейсов, когда это не срабатывает, хотя
56: Вроде бы, казалось, да, подключили массив данных, любой детализированный по любому процессу, будь то сейсмика, будь то продажи детализировали, вот вам модель отвечает намного лучше, какие продажи прошли, в какое время, на каком объекте вот сработало, но это не всегда работает. Почему? Потому что существуют
57: Специфические кейсы, специфические кейсы по вопросам. Вот здесь мы так с коллегами сгенерили такую задачу. Мы, например, взяли и задали вопрос базовой модели эль 0. Реши задачу для нефтяников. Мы добываем 1000 кубических метров жидкости в сутки.
58: Сколько тонн нефти мы получаем, если водонасыщенность равна 80%? В чем подвох этого вопроса? Есть термин водонасыщенность, а есть термин, который отвечает за количество, соответственно, нефти в Пласте немножко разные понятия. То есть мы его заведомо задаём. Неправильный вопрос.
59: С точки зрения нефтегазовой отрасли и модель, не понимая специфики терминологии, ну, модель эль 0, она же не специализирована под нефтегаз, это просто обученная лм, внешними компаниями. Все 3 модели отвечают неверно. То есть это
60: Говорит о том, что сколько бы мы не загружали бы сюда субд с информацией, не подключали, соответственно, источников данных с информацией, как анализировать количество воды в Пласте, оно бы не помогло правильно ответить. А если мы как бы дообучим модель 100
61: С точки зрения фан тюнинга, оно будет чётко понимать те определения и уже на старте говорить нам, что вы задаёте некорректные вопросы или он будет отвечать на этом. Моя 1 часть заканчивается, и я передаю слово Олегу зоткину, который уже расскажет более
62: По другому доклада.
63: С точки зрения фан тюнинга, оно будет чётко понимать те определения и уже на старте говорить нам, что вы задаёте некорректные вопросы или он будет отвечать по другому. На этом моя 1 часть доклада заканчивается, и я передаю слово Олегу зоткину, который уже расскажет более
64: Глубоко технологической платформе. Олег.
65: Да, коллеги, добрый день. Зоткин Олег, я архитектор программы, и которая сейчас развивает это направление в газпромнефть. И дальше мы поговорим про то, как мы разрабатываем эти модели, как мы их эксплуатируем, и те вопросы и проблемы, которые мы
66: Вынуждены решать в рамках всего этого процесса.
67: Про разработку на текущий момент в компании есть платформа для разработки и интеграции приложений. Ну и эксплуатации тоже. И, в принципе, она покрывает почти там, не знаю, 90, 95 потреб, проценто.
68: Потребностей наших всех. Единственное, что нам надо было сделать для машинного обучения, это добавить специализированные компоненты и сервисы, которые позволят нам разрабатывать именно модели машинного обучения, встраивать их в бизнес приложения.
69: Ну и эксплуатировать безопасно там, ну, качественно и так далее, как выглядит типовой процесс. Здесь он на слайде представлен в виде среднего оранжевого пайплайна. То есть мы, Говор,
70: Говорим, что сначала мы должны поработать с информацией, входной с признаками, да, их извлечь, выделить наиболее важные, поработать с ними, потом сделать разметку, тегирование для того,
71: Чтобы модели дообучить. Собственно, сама разработка, адаптация моделей, тестирование иб. И дальше идут 2 2 квадратика, которые нам позволяют автоматизировать обучение моделей потоково, да, чтобы это не было рутиной.
72: Ml инженера и инференс эксплуатация моделей, да, применение моделей, этот слой гармонично встраивается в наши текущие слои дипси копс и датаопс, добавляя дополнительные сервисы, функциональность.
73: В текущие пайплайны. Тем самым мы переиспользуем предыдущие наработки для того, чтобы разрабатывать эмэль приложения и эмэль модели.
74: Теперь какими конкретными инструментами, библиотеками и сервисами это может быть реализовано. Здесь представлен небольшой обзор рынка, да, то, что сейчас предлагается опенсорс, вендоры и они
75: Разделены как раз-таки вот по вот этим этапам пайплайна, то есть, начиная от хранения, извлечения признаков, заканчивая там применением эксплуатации моделей, что здесь можно посоветовать, на что обратить внимание. Есть неотъемлемые компоненты, да, которые, скорее всего, будут в
76: Там 70, 80% кастомных разработок. Ну, например, платформа лайт, да, это опенсорс платформа, это целый, можно сказать, комбайн н, мини комбайн с кучей функциональностей, начиная
77: От оркестрации запросов к л моделям, заканчивая там аб тестированием, логированием, мониторингом, и там, ну, больше, больше 15 разных функциональностей. Вот, то есть, по сути, это такой musthave
78: Скорее всего, компонент вашей кастомной архитектуре также компонент безопасности. Адрес ай, да, это цензурирование работы с ллм, это может быть цензурирование как на каких-то простых.
79: В базовых правилах так и когда сама какая-то другая ллм или целый ансамбль ллм выполняют роль цензора тоже компонент, который, скорее всего, будет
80: Вашей архитектуры. Ну и вот мы говорили про признаки, да, то есть можно порекомендовать, который реализует и хранилище признаков. Фич стор. Работу с ними есть выделение наиболее значи,
81: Фист, ну то.
82: Вашей архитектуры. Ну и вот мы говорили про признаки, да, то есть можно порекомендовать фист, который реализует и хранилище признаков. Фич стор, работу с ними. Ну то есть выделение наиболее значи,
83: Признаков их хранение, их классификация. Также важно сказать, что там есть функциональность работы онлайн, ну или почти онлайн, да, когда обработка и выделение признаков происходит там с высоко дискретными данными.
84: Дальше давайте рассмотрим типовую архитектуру, которую мы определили для себя в рамках реализации направления искусственный интеллект. Можно выделить 4 основных слоя. Пользователи бизнес решения, сервисные решения и
85: Платформа, да, о которой мы говорили чуть ранее, что здесь наиболее интересно. Мы выделили сервисные ит решения, которые агрегируют уже готовые разработанные функциональности для переиспользования в бизнес, это решения.
86: Как это работает например, есть специализированные решения, ну, например, для работы с cr это готовые какие-то компоненты, допустим, распознавание символов там, древнекитайского языка какого-нибудь она доступна, по этот сервис доступен.
87: Api и бизнес это решение, если ему надо, да, это могут быть какие-то помощники, диалоговые системы, там поисковые системы, инженерный искусственный интеллект и многое другое просто обращаются к этому готовому, заранее подготовленному сервису и
88: Эксплуатирует его в составе уже бизнес решения. То есть мы заранее подготавливаем набор специализированных сервисов, да, для работы с ключевыми нашими направлениями. То есть это генеративный искусственный интеллект.
89: Общекорпоративный и специализированный для нефтегаза это cr, это видео, аналитика и так далее и так далее, то есть на самом деле здесь этих квадратиков идёт целый ряд, это просто показаны основные вот они все публикуют свои сервисы.
90: В едином каталоге есть единый вот этот про прокси сервер, да, о котором дальше мы чуть подробнее поговорим. Вот, например, тот же лайт, который приводил пример и тем самым очень удобно разрабатывать и разрабатывать новые
91: Решения и встраивать ии компоненты в существующие бизнес, те. Решения по поводу эмэль платформы, она предоставляет сервисы авторизации, идентификации, сервисы инференса эмэль моделей.
92: Но код платформу для разработки. О ней дальше тоже чуть подробнее поговорим. Ну и целый ряд ещё различных функциональностей, например, рабочие места, сервисы генерации данных и так далее.
93: Так, сейчас секунду. Теперь давайте детализируем вот эту референсную архитектуру и посмотрим, каким образом на примере генеративного искусственного интеллекта, каким образом будет выглядеть уже все for нотации.
94: Да, вот конкрет.
95: Так, сейчас, секунду. Да, вот теперь давайте детализируем вот эту референсную архитектуру и посмотрим, каким образом на примере генеративного искусственного интеллекта, каким образом будет выглядеть уже все for нотации. Конкрет
96: Диаграмма. В центре находится прокси сервер, да. Ну, например, тот же little, о котором мы говорили, к нему идут все запросы от конкретных, от конкретной реализации биз.
97: Ассистентов, агентов, ассистентов, да, то есть это вот фиолетово выделенные квадраты. Дальше этот прокси сервер уже оркестрирует, что для каждого конкретного сценария, каким образом происходит взаимодействие отдельных
98: Компоненты сервисов, да, сервисов представлены, ну, основной список базовых сервисов представлен слева, да, в виде буллитов. То есть это сервисы цензурирования, эксплуатации, мониторинга, трассировки управления.
99: Промтами и так далее. Отдельно можно сказать, что был выделен компонент, который выделен жёлтым квадратом, да, который предоставляет функциональность, которая не находится в составе бизнес.
100: Решений, но эти функциональности, да, доступны как сервисы по, ну, конкретно для генеративного и по там, эмсипи или подобным протоколам.
101: Так, теперь давайте поговорим про то, каким образом мы управляем нашими инфраструктурными ресурсами. У нас есть общая инфраструктура, да, коммунальная, так называемая, как её многие называют, и есть там 2 основные
102: Группы задач. То есть 1, 1 группа задач, это задача разработки приложений, да, эмэль моделей приложений. 2 задача эксплуатации было выделено 3 основные этапа. Каким образом у нас происходит эволюция
103: Оптимизация использования этих самых ресурсов, то есть в базовом, в базовом варианте, да, мы говорили о том, что у нас каждая видеокарта выделяется эксклюзивно под каждого либо разработчика, либо, ну, для эксплуатации, при
104: Вложений. Следующий уровень, когда мы говорим, что мы добавляем технология технологии мультиинсталляции, позволяя тем самым 1 карту дробить на отдельные кусо
105: Точки, да, которые могут выдаваться по запросу, тем самым повышая, повышается общая утилизация. То есть не будет всем даваться избыточные ресурсы. Следующий уровень мы говорим, что мы добавляем слой балансировщиков, да, маршрут
106: Ну, неких маршрутизаторов. То есть мы говорим, что мы делим весь поток наших задач на онлайн, не онлайн, дальше среди них делим на какие-то задачи, которые живут по расписанию, там и задачи, которые возникают и так далее, и так далее. Тем самым дополнительно повышая
107: Общий процент утилизации оборудования. Вот, то есть у нас, ну, будут несколько, там множество вложенных очередей, скажем так, и следующий этап, да, который также сейчас очень популярен, и много, много людей об этом говорят, это внедрение специализированных библиотек.
108: И даже Языков программирования, которые позволяют там для отдельных задач вплоть там до 1000 раз даже увеличить производительность нашей, нашей инфраструктуры.
109: По поводу занесения моделей, да, каким образом новые модели, которые мы находим, каким образом они у нас заносятся и появляются в доступе для использования в бизнес приложениях. Это очень важно для того, чтобы мы действительно
110: Ускорялись и наши приложения разрабатывали все быстрее и быстрее. Мы говорим, что под начинается все с либо бизнес запроса, либо ежеквартального. В данном случае у нас скаутинга технологий. То есть специальные команды смотрят по отдельным классам эмэль моделей рынок, да, что
111: Появилось нового интересного. Дальше происходит сравнение вот этого нового, интересного, что они нашли с тем, что есть у нас сейчас происходит это обращаясь к базе знаний искусственного интеллекта и используя
112: Компонент и компонент радар технологии, что он из себя. Мы говорим, что в 1 пло, ну не в 1 плоскости, в 1 в 1 представлении представлены сразу ключевые параметры.
113: Представляет конкретной модели в
114: Компонент и компонент радар технологии, что он из себя представляет. Мы говорим, что в 1 пло, ну не в 1 плоскости. В 1 в 1 представлении представлены сразу ключевые параметры конкретной модели. В
115: Сравнении с нашими текущими, имеющимися, например, для конкретно вот моделей, ну, некая оценочная стоимость генерации, значение по каким-то маркам, допустим, мера там или другим качество ризонинг, покрытие доменных областей и так далее. И
116: У нас уже есть некие наборы моделей, допустим, которые выделены были в 2 класса, допустим, модели маленького объёма, более быстро работающие там с плохим ризонингом, и, допустим, там более мощные модели, и мы новую модель сравниваем по её рас.
117: Положению в этом вот многомерном пространстве с текущими моделями и принимаем решение, будем мы её дальше детально рассматривать, тестировать или не будем это первичное первичное сито. Дальше, если мы принимаем решение, что мы её рассматриваем, мы её инсталлируем, наши безопасные
118: Сегменты, прогоняем бечмарки, тестируем информационную безопасность, тесты на синтетике, тесты на реальных данных. И уже после этого финально принимаем решение о добавлении её в наш реестр моделей, и потом она становится доступна в каталоге моделей, то есть тем самым в этом
119: В процессе мы говорим о том, что после этого все бизнес решения, которым необходим эмэль модель в данном классе, могут её эксплуатировать важным важной частью нашей рабо.
120: Является популяризация использования технологий ии в компании, и 1 из методов является практика ситизен дата сайнтист. Что это такое? Это когда сотрудники бизнес подразделений в рамках их работы получают специализированные
121: Доступы, да, специализированные рабочие места на платформе для того, чтобы они с использованием там инструментов лоу, ноу код и прочих упрощающих разработку и работу с данными сервисов и средств, могут самостоятельно, без привлече.
122: Специализированных дата саентистов, эмэль инженеров и прочих умных товарищей, да, дорогих самостоятельно делать какие-то задачи, свою локальную автоматизацию, свою работу с данными и получать ценность от
123: Искусственного интеллекта уже прямо сейчас на их рабочем месте, без дополнительных инициатив и запросов, проектов. Так, на этом у меня все. Я тогда передаю слово Александру для завершающей
124: Да, спасибо огромное, Олег. Да, мы завершаем. То есть у нас с вами последний слайд, куда мы движемся? Вперёд. То есть это оркестрация цифровых Двойников с помощью искусственного интеллекта. Это та задача, которая будет стоять перед нами уже завтра. Мы уже сейчас о ней задумываемся и с точки зрения
125: Логии доменов данных и встраивание сценариев искусственного интеллекта и управления через сценарии цифровыми двойниками. Роботизация. И это то направление, которое уже сейчас тоже проектируется. Мы активно работаем и
126: Технические комплексы развиваются как отдельное направление уже it ландшафта мультиагентные системы это очень сложные компонентные составы, когда надо управлять производственными цепочками, и здесь искусственный интеллект также будет нам помогать в этом и управление искусственным.
127: В процессах реального времени, то есть это управление процессами, это очень важная составляющая, в котором и действительно будет играть очень большую роль. На этом мы с вами завершаем, хотим оставить немножко время на вопросы. Если они у вас есть, с удовольствием их послушаем. Спасибо. Да, коллеги?
128: С удовольствием поднимайте руки, задавайте вопросы, мы предоставим вам микрофон.
129: Раз, раз, коллеги, спасибо за доклад. Было очень полезно. У меня простой вопрос. Есть ли возможность сразу понять рак или фанни. Вот есть задача, конкретный кейс, и не хочется палить ресурсы. Что
130: Выбрать рак или?
131: Да, отличный вопрос. Спасибо. Ну, давайте так, наверное, сразу какой-то набор метрик. Вот, чтобы сказать 1, 2, 3.
132: Выбрать рак или, да, отличный вопрос. Спасибо. Ну, давайте так, наверное, сразу какой-то набор метрик. Вот, чтобы сказать 1, 2, 3.
133: И что выбрать, наверное, в общем, дать сложно, но можно сразу сказать, да, что если есть, допустим, определённые требования к знанию доменных областей, особенно связей между какими-то отдельными, допустим, терминами внутри домен,
134: Области, да, вот то, что Александр приводил пример, допустим, водонасыщенность, обводнённость, там, нефтенасыщенность, какие-то особые свойства Пласта, то есть модели в процессе работы с ней, возможно, часто бывает сложно погрузиться. Ну то есть сложно выбрать именно те доменные области, да, в кото
135: Которых был, ну, требуется работа с ней, соответственно, в таком случае рак не поможет или, или поможет, но очень долгий путь будет, чтобы он начал помогать, да, то есть, чтобы модель туда привести, в эту конкретную доменную область. Ну, это если, если, опять же, она вообще в процессе её обучения,
136: Первичном датасете вообще на этой там книге, допустим, или публикации обучилась, а может быть и нет. Вот. Плюс, опять же, если мы говорим про какие-то задачи, именно вот
137: Как, как бы сказать, там, помощника помощников по специальностям, да, вот специализированные задачи, которые требуют одновременно и знания доменных областей одновременно, допустим, глубокого ризонинг какого-то, то тут, скорее всего, тоже придётся модель для того, чтобы она могла выстраивать вот эти логически
138: Цепочки, ну либо general модель придётся очень сильно как-то дополнять какими-то сторонними агентами, ассистентами, да, плюс рак, плюс ещё что-то, плюс ещё что-то. То есть, да, модель ты в general модели, ты веса не поправишь, но сделаешь ей тако
139: Обвязку, обвязку, она уже будет, ну там неким франкенштейном, чтобы она нормально начала работать. Либо тогда придётся действительно выполнять уже какой-то файнтюнинг там по какому-либо из способов. Но в любом случае общая рекомендация, что вот по нашей практике, что лучше
140: Что?
141: Обвязку, обвязку, что она уже будет, ну там, неким франкенштейном, чтобы она нормально начала работать. Либо тогда придётся действительно выполнять уже какой-то файнтюнинг там по какому-либо из способов. Но в любом случае общая рекомендация, что вот по нашей практике, что лучше
142: Пробовать все-таки взять там какую-то 1 или несколько моделей дженерал, то есть уровня эль 0 и добавить к ней какую-то контекстную информацию там, ну рагом, кагом или чем-то ещё, каким-либо ещё способом, да.
143: Коллеги, добрый день. Спасибо за доклад. Очень интересно. У вас был слайд про инфраструктуру, про оптимизацию инфраструктуры и, соответственно, в связи с этим хотелось бы задать следующий вопрос. Угу. Мы все знаем, что есть законодательство про критическую информации.
144: Инфраструктуру. Мы знаем, что значит оно там плавно подталкивает субъекты критической информационной инфраструктуры, внедрять отечественные аппаратные решения. При этом, ну там это не секрет ни для кого, что отечественные аппаратные решения, они в лучшем случае ограничены с точки зрения
145: Функциональности, да, там не так много есть компаний в России, которые там микроэлектронику для ii делают, и то, что они делают всегда большие языковые модели, запускаются с обучением, есть вопросы и так далее. По большому счёту, есть, ну, там 2, наверное, пути, которые
146: Ну, там не.
147: Функциональности, да, там не так много есть компаний в России, которые там микроэлектронику для ii делают, и то, что они делают. Ну там не всегда большие языковые модели запускаются с обучением, есть вопросы и так далее. По большому счёту, есть, ну, там, 2, наверное, пути, которые
148: Там рынок выбирает либо 1, либо другой, либо, значит, с болью и мучениями как-то пытаются собирать гибридные модели, чтобы был какой-то процент, значит, аппаратной инфраструктуры отечественного производства внутри, значит, ну там, в контуре, либо, значит, позиция такая, что из серии
149: Не, ну нужно сделать продукты. Не, не, не важно там, какая это будет, какие это будут аппаратные решения, да, то есть, условно говоря, там за 3 Ярда поставить стойку энвидии, и тогда продукт будет 100% функционален, чем там, значит,
150: Проще купить.
151: Не, ну нужно сделать продукты. Не, не, не важно там, какая это будет, какие это будут аппаратные решения, да, то есть, условно говоря, проще купить там за 3 Ярда поставить стойку энвидии, и тогда продукт будет 100% функционален, чем там, значит,
152: Ковыряться с чем? Какой подход исповедуете вы и, соответственно, чем это задали, вы расписали
153: То отечественным обусловливается. Спасибо.
154: Мне кажется, вы просто уже ответили на вопрос, который 2 сценария, которые, возможно, вы расписали сценарий, где можно помочь.
155: Ковыряться с чем-то отечественным. Какой подход исповедуете вы и, соответственно, чем это обусловливается? Спасибо. Мне кажется вы просто уже ответили на вопрос, который задали. Вы расписали 2 сценария, которые, возможно, вы расписали сценарий, где можно помочь.
156: Сценарий, где собираются стойки, там из карт nvidia, там и, например, программно аппаратная, там mc, там было тоже описано как технология виртуализации, просто я не, у меня нет какого-то там однозначного, во первых, куда надо идти и как
157: Компания идёт так, как она может идти. То есть в моменте. То есть у нас есть стратегия, есть задачи, которые надо решать в том горизонте, который нам диктует компания. Мы просто используем те ресурсы, которые у нас есть там вслух со сцены. Я, наверное, не могу вам сказать. Во первых, какие мы ресуурсы используем и
158: Там перечислять ни вендоров, ничего. Это просто запрещено в рамках политики безопасности нашей компании, но мы движемся по тем сценариям различным, которым мы можем двигаться. Простите, вот за такой расплывчатый ответ. Используете ли вы
159: Она.
160: Я уточню, вы есть ли у вас практика там какого-то тестирования чего-то отечественного, или вы все-таки сориентированы там в 1 очередь создание продукта и функциональности, ту, которую как бы нужно реализоват.
161: Ну, смотрите, во первых, любая инфраструктура, будь то nvidia там, или
162: Я уточню, вы, есть ли у вас практика там какого-то тестирования чего-то отечественного, или вы все-таки сориентированы на там, в 1 очередь, создание продукта и функциональности, ту, которую как бы нужно реализовать. Ну, смотрите, во первых, любая инфраструктура, будь то nvidia, там, или
163: Ещё какие-то китайские, да, сейчас там, ну, довольно много на самом деле, сейчас уже вариантов альтернатив той же инвидии есть. Вот, безусловно, все проходит тестирование и любой программно аппаратный комплекс, или просто какая-то видеокарта, или там любая железка, конечно же, проходит полный цикл тестирования.
164: Для, да, для выполнения, для гарантии, точнее, соответствия всем требованиям безопасности по поводу отечественных продуктов. Безусловно, у нас были заходы, да, там, насколько я знаю, с мцст, там ещё с какими-то компаниями. Вот, ну да.
165: Вот, да, безусловно, были заходы, но там, да, это уже не будем, не будем дальше распространяться. Спасибо вам. Да, теперь.
166: Давайте.
167: Спасибо, коллеги, теперь понятно. Благодарю.
168: Вот, да, безусловно, были заходы, но там давайте, да, это уже не будем, не будем дальше распространяться. Спасибо, коллеги. Спасибо вам. Да, теперь теперь понятно. Благодарю.
169: Добрый день. Давайте немножко вот в этом франкенштейне л 2 поковыряемся, потому что вот это совмещение, когда 80% с туда прокрутите, с л 0 и 20% идёт.
170: Л 0, может быть, вы слайд?
171: Идёт.
172: Добрый день. Давайте немножко вот в этом франкенштейне л 0 л 2 поковыряемся, потому что вот это совмещение, когда 80% идёт с, может быть, вы слайд туда прокрутите с л 0 и 20% идёт?
173: Специализированных. Вот, собственно говоря, совмещение вот этих предметных областей, оно фундаментально будет сложно в силу того, что, собственно говоря, веса и в количестве вот векторов, где будет 0 модели появл
174: По любому термину он всегда будет больше. То есть какой-то нужно приоритет давать тем определениям. Во первых, которые даны на 20 процентах. Мало того, он просто из за ограниченности модели, он в меньшем количестве
175: Контекста будет появляться вот, собственно говоря, вот этот дисбаланс, вот как вы пробовали выровнять, чтобы, собственно говоря, на специализированные термины чуть чуть неправильно использованы. Пускай там в русском языке вот просто
176: Сложно. Вот сложные слова, которые из нескольких частей, чтобы он лез не в л 0, а les в л 2, например. То есть этот момент, вот как вот это вы совмещали, потому что и агентом он не решит, он
177: И агента не добежит. Л 0 не даст вот этот момент. Вот вы пробовали, как вот
178: Да, конечно. То есть мы же говорили изначально, вот я несколько раз повторял про оркестрацию обращений к lm моделям, да, то есть тот же самый там лайт ллм и множество других средств позволяе
179: И агента не добежит, л 0 не даст вот этот момент. Вот вы пробовали, как вот да, конечно. То есть мы же говорили изначально вот я несколько раз повторял про оркестрацию обращений к lm моделям, да, то есть тот же самый там, лайт ллм и множество других средств позволяе
180: Это делать и тут вопрос наверное ключевое слово сценарии когда мы обращаемся, используем ту или иную модель и, конечно, чтобы экономить наши ресурсы, экономить наше время gpu мы должны сначала перед тем, как куда-то запрос послать постараться с наибо.
181: Большим, с наибольшей долей вероятности определить ту модель, ну, в рамках того ассистента, да, которая даст нам то, что мы хотим тот ответ, который нам нужен. То есть это могут быть, допустим, какие-то правила, ну там, начиная там с каких-то деревьев, решений, да, что если есть какие-то, допустим, ну, там, методы энэлпи, какие-то ключе,
182: Слова там или словосочетания, да, что работает быстро просто там, ну, аля, там, берт модели или что-то такое. И только потом уже, когда мы поняли, что, да, есть какая-то доменная специфика, есть какой-то там context или там требования какие-то, допустим, к рассуждениям, если там в промте
183: Это увидели тогда мы там по цепочке определяем, что да, нам нужна какая-то, допустим, особенная определённая модель. То есть мы, ну, конечно, мы не пытаемся все модели опросить там, потом как-то сравнивать ответы. Это, понятное дело, путь в никуда. Тут мы говорили про оптимизацию инфраструктуры.
184: Нет, подождите, мы же говорим наоборот, что мы гвоздями не прибиваем. То есть мы говорим, что у нас есть некие каким
185: Пути.
186: Нет, подождите, мы же говорим наоборот, что мы гвоздями не прибиваем. То есть мы говорим, что у нас есть некие пути, каким
187: Ну, это, это есть начиная от деревьев, решений, заканчивая, допустим, той же самой какой-то маленькой моделью. То есть это может быть также сэлэм какая-то, да, small ленгвич модул, которая позволяет нам понять вообще, ну, в рамках оркестратора, то есть это как функционально функциональность оркестратора, которая
188: Позволит нам понять, куда дальше направлять именно целевой промт. Ну даже банально. Вот когда решается задача о том, какой, какого размера нужна модель, да, то есть там, ну и вот с этими то, что я говорил, там пространство характеристик есть, то есть каком, какому
189: Модели в рамках этого пространства характеристик нам нужно направить запрос, то есть этот, этот оркестратор, ну, начиная там от деревьев, решений, заканчивая там сэлэм, а может быть, даже и lm, там, в зависимости от того, ну, просто пока, до лм, мы ещё
190: Наверное, не дошли в оркестраторе, но вот деревья, решения, слэм, да.
191: Угу. Спасибо большое за доклад на очень актуальную тему. Вопрос будет связан с приобретением моделей у внешних вендоров. Состоять будет из 2 частей. 1 часть вопроса, приобретая модель у внешнего вендора.
192: Не приобретаем ли мы дополнительные риски? Мы ведь не знаем, на каких данных эта модель обучалась. И, ну, 1 дело, если эта модель не решит, да, то есть нашу задачу, а что, если она решит её неправильно, да, то есть из за того, что она была обучена,
193: Неправильных данных. И 2 часть вопроса, как регулируется и регулируется ли вот вопрос интеллектуальной собственности? Если мы приобретаем у внешнего вендора модель, дообучаем её используем в своих интересах, да, то есть регистрируем каким-то образом её как свою собственность.
194: Спасибо.
195: Нет, с точки зрения они действительно учитываются. И работаем с вендорскими решениями, то там обязательно в рамках переговоров первых, как обучались, на каких
196: Рисков обучения компания, если мы обсуждается во
197: Спасибо. Нет. С точки зрения рисков обучения, они действительно учитываются. И компания, если мы работаем с вендорскими решениями, то там обязательно в рамках переговоров обсуждается. Во первых, как обучались, на каких
198: Данных, на каких массивах чаще всего это очень тесное взаимодействие. Почему я говорил с точки зрения критичности данных, можем ли мы их передавать или нет? Вы правильно говорите, что если они учатся на вообще сторонних данных, вопрос, насколько качественно модель вообще может решать те отраслевые задачи, которые у нас ест,
199: Компании. У нас же есть бенчмарки, которые мы потом перепроверяем по качеству решения на отдельных понтах там по отдельным вопросам. И мы можем понять, вообще, соответствует она нашей специфике или нашим требованиям с точки зрения там точности ответов, точности расчётов либо не соответствует и в любом случае
200: Если это вендорская модель, мы можем её тоже дообучать, повышая качество точности. Но это такая, это ручная работа в рамках отдельных кейсов, то есть отдельных сценариев, она будет всегда почти ручная, потому что если мы запускаем в производство продуктив, соответственно, те или иные модели, которые не
201: Дай Бог, ещё будут управлять отдельными циклами нашего сплайн чейна, то мы должны полностью гарантировать, что они отвечают всем требованиям. Поэтому и есть высокие требования кибербезопасности с точки зрения обучаемости там, их контроля, взаимодействия. То есть это тоже очень такой важный вопрос.
202: Который у нас решается. И 2 вопрос там.
203: Был повторить. Давайте я, да, дополню немножко Александра ещё сначала. Да, смотрите, безусловно, те, кто у нас в России, если мы говорим про вендорские модели, на самом деле только 1 компания у нас, ну, насколько сейчас мне известно, обучала
204: Который у нас решается. И 2 вопрос там был повторить. Давайте я, да, дополню немножко Александра ещё сначала. Да, смотрите, безусловно, те, кто у нас в России, если мы говорим про вендорские модели, на самом деле только 1 компания у нас, ну, насколько сейчас мне известно, обучала
205: Свою собственную модель полностью с нуля. Вот. И, ну, не будем, да, называть, но и прекрасно известно, на каком датасете она её обучала. То есть, если будет, зайдёт вопрос о покупке, что если вы будете готовы заплатить за неё, то, конечно, вам эту информацию предоставят. Вот, ну, хотя бы, может быть, не прям
206: Конкретно, да, то есть весь объём, но общую информацию предоставить также для опенсорс моделей. Также, в принципе, там ни для кого не секрет. Довольно легко находится информация, на чем те же самые там китайские опенсорс модели обучались. 1, да, по поводу вто,
207: Вопроса по поводу эксплуатации моделей и рисков, да, вот как раз 2 вопрос. Ну, смотрите, это все, во первых, договорные, формат договорных отношений с вендором, да, то есть, если, если, допустим, мы действительно встраиваем какого-то и помощника, который
208: Который управляет, допустим, цепочкой, там, не знаю, на нефтеперерабатывающем заводе. Ну, представим себе такую ситуацию, да, вот, конечно, я думаю, что там, во первых, договор будет страниц этак на 500, наверное, да, в котором будет все прописано. Это, это раз и соответствующие, там, если
209: Гарантирует, что не произойдёт никаких инцидентов и так далее, и так далее. Ну там будет целый ряд, я думаю, что проверок каких-то, ну, изначально первичных Тестов и так далее, и так далее. То есть это все, ну, в общем, устанавливается договорными отношениями и пони,
210: Пониманием, что куда мы можем конкретные модели применять, а куда не можем. То есть, ну, тут, конечно, своё мнение у компании обязательно должно быть
211: Спасибо.
212: Итак, коллеги, ну что ж, давайте поблагодарим за интересный доклад, за открытый диалог наших спикеров. Олег зоо.
213: Спасибо. Итак, коллеги, ну что ж, давайте поблагодарим за интересный доклад, за открытый диалог наших спикеров. Олег зоо.