0: Спасибо большое. Так, ну вот вы упомянули, значит, Виктор упомянул как раз как основной риск, утечку данных, утечку информации. И у нас есть как раз человек, который про это все знает. Сергей, вопрос к вам. Расскажите про риски утечки.

1: Данных через искусственный интеллект. Скоро это является 1 из основных угроз, каким образом он становится каналом для утечек данных, какие распространённые вектора утечек, какие угрозы? Ну что с этим делать? Спасибо большое.

2: Ну, в общем то, коллеги уже сказали, и в том числе моё вступительное слово. Я хотел сказать о том, что и у нас внедрилась в нашу жизнь. Она везде. И не только на, на ноутбуке уже у каждого в смартфоне каждый наш запрос.

3: По сути, обработка нашего запроса через ii и по сути своей технологии искусственного интеллекта, конечно, люди прогресса, все делается быстрее.

4: Находятся какие-то инсайты, но одновременно с этим это и не угроза.

5: Мы используем, и мы её на самом деле в жизни называем немножко по другому. Мы говорим сделать при помощи иишки. Мы это делаем на самом деле для пользы. Но если взять простого обывателя, пользователя, че мы делаем так, мы свою работу просто

6: Быстрее мы делаем лучше со стороны пользователя. Вот здесь, на слайде, мы видим с вами несколько таких сценариев. Ну, например, анализ клиентской базы. Взял файлик, закинул чат или от посмотрел

7: Что там? Вот тебе готовый анализ, не нужно сидеть и как раньше там аналитиков приглашать, не знаю, отдел создавать, все сделано за несколько минут. Менеджмент, пожалуйста, захотел сделать новую стратегию компании.

8: Забросил внутренний план вот тебе генерация стратегии прошла и на следующий год у тебя стратегия готова, а может, и не на следующий год. Может, на 5. Прекрасно. Безусловно, самый распространённый кейс. Я работаю с разработчик.

9: Проверка исходного кода. Ладно, проверка написание это стандартная история была у тебя неделя. Был у тебя спринт не нужно спринт теперь несколько часов код готов, ну и char персональные данные безусловно это война.

10: Тех, кто ищет работу и кто работу даёт, одни пишут про на то, чтобы у них было классное резюме, чтобы прошло эйчар, барьер, а другие, а другие пишут эти барьеры.

11: Я вам говорил про то, что есть.

12: Примеры от текущего бизнеса. Есть примеры публичных кейсов. Вот некоторые из них на слайде, но здесь даже не про то, что и с помощью, и что-то утекло. Это вообще про то, как связаны утечки.

13: С мировыми большими марками. Ну вот, например, грок. У него несколько сотен тысяч приватных чатов с пользователями, просто в сети были проектированы грок антроп.

14: Опубликовали 500000 строк своего исходного кода эйчар код макдональдса, но это про залогино у них был логин admin, а пароль 1, 2, 3, 4, 5, 6 и данные данные.

15: 64000000 искателей утекли просто в сеть. Исследователи, кстати, относительно свежее исследование в мае 26 года было обнаружили больше 300000 общедоступных приложений, то есть сейча.

16: Очень модно писать приложение при помощи ишки. Так вот, около 5000 из них раскрывали конфиденциальные данные. То есть защиты не было вообще никакой.

17: И классный пример агентство по кибербезопасности сша загрузил служебные документы с пометкой только для служебного использования в публичный отчёт, я считаю, считаю отличный кейс.

18: Понятно. В общем, все ребята из больших компаний точно такие же люди, как мы, точно также хотят улучшить свою работу и в чат кидают, что можно и что нельзя. Ну и посмотрим с вами на типичный

19: Сценарий данных по работе с искусственным интеллектом с точки зрения систем самый популярный сценарий это работа уличных сервисах.

20: Ну, мы с вами про него сегодня много говорили. Загружаем документы, пишем запросы, копируем тексты, хотим инсайты, что происходит, утекают данные.

21: Утекают куда утекает непонятно, достать обратно нельзя, при помощи технологии перехвата и блокировки системы такие сбросы и можно не только ловить, но и перехватывать.

22: Следующий сценарий очень похож на предыдущий, но про тоже достаточно часто запрос в систему мы с вами Любим. Я знаю, что, наверное, 99% моих знакомых

23: Количество документов, чтобы не читать, поступило нам с вами 5 канцелярских канцеляризмы документов. Че я читать буду сейчас в чат загружу, он мне символизирует и выдаст прекрасный результат.

24: Эту историю системы тоже ловит здесь история может быть как с несколькими документами, так и часть документов, то есть не документ целиком, а какие-то выдержки из документа.

25: А вот этот сценарий надо понимать, что если предыдущие 2, они про хорошее и про то, чтобы сделать свою работу быстрее и лучше вот этот сценарий, ограничение пром инъекции, ну вот здесь нужно

26: Anna сотрудников, которые этим занимаются, потому что просто инъекция это желание. Ну давайте так злоумышленника достать ту информацию, которую вы в системе.

27: Находится. То есть у человека есть понимание, что её системе есть что-то документы, ну неважно, что конфиденциальные данные, на которых эта система обучалась. Если подобные случаи зафиксированы, их тоже были, нужно

28: Безусловно, взять на карандаш этого сотрудника, провести беседу. Ну, там офицер безопасности знает, что делать. Поэтому этот сценарий, он отличается от 2 предыдущих тем, что, ну, вряд ли здесь сидит энтузиаст просто такой, а что там внутри очень сильно

29: И как там будет обеспечиваться безопасности искусственного интеллекта? Ну и дополнительный вопрос, как вообще бизнесу найти баланс этой ответственности между пользой и вредом?

30: Большое спасибо за вопрос. Сергей упомянул несколько видов искусственному интеллекту, а Виктор упомянул про model вас и их топ 10 рисков искусственного интеллекта. И так получилось, что я как раз-таки разобрал.

31: Модель на предмет того, что сейчас у нас существует в регуляторике вас выделяют 10 основных угроз обновляются каждый год. Вот последнее исследование было в 25, и я сравнил эти угрозы с

32: Ответом для государства 117 стэк приказе и для всех в проекте федерального закона об искусственном интеллекте, который сейчас предлагается минцифры. Если смотреть так сквозняком, то, по сути, у нас

33: Все зелёное или жёлтое все закрыто. Хотя 117 приказ содержит всего 2 пункта, касающихся искусственного интеллекта. А проект он скорее рамочный и требует дальнейшего уточнения и развития положения. Тем не менее все у нас, все

34: Вроде бы как закрыты все эти риски, находят законодательное отражение, но вопрос в том, что эта система статична. То есть, да, мы прописали какое-то определённое требование и дальше вопрос, а на каком двигателе это будет построено? Какие внутренние принципы будут?

35: Организовывать рынок для того, чтобы он соблюдал эти требования и самоорганизовывался для устранения рисков, а не для прибыли любыми способами. И для этого я решил изучить текущую судебную практику и

36: Которые, мне кажется, крайне актуальны для искусственного интеллекта и вообще регулирования. 1 это то, что у нас есть отдельное регулирование самой технологии, это технические стандарты, это требования к доверенности и так далее. Но основное это все-таки

37: Откуда у нас берутся угрозы, откуда у нас берутся, берётся вред, ущерб и убытки. Это все-таки реальные процессы и текущая судебная практика, она сфокусирована именно на процессах, а искусственный интеллект у них он является только дополнительны.

38: Инструмент, например, достаточно частый вопрос это защита сотрудников от замены на искусственный интеллект. У нас на самом деле достаточное количество споров сейчас, о которых давать не искусственный интеллект рука руку.

39: Смотрят именно на соблюдение принципов законодательства и прав сотрудников. Тоже самое в искусственном интеллекте и защите прав потребителей. Не так важно. Сам факт наличия искусственного интеллекта важен. Факт того, влияет ли его на

40: А права потребителя не вводит в заблуждение и так далее. И сейчас громкое дело. Если вы предоставляете суду недостоверную информацию, которая была создана ввиду галлюцинаций искусственного интеллекта, вопрос, несёте ли вы ответственность? Суды теперь считают, что да, более

41: Требует раскрытия информации о фактах, полученных с применением искусственного интеллекта. А если так попытаетесь ввести суд в заблуждение, то вы получите судебный штраф не потому, что вы использовали искусственный интеллект, а потому, что вы использовали его в процессе, который изначально

42: Негатив и 2 момент, который тоже следует учитывать, это вопрос ответственности при сбоях ложно положительных или ложно отрицательных срабатывания, а также при галлюцинациях. У нас уже с 2022 года сложилась практика, что

43: Киберинцидент, даже вызванный, например, кибератакой, хотя, казалось бы, это не мы, некто со стороны нас такова нет. Суды считают, что киберинциденты являются риском стороны, который нормальным силовым риском, который сторона должна учесть и

44: Пытаться им управлять в исключительных ситуациях. Какой-то, в том числе, может, когда-нибудь галлюцинации может быть признан форс мажором. На практике было всего 1 раз, когда оператор системы доказал, что он не только её защищал, но

45: Максимально старался исполнить все необходимые условия, максимально старался минимизировать вред во всех остальных случаях, особенно с субъектами персональных данных, особенно с в законодательстве, любые сбои.

46: Информационных систем это риски, которые на себя берет страна. И в качестве итога я бы хотел здесь выделить то, что мы должны анализировать по большей части именно действия. Именно факт, а не то, что в нём используется искусственный интеллект.

47: Например, если мы говорим об утечках, то уже давно в практике закрепился так называемый принцип периметра, что неважно, куда информация попала. Важно то, что она пересекла этот периметр. Вот, то есть, неважно, способ

48: Это и или будь это какой-то злоумышленник, который специально украл важно просто сам факт того что информация утекла значит