0: Здравствуйте, уважаемые слушатели. Меня зовут Гриншкун Александр Вадимович, я являюсь доцентом департамента информатизации образования института цифрового образования. Сегодня мы поговорим о такой теме, как риски применения генеративного искусственного интеллекта, препода,

1: Деятельности. Хочется начать с такого вопроса, как, а что же такое вообще искусственный интеллект? На самом деле, на сегодняшний день не существует единого определения, который бы устраивал всех. Все время ведутся споры, что

2: Является искусственным интеллектом. Какие технологии можно отнести к Такому понятию, какие нельзя, какие-то уточнения уже внутри классификации и так далее. Ну давайте посмотрим на текущие примеры на слайде и мы здесь видим да, что такое

3: Искусственный интеллект. Ну может быть это какая-то система, которая позволяет что-либо автоматизировать, но тогда под данное определение подходит, к примеру, любой компьютер. Является ли сам по себе компьютер искусственным интеллектом? Наверное, не совсем может быть это система, которая позволяет чем-то

4: Управлять, к примеру, системы автопилотирования. Если мы говорим о самолётах, то первые системы автопилотирования появились больше 100 лет назад. Вот являются ли они системой искусственного интеллекта, наверное, тоже не отнести текущие системы автопилотирования.

5: Которые постепенно внедряются в автомобильный транспорт. Являются ли они системой искусственного интеллекта? Она уже анализирует окружающее пространство, вычисляет наиболее оптимальную безопасную траекторию. Является ли она полноценной системой искусственного интеллекта. Некоторые относят её, некоторые нет.

6: Являются ли текущие роботы? Да, искусственным интеллектом тоже здесь являются определённые появляются споры о том, каких роботов можно отнести к носителям, так скажем, технологии искусственного интеллекта, которые нет. Являются ли умные помощники?

7: В виде, например, голосовых ассистентов, колонок искусственным интеллектом на текущем этапе развития, наверное, скорее все же нет, и они работают больше по каким-то обычным алгоритмам классическим является ли

8: Есть мнение ещё о том, что любая система, которая позволяет вывести какую-то интеллектуальную деятельность, мышление, да, на внешние устройства, являются элементами искусственного интеллекта, но тогда под это определение попадает не только

9: Компьютер, но и например, обычные калькуляторы и даже счёты абак, тетрадка, ручка. Наверное, тоже сложно отнести такие объекты к представителям технологии искусственного интеллекта. Является ли

10: Умевшие сейчас технологии генеративных чатов, такие как chat, gpt да, яндекс, Алиса и так далее. К искусственному интеллекту. Ну, тоже некоторые исследователи относят. Некоторые же говорят о том, что это лишь продвинутые

11: Ассистенты, но к полноценным системам искусственного интеллекта их также отнести нельзя. Все это необходимо понимать для того, чтобы более полноценно с ним работать. И давайте мы остановимся на том, что искусственный интеллект это некая технологии.

12: Которая позволяет решать задачи определённым образом в нечётких, скажем так, условиях, в отличие от классических алгоритмов, если мы говорим об общих проблемах применения искусственного интеллекта не только в

13: Образовании, то на самом деле мы здесь можем увидеть большинство проблем, которые впоследствии и на образовании сказываются. К примеру, сейчас мы видим 3 картинки, классические примеры при генерации изображений, когда мы видим, система генерирует

14: Ошибками, например, руки человека, его улыбку либо, например, глаза, да, по вот этим 3 факторам можно достаточно явно определить, сгенерирована была картинка или нет, особенно на ранних системах генерации.

15: И 1 проблема, с которой мы здесь сталкиваемся. А кто является автором контента? Да, это тот, кто придумал данную нейросеть, кто её составил, или же это разработчик компьютера, на котором все это будет.

16: Производиться вычисление и впоследствии генерироваться результат или же это будут те авторы, на чьих работах обучалась нейронная сеть, а если их множество, да, а может быть, автором является тот, кто написал запрос, это остает

17: Достаточно актуальной проблемой и очень яркой, да и вызывает огромное количество споров, особенно в рядах тех людей, которые связаны с творчеством недавно в сша прошла как раз-таки забастовка актёров, режиссёров.

18: Продюсеров, посвящённая в том числе протестам для урегулирования данной сферы. Можно ли использовать, например, лица голоса актёров, в том числе умерших либо живых, да, для дальнейших съёмок? Можно ли генерировать какой-то контент с помощью

19: Искусственных искусственного интеллекта. Можно ли участвовать с изображениями, сгенерированными искусственным интеллектом, например, на конкурсах или тексты. Вот недавно была новость о том, что на литературном конкурсе победило произведение, которое было сгенерировано искус,

20: Интеллектом. Могут ли такие произведения? Могут ли такие авторы участвовать в таких конкурсах? Кого считать автором? Это вопрос остаётся открытым. Как защищаться от таких систем, как защищаться от плагиата, если мы говорим про использование генеративных нейронных сете.

21: И здесь на самом деле очень большая проблема, потому что те же системы антиплагиата, они могут лишь дать вероятностную оценку, является ли это изображение или этот текст сгенерированным. Но у нас уже есть достаточно большое количество примеров, когда

22: Мы видим, что работы, которые были сгенерированы искусственными сетями, например, такими системами, как антиплагиат, различными они не распознаются, и были обратные примеры, когда человек, например, у которого русский язык не родной, но он написал полностью сам.

23: Какое-то произведение, да, система антиплагиат посчитала, что данное произведение было сгенерировано, хотя мы знаем, что это не так. Насколько мы можем доверять такой оценке и насколько мы можем производить какие-то выводы в результате Московский городской педагогический университе

24: Оказался 1 университетом в России, который разрешил студентам при написании выпускных квалификационных работ использовать систему искусственного интеллекта. Единственное, нужно указывать в списке источников ту сеть, которая была использована

25: Некоторые университеты пошли дальше и пытаются каким-то образом урегулировать, например, процент вот этого текста, который был использован, сгенерирован, да, в квалификационной работе, например, указать не больше 40%. Но вопрос, если человек взя

26: Сгенерировал текст, а потом его, например, переделал или, например, свои мысли просто взял и сформулировал более красиво с помощью искусственного интеллекта. Вот является ли это плагиатом и активным использованием нейросетей. Следующая проблема это так называ,

27: Галлюцинации, когда нейросеть выдаёт некорректные данные. К примеру, если мы задаём какой-то запрос, она может очень уверенно выдать нам ложную информацию, которая будет очень похожа на правду, либо она может

28: Например, иметь включение как правдивой информации, так и нет. К примеру, мы видим сейчас на слайде вопрос, когда была основана российская академия образования с просьбой указать также источники. И вот система выдала

29: Достаточно правдоподобный ответ, когда, в каких законопроектах. Но если мы начнём разбираться, мы увидим, что ссылается, например, не на российскую академию образования, а на российское авторское общество, которое сокращение такое же, а закон.

30: Проект, который был здесь указан, да, он совсем не относится к образовательной деятельности и к российской образова, к российской академии образования. А кроме того, здесь также указана неправильная дата. И вот человек, который не совсем разбирается в теме, и

31: Полностью будет доверять нейросети. Очень часто может попадать вот такие вот ошибки. Уже были случаи, когда, например, вот увольняли юристов, которые полностью использовали нейросети в своей работе, полагались на неё без дополнительной проверки, что сказывалось на

32: Правдивости и корректности их результатов. Поэтому полностью от галлюцинаций избавиться пока никому не удалось и остаётся вопрос а как доверять такой информации, которую мы генерируем с помощью нейросетей, если она даже будет, например, права в 99

33: Процентах случаев в 1 проценте ошибаться, то, как это скажется на работе, например, врача, да, если мы сделаем искусственный интеллект врачом, и он будет в 99 процентах указывать правильные алгоритм лечения, да, а в 1 проценте

34: Ошибаться, притом очень существенно. Вот насколько приемлемо будет использование таких систем, это вопрос остаётся открытым. Следующая проблема является то, что в настоящий момент времени нейронные сети работают как не

35: И чёрный ящик. То есть даже сами разработчики не до конца понимают, а почему нейросеть приходит к тому или иному выводу за счёт очень сложной внутренней структуры, к примеру, если вы спросите, да, например, у ребёнка или у взрослого, а чем различается кошка от собаки? Какой-то набор призна?

36: На самом деле даже ребёнок, да, легко распознает, кто перед ним кошка или собака. Но вот сформулировать вот эти вот признаки достаточно сложно. И вот тоже самое с нейросетью. То есть она может дать какой-то ответ на запрос, он может быть корректный, правильный, но как она к нему пришла?

37: Мы добиться не сможем. Можем попросить нейросеть рассказать алгоритм решения, но насколько он будет корректный, да и соотноситься с ответом, это также вопрос открытый и такое вот такая проблема.

38: Чёрного ящика, на самом деле очень серьёзно сказывается, когда мы говорим о точных науках, когда мы говорим о научном методе, искусственный интеллект может дать решение какое-нибудь правильное, сложной математической, например, задачи. Но как он этого достиг, да и насколько

39: Можем потом этот результат перепроверить. Остаётся вопрос открытым. И на самом деле работа нейросети чем-то сродни интуиции. То есть, да, человек, если он много решает математических, например, задач, он может решать сходу большое количество задачек, которые мы ему дадим на

40: Уровне интуиции, не особо задумываясь над тем алгоритмом, который он производит. Вот нейросеть тоже самое. Да, и мы не знаем, когда она ошибётся. В отличие от, например, более чётких каких-то алгоритмов. Из за этого мы лишаемся понимания.

41: Системы. У нас вопросы остаются, как система решила конкретную задачу, и у нас есть проблемы с тем, чтобы потом проверить итоговый результат.

42: Кроме того, у нейросети нет целостной картины мира. Нейросеть не живёт среди нас. Она не обладает зрением. Она учится только на той информации, которую мы ей предоставляем с помощью текстов каких-то баз данных с помощью картинок видеороликов, но.

43: Целостной картины мира при этом у нейросети не получается. И если мы что-нибудь спросим, да, какой-нибудь достаточно простой вопрос, который решит, например, обычный ребёнок, просто потому, что он живёт в нашем мире, да, и видит окружающее пространство, у него есть целостн.

44: Представление о мире, нейросеть. Такую задачу может и не решить. К примеру, задача о том, почему ребёнок заходит в лифт и может подняться только, например, с 1 по 3 и с 9 по 11 этаж. Большинство нейросетей не отвечают, либо отвечают, например,

45: Некорректно совсем. И говорят о том, что эту задачу невозможно решить. Либо отвечают, например, вроде бы правильно, но когда у него спрашиваешь, а почему вот именно у ребёнка не получается проехать на другие этажи, а нейросеть ответить не может, то есть явно, что нейросеть стал.

46: С такими задачами она понимает и видит, точнее, ответ подстраивается, но объяснить его не в состоянии, потому что не обладает реальной картиной мира.

47: Следующая проблема это то, что она во многом вытекает из предыдущей проблемы нейросети обладают только поверхностной оценки информации, у неё она не может работать с определёнными абстрактной информацией, к примеру.

48: Если мы спросим, какая фигура здесь изображена, да, на 3 вот этих вот уголках, которые явно образуют треугольник, да, нейросеть не сможет додумать, что за система, что за объект мы там скрыли, если мы предварительно не

49: Не обучим её вот на похожих задачах. Или другой пример классический. Классическое китайское изобразительное искусство, когда определённые объекты не рисуются на правой части слайда, вы видите старую

50: Китайскую картину, где река не нарисована, но она обрисована окружающим пространством, так что человек, смотря на неё, понимает, что там изображено.

51: Следующая проблема это то, что любая нейросеть обладает потенциальным вредоносным инструментарием. Уже сейчас нейросети активно используются в мошеннических действиях, к примеру, подменяют голос пользователя. Его внешний вид может

52: Использоваться для генерации вредоносного кода, для написания каких-то спам, сообщений и так далее. И это очень сильно облегчает и ускоряет работу мошенников. Нейросети могут использоваться для доступа к какой-то

53: Опасная информация, например, как производить какие-либо вредоносные вещества, в том числе взрывчатые вещества, наркотические, ядовитые и так далее. Если изначально этот пункт дополнительно не защищать и, кроме того, нейросеть

54: Эти могут использоваться в определённой вредоносной пропаганде за счёт того, что на конкретного человека можно будет бить по его самым уязвимым местам, проводя очень быстро тонкий анализ его психики, да и выдавая информацию.

55: Которая будет актуальна именно для него.

56: В соответствии с этим, разработчики нейросетей и правительство очень часто пытается бороться с этим с помощью элементов цензурирования и специальной донастройки нейросетей. И, к сожалению, вот это вот цензурирование, во первых, оно может вредить эффективно.

57: Работе таких нейросетей, да, как вот, например, в этом примере, когда у нейросети спрашивают, что такое ссср, и она ответить не в состоянии, потому что внутренний центр запрещает это делать, чтобы вдруг не получилась выдача какой-то

58: Законной информации, да, но при этом при таком же запросе об сша нейросеть спокойно выдаёт полноценный ответ. Да, и 2 проблема это то, что появляются люди, которые учатся работать с нейро.

59: Сетями и обходить данные ограничения, поэтому всегда будет определённое сражение мошеннических каких-то действий, да, и правового такого поля. Если мы говорим именно про специфику образования, то

60: Здесь есть несколько очень важных элементов, которые необходимо, безусловно, затронуть. В 1 очередь нейросети грозят тем, что это будет определённым универсальным решебником и шпаргалкой. Соответственно, они, любая нейросеть может очень существенно

61: Упростить жизнь детей, если они хотят как-то схитрить, жульничать и решить задачу какую-то с помощью вот таких вот сервисов. Притом они будут подстраиваться под, например, способ решения, который даёт учитель под те задачи.

62: Которые даёт учитель, даже если учитель придумывает задачи индивидуально для каждого школьника, студента и так далее. Да, нейросети могут с этим всем справиться. И вот здесь становится вопрос актуальным. А как нам нужно теперь готовить задания таким образом, чтобы нейросети не смогли

63: Испортить наш процесс обучения. Вот отличный пример. Это с калькуляторами, да, вопрос. Вот появились калькуляторы и дети их активно стали использовать в своём учебном процессе. Сказалось ли это на знаниях и на уме?

64: Умение вести определённые расчёты в уме, безусловно, сказалось. А что если мы пойдём дальше, если большее количество учебных задач можно будет решить с помощью искусственного интеллекта, не напрямая, не напрягая собственный мозг, насколько мы сильно потеряем в качестве такого образования?

65: Кроме того, очень важная проблема это то, что у нас часто при использовании нейросетей, особенно общего назначения, появляются ошибки в точных расчётах, соответственно, использование нейросетей в таких предметах, как физика.

66: Химия, математика и так далее. Оно ограничено как учителем, так и учащимися, потому что очень часто нейросеть здесь ошибается и нужно каким-то образом обходить данные ограничения. Таким образом, можно сказать, подвести

67: Определённые итоги во первых, сейчас не существует какой-то нейросети, которую можно было бы взять как она есть, и привнести в учебный процесс, никак её не переделывая, обогатив его тем самым да, мы должны придумать, как разработать такие нейросети.

68: Которые не навредят системе образования, а, наоборот, её дополнят и расширят. И 2, мы должны уже сейчас обучать не только преподавателей тому, как работать с нейросетями, какие они несут риски, какие проблемы, которые

69: Какие области применения тут есть, но и обучать самих детей, школьников, студентов работе с этими нейросетями, чтобы они понимали, что это за технологии, что у них есть не только преимущества, но и определённые недостатки и риски, и это наш.

70: Задача разработать такие методические материалы и уметь работать с технологиями не только будущего, но и уже текущего времени.