0: Ну, во первых, у нас сейчас нет определения искусственного интеллекта, это очень забавно, потому что у нас есть распоряжение правительства внедрять искусственный интеллект в каждую щель, куда только можно, но мы не знаем, что, что такое.

1: Искусственный интеллект безусловно да там антивирус, пожалуйста, искусственный интеллект. Вообще вот что имеется ввиду вот сейчас пишется закон я знаю, что разрабатывается закон о регулировании искусственного интеллекта и

2: Там часто я участвовал, в частности, в 1 рабочей группе по формированию закона. Там эксперты 3 месяца спорили над определением, я наблюдал спор, не вмешивались, но это очень интересно, потому что это не просто

3: Я для себя определяю как искусственный интеллект, это некие программы, набор компьютерных технологий, которые имитируют когнитивные функции человека. То есть самый широкий спектр технологий затрагивает и я бы его разделил на

4: Условно алгоритмический, то есть то, что на алгоритмах имеет предсказуемые, соответственно, действия по шагам, да, и то, что самообучается. То есть, значит, берётся, строится на основе больших данных. И потом, значит,

5: Система как бы сама делает, например, вот эти наши любимые большие языковые модели, лингвистические модели, они относятся к самообучающимся, скажем, мной любимый антивирус.

6: Вот, значит, давайте поговорим про особенности генеративного искусственного интеллекта, они же являются его проблемами. Значит, ну, 1, генеративный, что такое генеративный, значит,

7: Сам что-то и сам делает, и с этой точки зрения он работает как чёрный ящик, потому что он сам делает, не знает, что он делает, даже разработчик, который его разработал. Он не знает, по какому принципу и какой ответ выдаст ему им разработанная модель.

8: Non может, вероятно, предполагать, соответственно, это невозможно пройти лачика и соответственно, если какая-то, какой-то сложный вопрос моделька вам каждый раз выдаст немного разные ответы. Это, конечно, очень сильно напрягает. Там эксперты спорят так что

9: Решить проблему чёрного ящика, но её нельзя решить, потому что эта проблема чёрного ящика является свойством встроенного генеративного искусственного интеллекта. То есть это как бы 2 стороны 1. 2 обучается на больших данных больших, значит, они, мы не знаем, какие они

10: Напихать туда можно все что угодно. Допустим, мы делаем систему распознавания лиц доверенных. И мы встроили все ваши лица. Вот там, допустим, кто-то из ваших разработчиков это делает, они все ваши лица, и вы можете проходить спокойно там

11: По лицу вас будут открывать двери. Ну вот, потому что вы, а мы ещё туда, ещё, там 100 500 таджиков туда включим, и никто не сможет это проверить, но они тоже будут распознаваться как доверенные и тоже будут проходить ваш

12: Без всяких там сложностей. И это, конечно, напрягает дак безопасности. Вот 3, это облачность, облачность, это значит инфраструктура развёрнута где-то там, где-то там, как правило, за границей, потому что у нас

13: К сожалению, генеративного искусственного интеллекта. Ну так вот, у нас 1 единственная модель, которая, ну, весьма ограничена по своим своим функциональным возможностям. Ну, слава Богу, хоть она есть, вот, но, ну и все, вот мы

14: Начали сгибать пальцы на 2 руках, загнули 1 палец, на этом наши пальцы закончились в определении, точнее, в исчислении отечественного, генеративного, искусственного н. А все остальное.

15: Значит, все утекает туда, туда утекает, туда, там, послушайте, ну, конечно, там сидят, в том числе спецслужбы, которые видят, когда к ним идёт запрос, интересный. Мне, в частности, такой случай. Рассказывали, что значит человек

16: Ну, не знаю, правда или нет. By скажу, как, а что человек, значит, анализировал возможные способы атак на украинскую инфраструктуру. Ну, естественно, через тоже нашёл, через что анализировать. Ему начали подсказывать. Мало того, что ему начал

17: Выдавать неправильный ответ ещё и значит к нему потом, значит там какие-то начали ему там вирусы какие-то подвал, у него начались физические проблемы, там с компьютерами совсем хорошо ещё, что ракета не прилетела, потому что в принципе,

18: Такого человека вычислить. То есть это на самом деле, это система, которая работает с 2 сторон. Вы смотрите в неё, она смотрит на вас. Это не многие понимают про вторичность мы уже сказали. Вот. И ещё такая проблема или особенность это

19: Если вы модель спросите, почему ты дала, он скажет, почему она это встроенная функция. Понятно, что она запрограммирована в модели, и на самом деле она ничего не означает. Это не значит, что

20: Значит, она должна, но людей напрягает то, что люди её начинают очеловечивать и обращаться с ней, как значит, с живым существом, значит, снижение интеллектуальных способностей. Ну, это вот то, что прямо сейчас обсуждается.

21: В министерстве образования там хватаются за голову, а студенты пишут свои работы с использованием ну-ка, студенты, скажите честно, поднимите руку, кто пишет свои работы с использованием

22: Ну да, вот опрос показывает 87%. Так, то есть почти. А преподаватель это что, не знает, на самом деле, вы че то знаете или нет?

23: Спросить выдала, а работодатель, представляете, какая фигня? Мы вообще не знаем, кого мы нанимаем на работу. Че то, знаете вообще, может вы вообще ничего не знаете. И это вообще, ну, это большой риск для системы образования в целом огромный. Вот. И ещё.

24: Есть 1 риск такой чисто политический, это возникновение оо класса. То есть на самом деле, если вы задумаетесь, то власть переходит не к тем людям, которые отдают приказы, а к тем людям, которые под, потому что они могут сделать нечто, что

25: Ну, немножко противоречит, допустим, и они будут принимать решения как, как, а не на правовые риски. Это понятно.

26: Ну, самое, самое грубое и самое такое выпуклое, это нарушение конституционных прав, потому что искусственный интеллект решает относительно меня человека. Я человек, я гражданин, что это там за машина, на меня че то нарушал. 2, это ошибки.

27: Ошибки были уже известны, когда людей, значит, на базе распознавания системы искусственного интеллекта арестовывали, они были вынуждены доказывать, что они не те, кто за кого их приняли, принимали там, за, ну, за

28: М, убийцу, по моему, в 1 случае, в другом случае, там, за вора оо, убийца вообще не тот человек, но система диагностировала с какой-то вероятностью. Вот, пожалуйста, иди доказывай, что ты не соответственно. Судьи сейчас начали продвигать.

29: Искусственное. И это вообще, конечно, как они там будут выносить свои вердикты, че они там поймут? Ну это довольно большой такой существенный риск. Уже есть несколько решений, написанных при помощи

30: Искусственного интеллекта, причём в краснодарском суде был случай, когда адвокат попытался оспорить решение, потому что на том основании, что оно написано, искусственного интеллекта и суд отклонил ходатайство адвоката на том основании, что судья может

31: Как он хочет. Ну, вообще говоря, это риск, да. Че списали правильно? Кроме того, снятие ответственности. Чиновники. Ну вот машина решила. А я че? Ну вот она решила, она решила, что

32: Ну и вообще правовой статус, да, ходят такие слухи и желания, что ли, придать субъектность искусственному интеллекту? Что такое субъектность? Это значит, что искусственный интеллект, дать ему возможность принимать решения.

33: И это на самом деле совершенно категорически недопустима. Это вот то, с чем мы, как наша рабочая группа, которая сейчас законопроект участвует, с кем боремся категорически, потому что это значит, что какой-то электронный болван будет принимать решение о людях, а он

34: Ошибки. Мы же с вами понимаем, что имеет ошибки, значит, он ошибочно может принимать решение. А с какой стати, даже если количество ошибок меньше, чем-то, что сделано людьми, но, по крайней мере человека можно спросит.