0: Это вопрос науки. Я Алексей Семихатов. Здравствуйте. Очень хочется получить ответ на вопрос. Искусственный интеллект это все-таки интеллект. Возможно ли сознание у искусственных нейронных сетей? Вероятно,
1: Простых ответов здесь нет, но, как бы то ни было, мы впервые получили нечто отличное от нас, очень похожее на нас. Во всяком случае, в отношении поговорить практически на любые темы не ведёт ли отсюда от искусственных?
2: Нейронных сетей и искусственного интеллекта. Дорога или, по крайней мере, тропинка к лучшему пониманию того, как устроен наш интеллект и наше сознание у меня в гостях. Сегодня, Константин Владимирович Анохин, добро пожаловать.
3: Программу добрый вечер. Здравствуйте, Константин Владимирович, доктор медицинских наук, профессор, директор института перспективных исследований мозга Московского государственного университета и академик российской
4: Академии наук. И вы много изучали сознания и знаете о нём, возможно, больше. Ну, если не всех, то очень многих. Приближаемся ли мы сейчас?
5: К признанию, что возможны различные сознания не только на нашей электрохимии, но реализованные совсем по другому и, возможно, сознания, но какие-то другие интеллект, но какой-то другой можно как-то на эту тему внести хоть
6: Какую-то ясность в эту быстро развивающуюся и сейчас очень живую тему. Во первых, я не очень много изучал сознание, я начал заниматься этим лет 15 назад серьёзно, хотя я тут нашёл передачу
7: Сергей петровичем капицей в конце девяностых годов, где я говорил, что сознание была посвящена сознанию, я уговорил его сделать передачу про сознание, потому что это было
8: Вхождение науки в 21 век. И я убеждал, что сознание будет основной проблемой науки о мозге в 21 веке, но я специалист больше всего по обучению и памяти, если меня
9: Что-то роднит с искусственными нейронными сетями, то это мои знания не в области сознания, а в области механизмов обучения памяти, ну, в отношении разных сознаний, ну, обучение.
10: И это то, что мы научились очень специальным образом делать для нейронных сетей. И вдруг обнаружили, что они, не знаю, там, если угодно, проходят тест тюринга, там худо бедно, и, в общем, прям похожи на нас. Это удивительно, это
11: Удивительно, это удивительно, отвечая на ваш вопрос про возможности разных сознаний. 1 вещь, которая в науке о сознании сейчас происходит, очень крупная, она так и называется проблема других.
12: Знание Азер майн the problem of other minds, она касается вопроса о сознании у других живых существ, иначе говоря, единственные ли мы в этой Вселенной или хотя.
13: На нашей земле обладатели этого свойства сознания, и становится ясно, что многие животные по современному пониманию сознания, отличающемуся от
14: Понимание сознания в 20 веке, в середине 20 века, когда сознанием считалось преимущественно то, что свойственно лишь человеку с развитым языком в культурной среде.
15: Сейчас речь идёт, и это важно для искусственного интеллекта будет сейчас речь идёт о том, что есть высокоразвитое сознание, а есть базовое сознание и есть. Поэтому назовём их.
16: 2 вида существ. Вот мы с вами когнитивные существа типа 2. Мы высокопорядковых когнитивные существа, но мы также когнитивные существа типа 1, которые обладают такими же
17: Видимо, признаками сознания, как другие к 1 существа на нашей планете кошечки, собачки, птицы и консенсус, что птицы обладают.
18: Сознанием, а дальше начинается туман, где сейчас проходят очень активные исследования рыбы, земноводные, пресмыкающиеся, насекомые, моллюски.
19: Осьминоги шмели, они, как мы, в каком-то смысле понижаем планку все время или мы открываем нечто новое, более глубокое, в том числе в самих себе, и видим аналоги этого там совершенно верно.
20: Мы не понижаем планку, мы сразу определили, и есть определение сознания как способности чувствовать что-то базово ощущать, каково это быть.
21: Это не новое определение декарт когда говорил я мыслю, следовательно, я существую когито эрго сум, он писал, что под когита, под когитару я имею ввиду не только рациональное.
22: Мышление, но и желание, чувства, намерения и так далее, и так далее. Вот вопрос в следующем. Если к этому относятся эти чувства, субъективные чувства, тоски,
23: I желаний восприятие событий в окружающем мире через какие-то качества боли.
24: И это все наш субъективный опыт, то вот эта фундаментальная ступень, кто ею обладает? Чувствуют ли рыбы боль, когда они попадают на крючок или
25: Когда там тунца на рыболовецких суднах там разрубают на куски живого, чувствуют ли раки или омары боль, когда их бросают в кипя?
26: Воду, это сложные вопросы. Задал его об устрицах уже, да, точно его. Да, точно. Они настолько сложные, что у нас вроде бы нет способа это выяснить, потому что нет возможности у них спросит,
27: Есть другие способы сознание можно понять по настоящему, я в этом убеждён только изнутри, изнутри системы, которая общается с окружающим миром, не обязательно спрашивать.
28: Можете подсмотреть за признаками того, что происходит внутри. Есть там процессы, которые научная теория говорит, и есть сознательные процессы, и вы можете это распространять, соответственно, на
29: Другие объекты, как быть, например, с новорождённым младенцем, вы же не можете его спросить на этом основании, что вы скажете, что он не обладает сознанием или что это terra incognita?
30: С младенцем просто потому, что он обладает таким же устройством, как мы во взрослом состоянии, мы экстраполяции. Так же, как я могу сказать, что, наверное, вы обладаете сознанием. Я могу предположить это в отношении младенца.
31: Но это не так просто например, ещё до начала восьмидесятых годов в ряде случаев в соединённых штатах операции на новорождённых младенцах проводились без наркоза.
32: Ужас, потому что предполагалось, что они не ощущают боли, и здесь возникает вопрос а когда возникает сознание доязыковое у младенца в момент рождения а если недоношенные дети рождаются?
33: Вы смотрите, куда я веду. Я веду к другим сознаниям. Мы более менее с вами можем говорить, что я обладаю сознанием, экстраполируя на это. Я думаю, что вы обладаете сознанием. Другие люди в студии обладают сознанием. Дальше мы
34: Идём даже по ступенькам развития гомосапиенса, и у нас возникают вопросы, мы отклоняемся в сторону, к животным и
35: На основании того, что у моей собаки мозг очень похож на мой, я могу также предположить, что у неё есть сознание. Кроме того, по каким-то поведенческим признакам, что не очень надёжно, а как быть с осьминогом, у которого
36: Абсолютно другая нервная система, и у него 8, по сути дела, мозгов. Каждое щупальце она может учиться и автономно делать разные, разные вещи. Есть центральная, довольно сложная нервная система, у неё там
37: Сотни миллионов клеток. Смотрите, ну и тогда я вас, я слышу вас, как вы как раз говорите, что вот эти вещи, это сознание или что-то очень на него похожее, развились эволюционно, потому что нужно было воспринимать что-то в среде.
38: Отклики и так далее. Тогда искусственный интеллект это вообще не сознание, потому что он не возник эволюционно в среде, ему не нужно отклики, ему не нужно выживать, у него нет переживаний по поводу среды, это нечто совершенно другое. И вдруг оказывается о чудо.
39: Что мы с ним разговариваем и не понимаем, что разговариваем с машиной. Это другая вещь. То, что мы с ним разговариваем и не понимаем, что разговариваем с машиной, не должно вести к
40: Заключением, что там внутри кто-то есть все-таки для того, чтобы понять, есть кто-то внутри или нет, мы должны иметь теорию механизмов внутреннего устройства сознания и заглянув в машину.
41: Несмотря на то, что в ней нет биологических клеток, нет жидкостей и химических веществ, нет генома в этих клеток, нет каких-то химических медиаторов.
42: Сигналов между ними, но операционально она некоторые вещи делает, имеет некоторую архитектуру задать вопрос, те фундаментальные свойства алгоритмические, операциональные, которые есть
43: Сознания и которые могут не зависеть от воплощения в конкретном субстрате. Там появляются или нет. Мы можем их подсмотреть. Вот мы к чему должны прийти. Позвольте прояснить противоречие. Я услышал от вас
44: Что мы хотели бы там, в других животных, видеть процессы в мозге, как вы говорите, подсмотреть, видеть процессы в мозге, про которые мы знаем, считаем, установили, что они являют, отражают наличие сознания, а с
45: С другой стороны, сейчас вы говорите о сознании как о какой-то вещи, которая вырастает удивительным образом, независимо от носителя. Вот он, наш электрохимический носитель, вот уж как сложился у собачек, в общем, похожий, ну, прямо скажем, у осьминогов другой, но
46: Все-таки не настолько отличающийся, как у вот этих вот больших языковых моделей, где матрицы перемножают, и вы готовы употреблять слово сознание для тех, для других, для всех, включая искусственный, если там
47: Есть этот специфический процесс, то мы обязаны его называть таким образом, значит, мы должны понять, в чем специфика этого процесса. Это раз. 2, я сейчас должен сказать, что
48: Возможно, противоречие, которое вы нашли, оно не такое уж противоречие. Если вы возьмёте и посмотрите на все эти системы эволюционировавшие.
49: И в ситуациях столкновения с какими-то задачами с точки зрения процессов обучения, которые мы несколько минут назад обсуждали, то у вас есть некоторые очень
50: Оказывающие сходства, намекающие на нечто. У вас есть очень сложная система, которая представляет собой сеть. Эта сеть глубокая, эта сеть глубокая в том смысле, что
51: Связь нейронов в элементов ячеек я не буду использовать даже слово биологическое нейрон, ячеек памяти, которые находятся в этой сети, в глубине.
52: Очень далеко от примитивов внешней среды и каких-то поверхностей. Они глубинная переработка идёт, да, сигналов совершенно верно, но не просто глубинная переработка сигналов, а то, что в этих Глубоких
53: Слоях нервной сети. Каждая клетка получает тысячекратно синтезированный из многих кусочков внешнего мира и каких-то настроек сети сигнал, который потом на
54: Следующем слое ещё обогатился, ещё и ещё и из него начинают вдруг на каких-то слоях вытекать очень абстрактные отношения этой системы.
55: С поступающим к ней сигналом. Это 2 свойство и 3, что эта система прошла и мы с вами, и ребёнок, и осьминог, и птицы.
56: Прошла огромное количество циклов обучения, она училась, училась, училась взаимодействия с окружающей средой, а то, что обучение современных больших языковых моделей требует фантасти.
57: Количества электричества, а обучение младенца требует весьма скромного питания и поддержания жизнедеятельности. Это вас не смущает, что это очень? Это вы не воспринимаете их как очень разный процесс, это просто в силу разности устройства.
58: Или в силу разности чего столь разные обучения, мы этого до конца не знаем. Это разные процессы, безусловно, по просто параметрам, которые вы перечислили энергии, количество тактов, обучения и так далее и так далее.
59: Вопрос, насколько это существенно, насколько вы можете прийти к 1 и тому же результату в природе разными путями? Внешне, если вы будете смотреть на эту дорогу, которая ведёт эту тропинку.
60: И другую тропинку, нижнюю там и верхнюю тропу они совершенно по разному выглядят, но закончатся в 1 месте. Это не перестаёт удивлять, это вообще то недавнее открытие, оно совершенно потрясающее, не перестаёт удивлять, я скажу 2 вещи.
61: Я не считаю, что в существующих системах присутствует сознание. Это раз. Я не адепт идеи, что
62: Но скоро появится. Но я не могу исключить этого. Это раз. 2, что я вижу в этом огромные сложности. Если это появится, то есть я бы этой дорогой, безусловно.
63: Ну, это отдельный разговор, трогать это или нет, и что за этим последует теперь про не перестаёт удивлять. Я где-то в начале двухтысячных годов стал наблюдать в искусственных нейронных сетях пионер.
64: Разработки искусственных нейронных сетей, которые не были так эффективны и популярны в то время, но в некоторых местах, например, в институте нейронаук, которому
65: Руководил нобелевский лауреат джеральд Эдельман. Они создавали специальные устройства на нейросетях, которые назывались Мозго, основанные брейн Бейс девайсес, которые
66: Называли разными поколениями, у них было имя дарвин, дарвин 1, дарвин 2, дарвин 3, даннер 4, потому что они моделировали в этой искусственной нейронной сети как робот, уже сразу они были воплощены.
67: У него было тело, выпущенный в какое-то пространство, решает задачи по распознаванию объектов, щупая их или нахождению чего-то в пространстве, и в 2005 2006 году появилось.
68: Статья, которая привлекла моё внимание очень сильно они показали, что у этих искусственных нейронных сетях, находящихся в роботе, осваивающем пространство.
69: Появляются нейроны, специализированные относительно мест пространства. То есть, поучившись ездить и собирать кубики в мозге искусственном, у этого робота появились нейроны, которые
70: Поразительно похожи по своим свойствам, да, на так называемые нейроны места, обнаруженные в мозге у животных и человека, что был нобелевской премией, что было нобелевской премией 2014 года. Совершенно верно. Почему?
71: И я начал думать о том, что нам необходимы инструменты, и долго очень ходил с этой идеей, предлагая в разных местах.
72: Создать некий прозрачную искусственные нейронные сети, чтобы видеть, что там происходит теми же инструментами, которые мы используем как нейробиологи, когда пытаемся увидеть, что происходит внутри мозга, когда он учится, и появляются
73: Эти свойства так я и не нашёл единомышленников в этом пока не появились искусственные нейронные сети глубокого обучения уже в 2000, там 10 шест.
74: Пятнадцатые годы и возникла проблема, что мы не знаем, что там происходит, они что-то делают и нам нужны эти прозрачные мозги, их прозрачный искусственный интеллект. Это получило название интерпретируемости и понимае,
75: Таких искусственных народных сетей, что там происходит, удивительного?
76: Илья Суцкевер ученик джеффри хинтона, получившего нобелевскую премию, только что, безусловно, сверхталантливый исследователь.
77: И визионер, который у хинтона вместе с кричевским создал 1 сеть глубокого обучения. Алекс, нет, которая научилась распознавать объекты изобра.
78: Гораздо лучше, чем экспертные системы, перейдя в компанию open ai в 2017 где-то году.
79: Начав работать с первыми трансформерами, архитектурами Глубоких нейронных сетей с языковыми языковыми моделями, обнаружил вещь, на которую он обратил.
80: Внимание, точно так же, как я обратил внимание на 2006, в 2006 году они учили 1 из таких сетей на большом массиве данных рецензий на различные
81: Кинофильмы, статьи в журналах, театральные постановки и так далее, и так далее. И научив это большим количеством примеров.
82: Начали смотреть, что происходит внутри сети, и для себя совершенно неожиданно открыли нейрон сентимента, нейрон переживаний, чувственности. 1 из нейронов в
83: Глубоких слоях именно этой сети, который активировался функцией которого фичер, было узнавать настроение текста, рецензии там, где оно негатив.
84: Он работал 1 образом, где сильно позитивное, другим образом, естественно, не так ли устроены, в каком смысле наши эмоции? Да, да. Так. И поэтому они начали
85: Делать системы визуализации того, что происходит внутри таких сетей. Он забеспокоился в этом отношении. Опен ай создал такой микроскоп, который похож на то,
86: Что мне хотелось сделать, который позволял узнать для разных нейронов на разных слоях сложных сетей, на что эти нейроны после обучения больше всего реагируют, что они узнают, что им больше всего нравится.
87: Это называется методика максимизации активации. Смысл такой, что сети предъявляют, регистрируют степень активации клетки, а предъявляют массу всего, всего, всего, и из этого делают синтетическое изображение, которое
88: Больше всего возбуждает нейрон. Вот он просто кричит от перевозбуждения. И начали смотреть, что это за изображение. Оказалось, что там есть нейроны, которые узнают, учили без
89: Условно, не тренируя на специальные свойства, есть нейроны, которые распознают цвета неважно, в чем они, нейроны цветов, есть нейроны, которые распознают лица различные.
90: Исторических персонажей гитлера, трампа, кеннеди, там и так далее. Есть нейроны, которые распознают, то есть больше всего активируются на лица различных актёров. Есть нейроны, которые распозна
91: Внимание, выражение эмоций у человеческих лиц, то есть грусть, гнев, страх и так далее, и так далее. Вы говорите, этому, не учили их. Вы говорите удивительную вещь, что учили
92: Совершенно другому. А возникают тоже, что мы, честно говоря, относили за счёт эволюционного развития. Я должен из ваших слов сделать какой-то совершенно необычайный вывод. Может быть, что поддержите или
93: Опровергните меня, что вот эти вот признаки сознания, которые мы в себе видим, есть не столько есть, конечно, результат эволюции, но есть, что ли, закономерность, которая возникает в сложных системах, когда им нужно
94: Просто процессировать информацию независимо от архитектуры этих сетей. Это вот теперь это открытый вопрос. Если мы это видим, если мы видим, что у сложных сетей позиция
95: Вера, которая сильно отличала его от всех нас в те годы, в конце 2/1010 лет, была следующей его всегда интересовали 2 вещи с детства, ну, так он рассказывал.
96: Искусственный интеллект и сознание, и его позиция была очень
97: Прямолинейный, что сознание мы в искусственных нейронных сетях можем получить просто увеличением сложности сети и количества параметров.
98: С 1 стороны, и 2 массивом обучающей выборки, то есть объёмом обучения, это возникнет само собой и действительно в искусственном.
99: Интеллекте последних 2 3 лет, 2, может быть, лет. Очень остро стоит проблема. Так называемая проблема эмердженции возникновения чем больше
100: Сложность сети. Чем больше параметров, тем больше возникает. Необычных свойств, на которых сеть не учили, она это знает, мы их не учили. Вдруг выясняется, что она это знает, она это знает и пользуется этим. Даже она этим пользуется. Ну да, конечно.
101: Вы её можете об этом спрашивать, она это активно использует. И вопрос стоит так прав. Суцкевер в том, что на
102: Сложность. Мы это получим? Или там, внутри, по прежнему никого нет. Вы в начале сказали, что вы пессимистичны относительно того, что там, в этих самых сложных Глубоких сетях, что там будет сознание? Я
103: Почти так сказал. Я же исследователь. Я могу иметь какие-то оценочные вещи, но на самом деле я открыт к любым возможностям вероятности их. Я мо.
104: Могу оценивать так, как вы сказали, пока моё ощущение я ввёл для этого ощущение или вероятности такого сценария специальный.
105: Термин холодная эмердженция холодная эмердженция да, я не исключаю, что-то, что мы видим, и удивляет нас в такой степени, то есть появление субъект.
106: Активно, то есть для этой модели специализированных когнитивных элементов внутри, которые отражают то, что она знает массу свойств, на которые её не обучали, что это пример
107: Холодная эмердженция, что эти свойства возникают, но она ничего не чувствует. А если возвращаемся к определению сознания, если внутри никого нет, нет некого, я, которое чувствует и
108: Испытывает эти вещи, которые мы называем эмоциональными выражениями лиц, и они не резонируют у неё как эмоциональное, холодно распознаются как
109: Только которые используются дальше, то мы не решили проблему сознания. То есть мы не достигли этого. То есть может имитировать массу вещей, но ничего не чувствовать. Вы предлагаете, она zombie, вы вот
110: Холодные верженцы это деликатное название для zombie вы фактически предлагаете разделить 2 вещи, оставить за нами то, что мы в каком-то смысле, как мы сами думаем, по настоящему чувствуем, и кошечки, наверное, тоже по настоящему чувствуют.
111: Осьминоги не знаю, а вот все остальное умение за ними признать, за искусственными нейронными сетями, но при этом не считать, что в них есть сознание, потому что сознание это все-таки что то ещё поверх возможности поддерживать беседу на любую
112: Тему и знать то, чему не обучали, делать неожиданные выводы, оценивать эмоции и так далее. Совершенно верно. Единственное слова я предлагаю здесь надо поставить в скобки, потому что совершенно неважно, что я
113: Предлагаю, прогресс движется другими категориями, никто не будет слушать, что предлагают отдельные люди, есть люди, которые действительно говорят давайте не будем этого делать.
114: Но они реально понимают, что если человек почувствовал возможность достижения чего-то и учёные почувствовали возможность разработки чего-то, то.
115: Коллективно собраться и сказать, что мы этим не будем заниматься, особенно если это приносит большие деньги и может быть связано с крупными геополитическими вещами. Это не ре.
116: Ну да, я считаю, что нам не надо наступить на эти грабли, потому что если вы представите, что теперь это не зомби, а внутри кто-то есть. Угу. То вы столкн.
117: Из розетки нельзя вытащить с таким набором этических проблем, из которых я выхода не вижу в заключение все-таки из за того, насколько близко мы довольно.
118: Неожиданно подошли к почти сознанию, к функциям, к воспроизведению, к имитации наших функций на вот этих вот железках, что отсюда следует для традиционного изучения нашего мозга, нашего сознания.
119: Нашего, людского. Изменятся ли методы? Перенесём ли мы оттуда что-то в наше лучшее понимание того, как, как наше сознание устроено как наш для меня, да, для меня, да, если предыдущие
120: Там с 2005, там по 2020 год, 15 лет, я думал о том, как мы можем перенести то, что я знаю в области нейрофизиологии, нейробиологии, для того, чтобы понять, что там, окей, то теперь
121: Меня очень сильно интересует вопрос, зная и исследуя, что происходит в этих искусственных нейронных сетях, не является ли это способом понять, что
122: У нас внутри и вопрос, который меня сейчас больше всего интересует, все-таки, что же нас отличает, если там никого нет, а они все это имеют?
123: Они имеют нейроны с такими же свойствами. Такой же набор, Вселенную признаков и параметров. Недавно вышла очень, вы говорили, грустный текс.
124: Весёлый текст и так далее. Да, да, да. Ну, более того, вот есть такие разреженные автокодировщики, которые за последний год с помощью них удалось опреде,
125: Делить те свойства, которые, которыми обладают глубокие нейронные сети, то есть отдельные свойства, которые при обучении у них возникают объём свойств и
126: Недавней вот октябрьской работе Макса тегмарка из эмайти и его команды, они посмотрели, а как организована геометрия этого пространства свойств, то есть как организована Вселенная. И оказалось, что они посмотрели на микромасштабе, на
127: Среднем масштабе и макромасштабе всей Вселенной. Оказалось, что это жутко напоминает многие свойства мозга, что на микромасштабе там есть. Они называют это кристалликами. Маленькие свойства, которые
128: Похожи, которые геометрически организованы как грани с некоторыми параметрами, вместе определяющими некоторую категорию. В среднем масштабе. Оказалось, что эти категории в этой
129: Вселенной свойств у модели организованы не случайно, а анатомическими структурами, долями, как они их называют, математика, например, лежит в 1 области физика.
130: Другой язык, в 3 они группируются и связываются, эти кристаллики образуют эти доли. А в целом вся эта галактика, как они называют этих свойств, параметров.
131: Она организована не случайно, как можно было бы предполагать, что разные свойства в разных точках и местах, а имеет свою тоже геометрию, архитектуру, то есть в результате, казалось бы, такого приме.
132: Тивного тренировки нейронных сетей на 1 формируются сложнейшие структуры внутри них, которые мы только начинаем изучать, и вопрос подскажет ли
133: Это нам что-то о том, как они формируются у нас и что нас все-таки отличает принципиально, что чего и тем не менее, да чего им не хватает.
134: Мой ответ, что у них пока нет желаний, замечательное место, чтобы пожелать вам прогресса, желания разобраться в этом не ослабевающего, а всем нашим зрителям.
135: Интереса к этой чрезвычайно важной теме, в том числе важной для того, чтобы узнать, каковы мы сами, как мы думаем, как мы чувствуем. Большое спасибо за ваш интересный рассказ. Спасибо большое. Всего хорошего. До свидания.