0: Сегодня не совсем обычный выпуск Вселенной, плюс мы поговорим на важную тему как искусственный интеллект уже изменил нашу жизнь и как изменит в будущем. А необычность в том, что разговор этот состоялся не в нашем привычном.
1: Уютном космическом купе. Мы поговорили про нейросети. Их будущее в зале со зрителями. Пожалуйста, поставьте лайк. Это помогает каналу. И смотрите, Алексей, да ты слышал такую
2: Раз самые продвинутые технологии неотличимы от магии, я слышал, никогда её до конца не понимал, что тут непонятно. Ну, в наше время какая самая продвинутая технология самая. По моему, это искусственный интеллект. Искусственны.
3: В наше время самый продвинутый искусственный интеллект, конечно. А ты знаешь, знаешь про неё? А ты знаешь, что сегодня мы сможем узнать, насколько там технологии и насколько там магии, потому что с нами Александр Крайнов.
4: Директор по развитию внимания технологий искусственного интеллекта в яндексе, в яндексе, да, технологии искусственного интеллекта. Я как-то не уверен, что мы вы что я выйду отсюда понимая в чем
5: Состоят технологии искусственного интеллекта. Можно я сразу спрошу вещь, которая для меня. Подумал, что надо мне через запятую добавить и магии. Прекрасно. Смотрите, вот отлично. Действительно про магию можно я так спрошу вещь, которая меня
6: Это 1 из аспектов, который меня волнует. Они когда думают, потребляют адическое количество электричества, а мы люди. Нет, это будет и дальше. Вот так. Это 2 способа, извините за выражение, думать. Или мы
7: Когда-нибудь сольёмся, и то, что они сейчас, это их несовершенство или, наоборот, в этом их мощь и будущее превосходство перед людьми. Или поправьте меня. У меня иллюзия, что мы тратим гораздо меньше энергии, но мне правда кажется, что я
8: Да, слышу счета за электроэнергию, которые искусственный интеллект берут. Ну, чтоб я так жил, мы, правда, тратим гораздо меньше энергии, но мне здесь немножко не нравится слово такое, они как будто там что-то нечто такое же, как мы, только другое.
9: Только ническое. Ну да, мы с этим как-то конкурируем. Нет, это вот это некоторое, оно, что ли, вот есть инструмент, который мы создали, и этот инструмент сейчас потребляет невероятное количество энергии, правда, потребляет очень много, потому
10: То, что мы создали некую логику, похожую на то, как как это устроено у биологических существ, в том числе и у нас, у людей, но аппаратную часть мы воспроизвести не можем, и то, как мы физически
11: Решаем эту задачу. Наверное, это не самый оптимальный способ, друзья. Я вот здесь сижу в нашем купе и вижу несколько предметов, которые когда-то были аналогами искусственного интеллекта, какие помогали нам работать.
12: Головой, а вот прямо за тобой карточный каталог это очень полезная вещь. В 19 1 половине 20 века рядом с нами 2 компьютера из первых поколений. Коммодор и макинтош это ведь аналоги искусственного интеллекта.
13: Добавлял нам скорость мышления. Я думаю, что нет, как Александр, а вы думаете, что это искусственно? Они потребляли, стали говорить об искусственном интеллекте тогда, когда он стал удивлять нас тем, что мы в него вроде бы не закладывали. Согласитесь, с этим я
14: Знаете, ещё я думаю, что искусственный интеллект это продолжение этой линии естественной. И эту линию я вижу такой, что вот 1 шаг, это появление языка, это некий способ передачи информации, пока ещё не хранения. Следу.
15: Шаг это появление письменности, информация стала храниться, причём храниться отдельно от человека. Это такой важный момент, потому что, ну, когда-то, видимо, давно я не застал, но когда ещё не было никакой письменности, вот откуда такое уважение к мудрости.
16: Потому что вот он знает, он этот опыт накопил, а больше его нигде нету, его нет в записанном виде. Потом появляется эта мудрость в виде записей. Дальше появляется, в какой-то момент появляются книги, и что важно, что книги это способ.
17: Информацию распространить, пока оно в 1 месте записано, доступа никто не имеет. Появление персональных компьютеров и интернета. Мне очень сложно разделять эти 2 понятия, потому что 1 без другого довольно бессмысленное. Это абсолютно новый
18: Виток в информации у неё появилось некоторое количество совершенно новых свойств. Во первых, её стало легко передавать. Вот до нас очень много не дошло информации про быт нормальных людей, потому что он не записывался записать. Это было очень дорого. Ну, записывали чего
19: Что там? Вот кто то какого-то короля убили, отравили, нового архиепископа выбрали, это было важно. В то время записали, а про быт людей не записывалось. Сейчас перезаписать информацию передать стало очень легко, и она вдруг ещё стала с интернетом, она стала проактивной.
20: То есть ты не спрашивал, а тебе рекомендательные системы че то принесли, какой-то контент, вот показали, рассказали. И искусственный интеллект это вот этот следующий виток, это то, что следующий способ обработки, хранения информации
21: В нём появилось новое свойство, такое, которого не было в предыдущих. Это создание информации. Вот, вот для меня вот здесь проходит граница и магия, о которой Владимир говорит. Для меня это то, каким образом они её создают, каким вы против слова, они
22: Я уже понял, но мне так естественно думать, каким образом они думают, подожди, думают ли они, как мы, Алексей. Мы учёные. Нам надо доказать этот термин. Они её создают или только как из Кубиков лего, уже готовой информации комбинируют, что
23: Новое создать. Это совсем другая работа. Это фантазия нужна. Это намерение что-то сделать. А мы создаём информацию. Конечно, конечно, мы пишем стихи, мы, мы пишем стихи, я уже давно не
24: Писал стихи, но помню, что вдохновение иногда приходит приходит ли вдохновение к компьютеру, когда мы создаём что-то неважно стихии, музыку, там все что угодно, мы же, мы переписываем ту информацию.
25: Которую мы видели и получали. Мы, может, её как-то агрегируем, но мы не генерируем ничего сильно нового, ничего себе новизна, которую мы порождаем, это комбинация из того, что мы видели или слышали клуб Пушкин, это комбинация из известных слов.
26: Если, но энтропия совершенно другая, попробуйте-ка создать такую комбинацию. Если мы берём, у нас есть такая часть, как взаимодействие с физическим миром. Если мы вот в бумаге описываем наше взаимодействие с физическим миром, то мы
27: Делаем то, что искусственный интеллект пока не может, потому что его взаимодействие с миром ограничено. Но вот возьмём на ни вкусов, ни запахов, ничего такого, ни тактильной информации у него нет в принципе, но человек, который пишет какой-то истории,
28: Произведение про то, что там произошло 1000 лет назад. Он откуда эта информация? Источники какие-то, да, из источников, да, и галлюционирует как искусственный интеллект дороге и называется художественное произведени.
29: Абсолютно. Мы в этом плане ничем не отличаемся. Хорошо, мы не, не, не, а можно, извините, ради Бога, прямо хорошо. Вот прям про вас хочу спросить. Не про физический мир, а вот вы, предположим, условный. Вы руководите или крупной корпорацией, или создаёте стартап, который
30: Вырастает и eto круче, чем физический мир. И вы точно создаёте новое, потому что вы добива, и предположим, предположим, чего я всячески желаю вы добиваетесь больших успехов, это значит вы сделали что-то, что не лежало на поверхности, что
31: Является новым. И вот здесь люди вот от такого, от искусственного интеллекта мы хотим ли и способен ли он такое? Изобретёт ли он колесо, которого нет в природе? Я думаю, я думаю, да
32: Да, я думаю, что вполне изобретёт. Мне кажется, что технически искусственный интеллект способен на такое же количество новизны, на которое способен человек, есть 2 таких 3, я бы сказал, существенных ограничений.
33: 1, это пока отсутствие вот этого взаимодействия с миром, ну, модели мира, модели мира нету, да? Ну, модель мира, она строится в результате этого взаимодействия. Модель мира, отдельный термин. Можем прям о нём долго говорить, но он не может пощупать, понюхать пока. Угу. Ну, какие-то вот, что-то 1.
34: Уже появляются роборуки, но этого пока довольно мало, не слишком много. Следующий важный момент это отсутствие. То есть вопрос целеполагания, то есть искусственный интеллект сейчас весь выполняет стро,
35: Поставленную перед ним задачу. У неё нет никакого внутреннего целеполагания, и поэтому способность создать что-то новое, она ограничена заданной областью всегда. А почему он подхалимничает? Потому что он был обучен, на текстах, которых было
36: Много подхалимничание, или он обучается на какие-то, на оценки людей же и людям больше нравится лесть, чем нежели грубость. Хотя не всегда так. Иногда искусственный интеллект скатывается при определённых условиях абсолютное хамство, если опять же его обучать на
37: Пользователей, то людям иногда нравится, наоборот, какая-то грубость и дерзость. Вот если ориентироваться только на это, он может стать таким грубым и дерзким. Ну и я не сказал 3, 3 момент. Мы вот когда говорят, что люди создают что-то новое, пишут великие произведении,
38: Сколько из нас? Ну, единицы нас миллиарды, а порождают что-то единицы. Наша, наша система эволюции такая, что у нас есть много экземпляров, сколько-то очень немного получилось удачными. Искусственный интеллект, если мы
39: Возьмём современные большие модели, которые мы начинаем справедливо или нет, сравнивать с человеком. Это какие-то штуки. Ну ладно, десятки. Вероятность, что из них что-то хорошее получится сильно меньше, потому что экземпляров меньше, то есть
40: Вы считаете, что между ними сейчас идёт что-то типа естественного отбора? Хотя мне то кажется, что они все эволюционируют примерно одно и то же. Следующая версия такого-то специально не буду называть. Станет лучше, чем предыдущая версия вот сякого. И потом они
41: Снова друг друга догоняют и примерно соревнуются на 1 и том же поле, но 1 чуть лучше пишет прозу, прозу, другой чуть лучше программирует, да, 3 чуть лучше рисует, но, в общем, одно и то же нет, то, естественно, есть, и он происходит.
42: И он такой же, как отбор у подстаканника или у чайника чайник тоже прошёл естественный отбор. Я уверен, что в истории человечества было великое разнообразие сосудов, из которых наливали чай, а выжили вот эти. Почему заметил?
43: В разных странах немножко разные, а здесь, а здесь не тот кейс. У человека. То есть выживали те экземпляры, которые выполняли поставленную задачу. Если мы говорим про искусственный интеллект, бесконечное количество архитектуры и моделей вообще нигде не остались, может быть, в архива.
44: Никак не используется, не наследуется, потому что они хуже решали поставленную задачу. Искусственный интеллект эволюционирует, в том числе таким образом, что отбираются экземпляры в кавычках, экземпляры и решения, которые лучше
45: Решает поставленную задачу, то есть цель эволюции искусственного интеллекта. Лучше решать задачу, которую мы им ставим, эволюционируем его мы, а не он сам. Да, а можете прокомментировать этот фантастический
46: Фантастическую возможность, что он начнёт эволюционировать сам. И вот тогда-то станет по настоящему думать, станет умнее нас и так далее. Но это невозможно. Ну, такие примеры есть, да, просто это все равно, ну, например, искусственный интеллект, который научился играть в го, в том числе и та,
47: Версия альфа zero, который учился играть с нуля, то есть не на человеческих партиях, а играет сам с собой, и программа играет в го лучше человека она в этом месте сэволюционировало, но в рамках поставленной задачи чтоб она, чтоб он свой код писал.
48: Можно, можно, можно, но тогда это он будет писать код и все. И больше ничего свой делать. Его код себя писать тоже вполне возможно, тоже вполне. Ну, подождите. Не себя, не себя. Следующее поколение следующее.
49: Поколение себя. Ну давайте так, теоретически это возможно. Знаете, как говорят, что там теоретически теория и практика одно и то же, но на практике между ними большая разница. Вот на практике это не очень работает. То есть, если сделать такой искусственный интеллект,
50: Который пишет сам себя, но у него ничего не получится, он сломается, но не потому, что это невозможно в принципе, а это потому, что так получается, что даже когда люди участвуют в этом процессе, то у них тоже далеко не всегда не получается. Ну, задача очень сложная, но в каком какую-то маленькую такую
51: Конструкцию собрать можно, где искусственный интеллект сам себя меняет и улучшается.
52: В этом выпуске мы много говорим про то, как искусственный интеллект меняет мир. И здесь возникает логический вопрос а как попасть в эту отрасль? Многим хочется не просто у
53: Учиться овладевать знаниями на практике, создавать и обучать нейросети, которые будут помогать миллионам пользователей. Несколько таких образовательных проектов есть сейчас у яндекса, например, начинающие разработчики смогут
54: Верить свои знания на практике в соревнованиях яндекс эмэль челлендж принять участие могут ученики одиннадцатых классов, студенты и недавние выпускники им предстоит решать задачи из разных сфер искусственного интеллекта от классического машинного обучи.
55: До оптимизации нейросетей и работы с фундаментальными моделями финал соревнования пройдёт 25 июня на young korn масштабном фестивале про технологии и старт карьеры в it, который в этом году состоится уже в 3.
56: На фестивале анонсы от руководителей сервисов яндекса доклады про устройство технологий изнутри и open air зоны с демонстрацией физических продуктов компании янг кон ждёт в гости 10000 человек, кстати.
57: Оставить заявку на участие в фестивале можно уже сейчас переходите на сайт стажировок в яндексе и узнайте больше про все доступные программы для старта карьеры в it ссылка в описании.
58: А у искусственного интеллекта есть какие-то границы? Вот у естественного есть границы по скорости мысли, по объёму информации, по количеству записанных там битов.
59: В мозгах, например, я могу играть в шахматы на доске 8 на 8, но я не буду в состоянии играть на доске 1000 на 1000 клеток, а он сможет, да, или я могу запомнить, там 3, 4 десятка стихотворений, а он 1000000. Может, это значит, что он без
60: Граничен, что у него нет формальных ограничений в развитии, и он, безусловно, нас будет превосходить. Это отличный вопрос и короткий ответ на это. Да, да, я бы так сказал, что текущий искусственный интеллект
61: Он ограничен, ну какими-то мощностями, количеством данных, которые есть, есть, в общем, масса факторов, которые его ограничивают. Но все эти факторы изменяемые, мы можем собрать больше данных, сделать больше вычислительных мощностей. В общем, много чего сделать, если хвати
62: Электричество, как мы помним, электричество тоже же, ну, как бы мы, люди, вполне понимаем, как увеличить количество добываемого электричества. Это не всегда просто не всегда легко получается, но в целом возможно увеличить, радикально увеличить как-то мыслительные по
63: Способности человека непонятно как. Непонятно, непонятно. То есть мы не можем, может быть, просто такой способ не нашли, но кажется, что есть некие аппаратные ограничения. Мы прекрасны с точки зрения нашего устройства, но у нас есть некоторые
64: Ограничения. Вот они такие, вот у нас такое примерно количество нейронов и связей и больше не будет. У нас есть такой промежуток времени жизни, во время которого мы можем обучаться и больше не будет. А у искусственного интеллекта кажется, что эти
65: Границ нету. Это не значит, что он прямо сейчас обыгрывает или обыграет там нас целиком и полностью во всех задачах в ближайшие 10 лет. Но у него ограничений не видно. То есть. А поделитесь тогда вашим видением. Вот, по видимому, у вас есть представление о том,
66: Как бы очень точно сейчас это выразили, что мы это такая, мы прекрасные во многом. Но это штука какая. Вот такой более широкий поток, который нас, не знаю, настигает, накроет с головой, превзойдёт, будет думать лучше нас.
67: Тогда станем, тогда станем мы, что тогда будет с цивилизацией в самых общих чертах, если у вас есть такое ощущение, а я услышал вас, что оно у вас есть, но тут много интересных вопросов. Ну, 1, это не обязательно. Вообще то страшно. То есть вот
68: Какое время человек может пробежать стометровку вроде как все и быстрее, и быстрее, но вряд ли из 8 секунд выбежит. Ну, сильно сомневаемся. А автомобиль, ну, там за 2 секунды выезжать. Не знаю, может быть, может быть, можно сделать, чтоб быстрее 1 секунды.
69: Выйдет. Ну то есть мы у устройства, мы таких ограничений не видим. Дальше там просто вопрос целесообразности. Значит ли это, что автомобили нас целиком вытеснят? Нет, искусственный интеллект, который у него нету мотивации нас вытеснять, это все равно некий они вытеснят.
70: Нас уже, но не бегают туда, куда может приехать автомобиль из каких-то областей жизни. Автомобиль нас вытеснил, и калькулятор тоже вытеснил все так из многих других областей, из каких-то, из не то, что на
71: Вытеснят какие-то области жизни, мы с удовольствием отдадим, да, потому что надо сказать, что или без удовольствия нам нигде ничего, ничто не запрещает. Люди работают в кузне и там, не знаю, копают лопатой на поле многие, потому что им это в кайф.
72: Вот не потому, что в этом есть какая-то необходимость. Нам это делать не запрещается, пожалуйста, просто исчезает обязательность этим заниматься от того, что компьютер стал играть лучше человека в голе в шахматы люди не Переста.
73: Стали играть в голе шахматы. Может быть, поменялась мотивация. То есть, если ты раньше хотел там, не знаю, сыграть лучшую партию в мире, не найти лучший ход в мире, вообще возможный в этой ситуации. Сейчас ты понимаешь, что эта машина сделает за тебя. Ты можешь сделать лучший ход из всех.
74: Людей. Вот у тебя теперь чуть чуть мотивация поменялась. Смотрите, ну есть игра, это 1 область деятельности, есть копать грядку для собственного удовольствия, а есть система принятия решений, если искусственному интеллекту будут поручены
75: Принятие системных решений, затрагивающих всех людей. У нас есть что то какое-то у меня, может быть у многих тоже внутреннее напряжение какое-то естественное, эволюционное, что ли я не знаю, чем оно вызвано, когда кто-то
76: Совсем по другому устроенный думает ну то ли как я, то ли по другому, чем я в чем-то лучше, в чем-то хуже, и через какое-то время за меня будет принимать решение, руководствуясь чем-то.
77: Внутри себя. Зачем я не могу проследить в автомобиле я могу, в принципе, разобраться и, в принципе, я понимаю, ну там за какое-то время могу выучить, где бензин, где воздух, где карбюратор, где коробка передач и все. А здесь я не знаю, как все это устроено и никто не знает.
78: И создатели не знают. Ну, мне кажется, во первых, и с автомобилем некоторая иллюзия, что мы прям очень хорошо. Каждый из нас сейчас те, кто ими пользуется, понимают, как работают все системы, они во многом электронные, которые есть в автомобиле. Кроме этого, я хочу сказать, что меня гораздо больше трево.
79: Может, что очень важные для мира и человечества решения сейчас люди принимают, как бы не могу сказать, что я чувствую себя в спокойствии, когда отдельные люди принимают какие-то очень большие значимые решения. Угу. А что касается, все-таки возвращаясь к технологии, что
80: Мы не знаем, как они работают, мы не знаем, как они работают, но мы знаем, какая цель и к чему, к чему они стремятся. Это мы знаем довольно точно. Я здесь хочу, к чему они стремятся? К решению поставленной задачи. Я вот хочу сказать,
81: Смотрите, давайте слово, ради Бога, простите, а слово стремятся вообще про них можно употреблять? Про вы меня поправили, что не надо про них говорить. Они. А я хочу уточнить, у вас это корректно или это переносим человеческое? На них мы переносим человеческое, но
82: Думаю, что в данном случае это допустимо, потому что есть всегда, когда создаётся модель искусственного интеллекта, у неё есть всегда чётко определённая цель и все, что у неё есть, это стремление выполнения этой цели. Цель это понятная, простая матема.
83: Тически описанная всегда.
84: При этом я не встречал случая, чтобы он сказал, не, не знаю, а человек, я могу такое услышать? Я спрашиваю человека. Он говорит, не знаю, ну не знаю, и все, и отвали от меня, а искусственный интеллект вместо этого начнёт.
85: Думывать, галлюцинировать и нести что-то полу полудачной, полу неудачное. Здесь есть большое отличие от человека и отличие не очень большое, и, во первых, это преодолимо сейчас искусственный интелек.
86: Учится говорить, я не знаю просто, откуда это появилось. Искусственный интеллект учился отвечать на вопросы, так как на них отвечают в интернете. Ну, где-то в интернете. Люди же редко отвечают, я не знаю. Ну, если человек не знает, он не пойдёт отвечать, верно? А в основном где-то че то прочитали, неважно.
87: Значит, не значит, что высказался. Вот искусственный интеллект был обучен изначально таким же образом. И дальше это вот, грубо говоря, если не предпринимаешь каких-то дополнительных усилий, он обучается так отвечать на любой вопрос. Другое дело, что его можно долго и тщательно
88: У нас довольно много времени на это тратится, дообучать, отвечать не просто так, как на это отвечают в интернете, отвечать полезно, и ответ я не знаю, тоже может быть вполне полезен, но это требует отдельных дополнительных усилий. Забавно. Да, у людей, наоборот, усилий.
89: Требует напрячь, а проще сказать я не знаю, катитесь, а у него, наоборот, это требует усилий. Я бы, я. Ну, я, кстати, не уверен, потому что мне кажется, что и человеку не очень свойственно признаваться, признаваться в своём незнании.
90: Какая протяжённость нефтепровода в Бразилии, я не знаю, вы не знаете.
91: Да, но я думаю, что, кстати, искусственный интеллект также не ответит на этот вопрос, потому что скажет, я не знаю, хотя, хотя можно его загнать в ситуацию, когда и он, и на этот вопрос ответит. Впрочем, как и человека. Александр, представьте себе, что вы
92: Вы сейчас проходите некое собеседование и проверяются ваши аналитические способности. Угу. Предположите. Угу. Какая длина? Угу. И в этой ситуации вы ответите на этот. Я что-нибудь, да, согласен с вами. Да, да.
93: Меня интересует аппаратное воплощение искусственного интеллекта. Вот сегодня мы добились миниатюрных приборов в виде там часов телефона. Насколько компактным можно сделать компьютер носитель искусственного интеллект?
94: Ну, достаточно мощного. Сегодня это может быть карманный прибор, вообще клиентские системы без связи, без связи, конечно, выйти в интернет можешь чего угодно. А прибор, который космонавт, например, может там, на луне использовать на обратной стороне луны.
95: Вообще нет связи с землёй. Можно сегодня миниатюрную аппаратуру загрузить вот таким таким объёмом знаний можно как сейчас. Новый мем такой можно, а зачем можно как
96: Будет, к сожалению, будет работать очень плохо в силу большого количества причин. Давайте так, а можно ли сейчас сделать такого человека, который сможет отвечать на все вопросы успешно, не ходя в интернет и не пользуясь библиотекой, можно
97: Но он будет точно проигрывать человеку, у которого эта возможность есть. Давайте так, у нас объём данных, на который сейчас обучается искусственный интеллект, это какие-то терабайты, многие терабайты, причём отобранные другим.
98: Алгоритмы из множества петробалт, но это все равно терабайты информации и они ужимаются в сотни гигабайт. То есть вот модель искусственного интеллекта, сотни гигабайт. Можно ли сохранить терабайты сотни гигабайт без потери данных?
99: Конечно, нет. Мало того, мы обучили на каких-то собранных данных, но с того момента в мире что-то произошло, что появилось в виде записи в интернете или ещё где-нибудь. И мы ожидаем, что это будет принято во внимание при ответе на вопрос, а как
100: То есть мы точно точно должны дать возможность куда-то сходить. Если бы мы сейчас с нами, здесь бы сел, не знаю кто сократ, например, Ломоносов, и мы бы стали ему задавать ответы про искусственный интеллект. Он при всем его блестящем уме.
101: Был бы не очень полезен нам, потому что он не знает всей вот этой новой свежей информации. То есть очень важно, что мы создали массу способов прекрасно хранить и собирать информацию, делать теперь.
102: Самостоятельную какую-то модель, чтобы она этим не пользовалась. Ну это предельно нас сейчас. А клиентские системы искусственного интеллекта, которые вот набирают популярность буквально, ну прям в последние месяцы, по видимому, это что? Это вещь, которая сидит
103: На моём локальном компьютере, моём ноутбуке. Через некоторое время у меня в часах нет, есть разные варианты, она может сидеть, и это прикольно. Классно. Если она сидит у меня на компьютере, это получается такая моя локальная копия, но она будет тогда эффективна, когда она смо
104: Может куда-то ходить, куда-то обращаться, если она только сидит на моём компьютере и больше никуда не ходит. Она, тем не менее, все равно может быть интересно. С ней может быть любопытно играться, но она совершенно точно будет проигрывать системе, у которой есть возмо
105: Возможность выйти во внешний мир. То есть вы говорите, что искусственный интеллект, так как мы понимаем его сейчас, это всегда распределённая система, ну, буквально глобального масштаба, он хранится где-то расположен неизвестно где. Пойди проконтролируй, пойди за ним, уследи.
106: И и где, где он думает чрезвычайно вопрос, на который очень сложно ответить, да нет, ну мы то, конечно, знаем, где он думает, где он думает, ну при обычном он какие-то матрицы перемножает дикое количество раз в нормальной системе все устроено следу.
107: Образом, что есть большие датацентры, на них содержится большое количество Копий модели. То есть это некая готовая записанная программа, которая, что важно, не меняется в процессе своего исполнения. И когда мы обращаемся к искусственному интеллекту, каким бы персональны
108: Он бы не выглядел. Мы обращаемся к 1 из экземпляров вот этой программы. Она выполняет некую задачу для нас. При этом при грамотно построенном сервисе может храниться какой то какая-то наша история Разговоров, и она тоже подаётся как контекст, то есть когда сами программы
109: Обращается как-то индивидуально. Это не потому, что она нас знает это, потому что ей вот прямо сейчас, в этот момент времени показали, о чем говорили до этого и да, работает где-то в определённых датацентрах. И плюс ещё эта программа
110: Имеет возможность при нормальном устройстве куда-то обратиться во внешний мир, в интернет через через api поисковые системы получить информацию из внешнего мира и отдать её снова пользователю. Здесь, кстати, тоже важно, что когда говорят, что вот искусственный
111: Ходит в интернет. А что значит ходит в интернет? Вот человек, вы как ходите в интернет и куда, с чего начинается ваш путь? Нужно что-то узнать с браузера, а там вы выбираете, ну, там поиск, да? Ну, ворота в интернет для нас всегда.
112: Поиск да, при этом выбираю. Я выбираю из возможностей наиболее адекватную, например, я могу доверять википедии, там есть ссылки, я посмотрю, на какие работы википедия ссылается, а когда ii выдаёт мне
113: Результат, я не понимаю, на че граунд, так сказать, где он брал надёжные вещи, а где случайные высказывания? Именно поэтому мы показываем источник. У нас вот вообще, ну, в яндексе мы через это многократно проходили, через эту
114: Проблема. Ведь че получается, что человек начинает слишком доверять системе, если мы показываем ответ. Указав источник, человек верит или не верит источнику. Если мы убираем источник, ну, если его нет источника, такой-то коллективный собранный ответ, то люди такие это, ответил яндекс.
115: И неважно там, из какого источника собрал информацию. Получается очень большое доверие. Поэтому, чтобы не было этого избыточного доверия. Вот нормальный ответ. Ну, не только мы все так стараются делать всегда под информацией. Есть ссылка, откуда её взяли, откуда получили
116: Тогда ты такой смотришь на источник и понимаешь, стоит ему доверять или нет. Ну или можно туда перейти, прочитать. Мне не понравился ваш ответ. И скажу чем, потому что вы говорите, получили, получили это ответ поисковика, а искусственный интеллект в своих высших проявлениях, которые мы сейчас
117: Обсуждаем. Это штука, которая создаёт новые знания, как мы с вами обсудили в начале. Создаёт информацию, думает и решает задачи. Реше находит решение, которого раньше не существовало. Как здесь указать источник. Это совершенно про другое. Я просто очень при
118: Вас. Мне будет легче, если мы не будем путать поиск и рассуждения. Они же очень близки. Ну давайте, как вот с чего-то, что вы говорите, означало бы, что на все, на все вопросы есть ответ. Нужно только их поискать. И гипотеза римана где-то дока.
119: Для того, чтобы найти ответ на вопрос, нужно начать с поиска, с чего начинается любая научная деятельность. Вот у вас есть какая-то идея научная, что-то вы хотите сделать, с чего начинается? Ну, я согласен, я ищу, что про это известно абсолютно. А дальше анали.
120: Снова идут поиски, уточнения, некая сумериа Ия. И в конце вот он результат при хорошей, достойной научной работе обязательно со ссылками на источник. Ну, конечно, со ссылками на источник Ровно тоже самое.
121: То есть новое в результате родилось, но оно родилось на основе, в существенной мере на основе анализа и обработки источников.
122: Господа, давайте немножко отвлечёмся от сути ии и поговорим о том, где он приложим. Ну, например, в быту. Вот я живу просто как человек в квартире, хожу на ра.
123: Работу, где сегодня не могу обойтись без ii ну не обойтись в том смысле, что мой сосед уже использует, я не использую и он меня обыгрывает в своих жизненных ситуациях вот где ii реально нам помогает автомоби.
124: Билль, чайник, ну, ну, где есть, ещё есть существенно большее количество более приземлённых вещей, о которых мы редко думаем, да. Ну, во первых, весь современный поиск в интернете, он вообще невозможен без искусственного интеллекта уже. То есть, да, абсолютно, если его
125: Оттуда убрать. Ничего того, что мы бы хотели найти, не найдётся так, без искусственного интеллекта. Поиск в интернете работал только тогда, когда там было очень мало информации. Это внутренняя кухня. Все время вы меня все время разочаровываете. Словом, поиск я
126: Спрашиваю про вещи, которые для меня глубокие и магические, как мы в начале говорили, а это, а вы говорите, это поиск, поиск, поиск. Я сейчас, я сейчас расскажу, простите, историю прекрасную, когда, извините за это слово, поиск. Но когда мы сделали поиск по загруженной картинке, ты фотографируешься находится. Что это такое ещё? Н.
127: Выпустили в продакшн знакомым показываю бета версию. Человек такой фотографирует, такой цветочек, определяет, что он такой человек такой. Да ладно, это же как это работает, это магия. Дальше человек такой. Так это будет слишком просто. Это тоже просто сейчас я вот ботинок.
128: Сфотографирую под каким-то углом сфотографировал, не сработало. Он такой, ну а ты говоришь, работает. И вот этот вот путь от, да, это магия до, да, фигня какая-то, она не работает, занимает. Ну, 15 секунд буквально. Мы такие, да, это все ерунда какая-то. Я сейчас начну говорить, а вот
129: Прогноз погоды, такой прогноз погоды. Ну, подумаешь, показывают, где сейчас через 10 минут пойдёт дождь. Ну это же такая рутина. Я говорю, подождите, вот в телефонах, мы же сейчас фотоаппараты не берём, сфотографируй все, что угодно. И у тебя отличное качество. Ну, это фотография, о чем ты сейчас говоришь у нас
130: Голосовой ассистент распознает вашу речь лучше, чем человек, и говорит, так что от человека не отличишь. 10 лет назад было невозможно слушать. Мы такие, да нет, это фигня какая-то. Че серьёзно? Мы вот это будем искусственным интеллектом называть, если бы мы 10 лет назад
131: Увидели то, что происходит сейчас. Это казалось невозможным. Это потрясающая штука. Вот я начал говорить про распознавание изображений. Я, я просто хорошо помню отчётливо этот эпизод за год до того, как мы это сделали. Так вот случилось, я уверен, с маркера на доске.
132: Объяснял, почему это вообще невозможно. Вот, а потом оно получилось, мы просто это как бы происходят абсолютно невероятные вещи, но мне кажется, что для нас вот возможности искусственного интеллекта это такое вот нечто где-то там на линии горизонта
133: Мы постоянно в эту точку приходим, но мы её от себя отодвигаем. Я на днях столкнулся с такой ситуацией, написал книжку, мне привезли её 1 экземпляр. Я говорю о, как хорошо, ваш художник сделал обложку. Ну что вы сказали мне, какой же художник это только искусственный.
134: Мог так хорошо нарисовать. Он уже обыгрывает нас в каких-то направлениях работы, он уже вытесняет нас откуда-то. Давай так многих из нас он абсолютно точно нарисует обложку лучше, чем я. Я думаю, что лучше, чем большинство.
135: Но абсолютно. Я уверен также в том, что существует некоторое количество людей, которые это сделают лучше, чем самые, самые совершенные модели искусственного интеллекта. Так куда идти работать, чтобы искусственный интеллект тебя не вытеснил, если ты молодой человек, прямо сейчас
136: Землекопы, я не знаю, не потому, что он везде вытеснен, потому что, смотрите, я не знаю правильного ответа. У меня, для меня ближайший. Давайте посмотрим, что произошло. Вот мы тут к компьютерам отсылку делали. Сколько лет 30 назад они появились, да, вот массово, персонально.
137: Компьютер дома у каждого, ну, 35, наверное, 40 в начале девяностых. Какие профессии исчезли с тех пор машинистки, машинистки, абсолютно точно. А ещё в каждом научно исследовательском институте было машбюро, там сидели прекрасные женщины, которые фигачили
138: Клавиша в сигаретном дыму нам сейчас нужно нашим зрителям папиросном. Мне кажется, нужно пояснить, что лет 40 назад вот у тебя есть напечатанный текст. Если хочешь ещё его в 10 экземплярах, то тебе его ещё нужно ещё 3 раза напечатать. Почему 3? Потому что 3 листа через копирку получится больше.
139: Nat 4 был ужасен, и 4 оставляли себе в качестве собственного экземпляра, как будто его отдавать было неприлично, другой возможности никакой не было, машеннические связи все больше ну ничего, при этом появилось огромное количество новых специальностей. Я помню, что когда я
140: Я увидел своими глазами вообще 1 раз интернет тогда ещё вв. Никакого не было, и с мыслью, то есть мы такие собирались. Секта свидетелей интернета, люди, которые его видели и понимали, что все, теперь почта умрёт. Ну, письмо, письмо через интернет из Нью-Йорка в Москву за 2 дня доходит. Какая тут.
141: Почта. Вот, а почта сейчас живее всех живых. Ну ты просто там не письма шлют, а посылки, опять же, благодаря интернет торговле, я не знаю, просто честный ответ. Я не знаю, какие профессии умрут или даже будет правильнее так говорить. Потеряют.
142: Потребность в таком количестве людей и станут менее оплачиваемыми. И я абсолютно точно уверен, что появится много новых профессий, о которых мы понятия не имеем. Окей. Но я могу сказать 1 вещь. Вот когда-то человек
143: Мог освоить какое-то ремесло и быть уверенным, что оно его до конца жизни прокормит. Угу. А сейчас таких гарантий нету совершенно. Угу. И мне кажется, что нормальная история, что ты за время своей жизни несколько раз поменяешь свою деятельность полностью, если хочешь оставаться успешным.
144: Видите, что вы говорите? Какую важную вещь это означает, что нужно учиться. А давайте вот какой коротко затронем такой аспект, искусственный интеллект, как способ читить, как это читинг, как это по-русски при
145: При обучении вот студенту дают курсовую, он искусственный интеллект приносит. То есть как бы вы готовы здесь видеть только вред или признавать, что здесь есть вред, которого будет только больше, или есть извращённый способ думать об этом так, чтобы with
146: В этом пользу. Ты хочешь спросить, разучится ли человек думать, потому что есть кому передать эту функцию? Будет ли? Слушай, значит, чтобы че то выучить, нужно немножко напрячься. Ну хоть иначе не запомнится. Так, человеческий мозг.
147: Так устроен. Если у тебя есть такой классный помощник, то есть, то тебе, понимаешь, когда у тебя везде автомобили, ты и ты вообще почти не двигаешься, ты ходишь в джин именно чтобы там напрягаться и как-то тренироваться, а во время
148: Учение ты, несомненно, напрягаешь и тренируешь голову. Если помощник делает это за тебя, то ты её не напрягаешь, не тренируешь. И аналога Джима ну нету. Ну, может быть, ты там в шахматы играешь и все. Вот можете это, пожалуйста, прокомментировать. Это, мне кажется, важный аспект.
149: Который может обернуться какой-то глобальной катастрофой. Хочется ответить лаконичным да, давайте разверну. Во первых, ну, проблемы действительно есть и в образовании у искусственного интеллекта, он же, он в образовании просто идеально решает поставленную Зада.
150: Как ни в какой области, если ты хочешь получить знания, то его способность объяснять знания, фантастическая способность тренировать, генерировать для тебя задачки или ещё что-то шикарное. Если ты хочешь не получать знания, сымитировать, что они у тебя есть, чтобы
151: Получить достаточную оценку и оставаться тупым. Искусственный интеллект в этом тебе помогает просто изумительно вопрос просто чего ты от него хочешь? Проблема действительно есть. Очень тяжело себя заставить сделать что-то, когда ты всегда понимаешь, что вот у тебя есть
152: Можно схалявить. И я думаю, что, во первых, можно и нужно компенсировать это таким образом, как у нас было раньше устроено образование, человеку даётся задание, он их выполняет и дальше можно проверить.
153: Что задание выполнено, считая, что процедура выполнения занятий заданий, она скоррелирована с тем, сколько он будет знать. Ну, правда скоррелирована, а сейчас все, ты не можешь проверить выполнение заданий, значит, тебе нужно впрямую проверять знания. Пусть Реже, пусть
154: Каких-то других механизмов, дать человеку возможность самопроверки, знания с помощью тех же технологий. И это возможно. Но показывать в каждый момент времени человеку уровень его знаний. Ну представим себе, что, допустим, я сейчас прям такой совсем чуть чуть вымышленный пример у нас
155: Какой-то школьник на раннем этапе начинает учиться, у него есть какой-то автоматический проверяльщик, его никто, кроме самого школьника, не видит результат, и эта система предсказывает школьнику, сколько он баллов получит в финале на экзамене а давайте забежим дальше.
156: А ещё она ему предсказывает, исходя из текущей траектории, каков будет его доход, и показывает ему картинки, как примерно будет выглядеть его жизнь. Он такой ничего себе, че то мне это не очень нравится. Пошёл, позанимался математикой, там поменялся вид квартиры, машины и вот это
157: Всего оценка поменялась, он такой опа. То есть у него появляется персонаж, ну как в игре, это он сам и которого прокачивает абсолютно. Вот, вот. И, но при этом действительно мы сталкиваемся кроме шуток с боль.
158: Новой проблемой. Вот есть же история с навигатором, что сейчас навигатор в машине убираешь, люди уже без него ездить не умеют. До этого такая же была проблема, что люди без карты ориентироваться не умеют, а когда-то до этого в лес уходили и без карт возвращались успешно. То есть мы какие-то навыки теряли.
159: Вроде было не страшно, но тут слишком большой инструмент, который выполняет за нас кучу всего. Не потеряем ли мы наши когнитивные способности? Слово мы подождите, мы люди разные, мы разные. Одни, например, в уме раньше.
160: Хорошо считали другие спотыкались. Сегодня каждый с калькулятором считает надёжно тоже самое. И и он выровняет людей по их способности решать задачи. Ну нет, ого гении и не гении. Обращаясь к и
161: И будут получать один и тот же результат. Александр, можете это оспорить. Это всеобщий уравнитель. Я думаю, что у меня не хватает квалификации это оспорить. А вы, наверное, это может. Я думаю, я думаю, что наоборот, это и сделает. Это усилитель.
162: Неравенства. Да, да, да, да. Почему? Потому что откуда появляются люди образованные, которые решают сложные задачи, двигают науку вперёд, у которых есть в этом потребность, они
163: Это делают, потому что им это в кайф, им это нравится, им интересно, они как бы это могут теперь, что происходит? У тебя искусственный интеллект делает тебе все это занятие совершенно необязательным. И люди, которые в целом не очень настроены.
164: Они перестают этим заниматься без, без каких-то, без какой-то дополнительных усилий палки, там построению вот этих Джимов, тренажёрных Залов для ума, они вообще этим не будут заниматься. А дальше если мы возьмём какую-то систему, вот сейчас популярный такой вайб кодинг,
165: Написание программ с помощью искусственного интеллекта, да, и дальше выясняется, что если ты хочешь сделать большую сложную систему, то тебе прям нужно очень много думать. У тебя поразительным образом вот эта вот вся рутина, умение писать код уходит за тебя, эта машина берет, а вот по
166: Понимание общей конструкции системы, что ты хочешь от неё получить, в какую сторону направить? Она требует довольно приличных мыслительных усилий. Тут я возражу вам, тут я вам возражу, обратитесь к искусственному интеллекту, который хорошо мыслит стратегически.
167: К другому. Попросите его написать стратегический план, потом попросите другого сделать из этого поэтапный план, а потом задайте какому-нибудь, кто хорошо программирует, написать код по каждому. Вот из этих заданий прекрасный совет. И если у вас это все хорошо получилось,
168: Я вас поздравляю. Значит, вы очень умный человек. Вы разбирались с тем, как это работало, глубоко, глубоко читали, глубоко разбирались со всей архитектурой систем, понимали, как правильно формулировать требования, потому
169: Потому что если нет, то вы, ну, скажете какую-то ерунду, ничего не получится. Я слышу, знаете, что от вас я слышу от вас, что от меня в таком случае требуется умение ставить задачи, и то есть смешно написать промты, да, ставить задачу, да, и
170: И к этому все и сведётся. Мы будем только ставить задачи и а решать за нас будут поэтапно все более и более вот эти вот примочки, все так. Но у меня есть уверенность в том, что для того, чтобы хорошо ставить задачи, нужно обладать пониманием.
171: Как их решать? Потому что если ты сам не умеешь решать задачу, ты её, скорее всего, не поставишь. Интересно, интересно. То есть, а правильно я тогда вас слышу, что, например, для того, чтобы с помощью искусственного интеллекта хорошо учиться, превращая его в помощника, я
172: Не 1 раз обращаюсь к нему, чтобы у меня была готовая курсовая, которую я сдал и получил там свою четвёрку, а я продолжаю с ним общаться. И то, что он мне сообщает, я воспринимаю как знания, как ступени для того, чтобы копать глубже. Вы это говорите, абсолютн?
173: Конечно, а okay, конечно и вот это вот и вот таким образом будет увеличиваться неравенство да, между теми, кто готов это делать, и теми, кто не готов все так. Но для этого нужен широкополосный постоянный доступ к искусственному интеллекту как там у нас с регуляциями?
174: Со способностью искусственного интеллекта принять большое количество пользователей и так далее. Ну,
175: Это новая гонка в мире, это новая гонка в мире, которая у неё, правда, есть несколько составляющих, есть составляющие вычислительные мощности, которым будут люди обеспечены для, ну, доступ к которым будет обеспечен людям для того, чтобы они могли оставаться эффективным.
176: И регулирование тоже имеет большое значение. У меня есть такой абсолютно риторический вопрос, который, в общем, все объясняет. Вопрос звучит так, в какой стране начнут по всем улицам ездить раньше всех беспилотные автомобили там, где их, как говорят, изобрели, или там, где им
177: Разрешили ездить, и ответ довольно очевиден. Нет, не очевиден. Но, конечно, там, где разрешили, там, где люди согласны, чтоб они ездили, или так, да, или так, в такой формулировке. Но мне пока все выглядит с точки зрения
178: Регулирование довольно позитивно. То есть то, как предла, все запомнили регулирование позитивно, да, потому что-то, как предлагалось относиться к искусственному интеллекту, там 3 или 5 лет назад, это был абсолютный кошмар сейчас, когда каждый попробовал
179: Языковые модели, когда все стали их применять к искусственному интеллекту относятся в целом уже примерно как к компьютеру. И мы, у нас есть какое-нибудь жёсткое регулирование компьютеров. Ну, в целом нет, но есть отдельная там история про цифровые подписи, про
180: Какие-то есть какие-то отдельные там, не знаю, что-то можно делать на Госуслугах, там есть какие-то формы подтверждения, то есть есть набор того, что регулирует, скажем, компьютер, интернет, но это не в общем виде, а какие-то частные исполь.
181: Вот мне кажется, что с искусственным интеллектом все идёт сюда, первые такие страхи отступают. Типа, давайте мы вообще все запретим и все это переходит в очень, в очень рациональное русло. То есть есть какие-то способы применения, где вот, вот так
182: Можно, а так нельзя. Ну типа, нехорошо, например, генерировать своих знакомых в виде во внешнем виде, который им покажется обидным. Давайте это запишем в законе. Это довольно логично, нехорошо. Компьютер.
183: Для хакерских атак, например. Ну, например, например, например, да, и как же решается эта моральная проблема? Нужны какие-то рамки вашему интеллекту искусственному, который, так сказать, в человече
184: Общество, его внедряют. Есть такие 2 способа решения, они друг другу не противоречат. 1 это государство регулятор, там везде, если видит какую-то проблему, оно, значит, тут же туда впиливается, её регулирует, а с другой
185: Стороны есть разработчик, который очень не хочет, чтобы к нему пришли, его отрегулируют, и поэтому внутренние правила в компаниях разработчиков они гораздо жёстче, чем любые внешние. И то, что особенно это касается больших компаний, которым есть че терят.
186: Угу. И те внутренние правила разработки и создания сервисов с искусственным интеллектом, которые внутри есть, они строже любых законов. А верно ли тогда, что чем больше внутренних строгих правил, тем менее эффективно? Давайте мягко скажу. Тем менее эффективный получается искусственный интелек.
187: Тем на меньшем объёме данных он учится тем, он как-то беднее, пожиже. Так. Но я бы соврал, если бы сказал, что вот прям нет, что такой зависимости нету. Ну, во первых, учится вообще на всех данных, на всех возможных.
188: Потому что, ну, если ты хочешь отличать нежелательный контент от желательного, то этот нежелательный должен видеть. Ну, вот как там, не знаю, какие-то, если не хочешь там детям показывать страхи, ужасы, то ты, по крайней мере, должен понимать, что это страхи и ужасы, а
189: Что касается в чем может быть деградация в том, что ну если у тебя есть какие-то вопросы, на которые ты по каким-то причинам не хочешь отвечать, не знаю как сделать бомбу и там что-нибудь взорвать, то всегда существует
190: Некая ошибка, что ты и не ответишь на то, что должен был бы. Вот. Поэтому, да, конечно, любая такая, любые такие самоограничения, они немножко портят ситуацию для нас, для разработчиков каждый не ответ модели, не
191: Это когда не просто промолчала, а увернулась, не сказала то, чего ожидал пользователь, это проблема, особенности, если, если там внимательно посмотришь, ничего плохого ты не имел ввиду, но сейчас этого становится все меньше и меньше. То есть разра,
192: Ботчики научились вот так вот аккуратненько выпиливать лобзиком, на что не надо отвечать, а на что отвечать надо. То есть там, не знаю, какие-нибудь рецепты от наркотиков, конечно, никто отвечать не будет. И не надо. А если это там рецепт?
193: Кулинарные, то можно ответить? Ну и есть, есть ряд вещей, которые для нас остаются открытым вопросом для всех разработчиков, где мы до конца не понимаем, что делать. Ну вот такой классический пример. Медицина приходит, человек и спрашивает, вот у меня какая-то болячка, мне тут че делать и
194: Вроде бы идеальный ответ такой. Обратитесь к врачу и ничего не отвечать. Прекрасно же, прекрасно. Но это хажестович, оо, делать человеку в этой ситуации. Ну такой, ладно, я пойду в интернет, он же не к врачу пойдёт в этой ситуации, он пойдёт в интернет и что-то там прочитает. И ты конкурируешь.
195: Своим ответом не с врачом, а с какой-то случайной информацией, которую он найдёт. Может быть, лучше ответить уж моделью, которая все равно будет точнее, чем что-то случайно найденное в интернете. Но с другой стороны, так ты подменяешь функции врача. В общем, тут идеального ответа нету.
196: Это такая довольно, это вопрос. В каком смысле? Родственный тому, как машина, самодвижущийся автомобиль принимает решения в критических ситуациях, когда возможны? Ой, нет, тут проще. Я на это прям здесь проще всегда могу ответить, да? Ну потому что такой
197: Вечный вопрос. Вот там 2 разных человека, кого он из них выберет, он их не различает. Это 2 объекта человека, они всегда эквивалентны. Нужно предпринимать специальные усилия, дообучать, чтобы модель их научалась различать все, что делает алгоритм в этой
198: Ситуации, это в целом минимизирует вероятность столкновения. Все его вычислительные ресурсы тратятся Ровно на это, и на это он, наверное, делает лучше, чем относительную человека задаёт программист ребёнок это или старик больной или здоровый.
199: Да, иначе критерии он бы мог бы задавать, но этого не делает, потому что зачем тогда мы после этого начинаем решать проблему этического выбора? Конечно. И мало того, мы ещё на неё тратим вычислительные мощности. Лучше потратить их на то, чтобы вообще избежать аварии. Просто.
200: У водителя человека есть некоторые знания, которые мы из него убрать не можем, оно у нас просто есть, и мы принимаем решение, учитывая какие-то факторы, которые, может, и не надо было бы при принятии решения, если в алгоритм этого не заносить.
201: У него этих факторов и не будет. Ооо, это вы ценную вещь сказали, что в нас есть какие-то предустановки. Ну это более менее очевидно. По видимому, в разных людях разные, но мы иногда думаем, что они даже люди, которые нам понятны, предустановки в чем-то близкие, а у искусственного интеллекта
202: Роль предустановок играет, что регуляция, выборка, на которой его обучают, выборка, на которой выборка, на которой обучают, и здесь получается следующая штука. Вот в чем между нами разница мы же, мы некоторая универсальная система.
203: Который учится решать сразу все и все задачи. И мало того, решая какую-то задачу конкретную. Сейчас мы используем свой опыт из совершенно других областей, что нам на старте помогает. А когда мы стараемся достичь какого-то пика, это начинает мешать, потому что вообще то
204: Любые аналогии, они только портят дело с искусственным интеллектом, не так. Ему очень тяжело на старте. Ему очень сложно действовать в условиях, в ситуации, когда его этому не учили. У него нету такого, как у нас, опыта из других областей, которые можно переносить, но
205: Если ты, у тебя есть достаточно данных для решения узкой задачи, ему, наоборот, ему не помогает. С 1 стороны. С другой стороны, не мешает опыт из других областей на секунду вернусь, хочу вернуться к образованию. Постоянное взаимодействие с искусственным интеллектом. Стань.
206: Бустером получения знаний, то готовы ли вы представить себе университет лет через 5, где главной задачей этого университета будет организовывать для студентов посто.
207: Яный устойчивый контакт с искусственным интеллектом, а преподаватели это люди, которые ходят и немножко там подталкивают, немножко, чуть чуть как-то помога такие фасилитаторы этого процесса или это картина в принципе
208: Абсурдная, я абсолютно представляю себе эту ситуацию. Мне кажется, она нормально, мы должны к ней прийти. Но есть ещё 2 Роли у преподавателей, которые вот сейчас потерялись. Мы, когда учимся, мы учимся ещё взаимодействовать друг с другом, с людьми и здесь
209: Преподаватель может помочь. И ещё 1 момент. А кто искусственный интеллект то учит? А мы выкупаем, мы это университет покупает искусственный интеллект. А условный вы, если вы не согласитесь на моё, вы не загоритесь моей идеей и не уйдёте.
210: Смените работу, не организуете такой университет тогда условный. Вы на вашем нынешнем месте создаёте. А вам этот супер университет будущего платит деньги? Не, не, нет. Если и в результате получается, что у вас, я вам сейчас нарисую обалденское картину. Новый есть важный.
211: Васюки, потрясающий союз. Я не хочу, чтобы они бежали от этой темы далеко для того, чтобы научить искусственный интеллект преподавать его нужно учить. На. Ему нужны не только ему нужны преподаватели, которые его
212: Человек несёт. Ты многое запомнил от того, что тебе на лекциях рассказывали преподаватели твои профессора, но ты запомнил их облик, стиль поведения, стиль общения. Я видел, как они об этом рассуждают. Вот что самое ценное есть ещё 1 очень важная штука, что
213: Как я пойму, что искусственный интеллект объясняет хорошо, а можно было бы, но это очень долгая история. Вот он по разному учит разных людей посмотреть где лучше получилось. Во первых, долго. Во вторых, жалко с теми, кто не получилось, поэтому безо
214: Опасный способ такой. Мы знаем преподавателей, которые учат хорошо. Задача искусственного интеллекта подражать им.
215: Нам нужны преподаватели, которые будут обучать искусственный интеллект, преподавать так же, как они. Он их знания размножит, когда искусственный интеллект учит людей. Это людей учит тот преподаватель, на котором
216: Искусственный интеллект учился и преподаватели.
217: У меня есть 1 опасение в связи с использованием ии в науке, и оно вот на какой цепочке эволюционной основывается, когда мы не имели вообще возможности компьютеры использовать, мы считали в основном аналитически.
218: Какие-то уравнения составляли и понимали, как работает уравнение, что оно нам даёт. В конце оценивали правдоподобность. Теперь вот сегодня мы делаем математические модели многофакторные, там очень сложные, быстрые, ну, гидроди.
219: Динамика, например, я, вообще говоря, не знаю, я не могу на уровне своей интуиции прогнозировать результат, который мне эта штука, но она выдаёт. А я думаю, крутая машина, значит, она правильный мне результат дала и его использую. Теперь следующий.
220: Ступень это вот использовать ii уже в постановке задач теорем доказательства теорем, и так мы вообще не перестанем даже понимать, чем он занимается у него такие возможности я.
221: Тут это неожиданно, но я тут вдруг перестаю быть оптимистом и могу сказать вещь, которая меня, правда, тревожит. Сделать с этим ничего нельзя, но меня тревожит. Если мы возьмём математику пифагора, её может понять каждый, но.
222: Вот, ну, мне кажется, почти нету там детей, которых нельзя этому обучить. Если мы возьмём, понимают, да, если мы возьмём какую-то современную сложную высшую математику, вот что такое, группы ли это поймут не все, я имею ввиду, что
223: Не то, что это не поймут те, кого этому не учили. Ну всех же учат одинаково, но не все дети осваивают математику до такого уровня. То есть, когда мы говорим про современную науку вообще, что такое наука в моём понимании, поправьте меня, если не прав.
224: Это построить максимально простую модель, которая обладает предсказательными оо, у меня есть, у меня будет к этому замечание, да, я пока согласен с вами, но у меня просто будет отдельное замечание, любом случае несовершенно, но возьмём это как допущение, но дальше мы же хотим
225: Все точнее и точнее предсказывать. И наша модель становится все сложнее и сложнее. Угу. В пределе она будет настолько же сложна, как окружающий мир. И вот мы в какой-то момент времени доходим до такой сложности модели, которая на грани нашего понимания в пределе.
226: Нашего, человеческого или лучших из нас людей. А следующий шаг какой. И вот мы переходим на следующий шаг, когда искусственный интеллект сможет построить модель, которая обладает теми самыми предсказательными способностями больше, чем человек. Но мы
227: Уже эту модель понять не сможем, а мы не сможем её понять, потому что он строит её в собственных внутренних терминах. Вот это вот он перемножает матрицы столько-то, на сколько-то примерно там 1000000 раз и говорит, вот это вот что непонятного, говорит он, вот эта вот модель мало того, просто ещё потому что она слишком сложна с ней.
228: Слишком много параметров, чтобы мы могли удерживать всю эту взаимосвязь и всю эту цепочку. Смотрите, есть очень характерный пример. Он даже уже нобелевской премии отмечен. Искусственный интеллект для предсказания того, как белок сворачивается. Дико важная задача, потому что-то, как свернулся белок, определяет хорошо или
229: Хорошо, он функционирует в нашей клетке, ну и так далее. Альфа. И, да, и да, и сам белок, конечно, про себя все знает, потому что он эволюционно отобран на то, чтобы есть все он, он правильный, чтобы свернуться именно таким образом. Но нам предсказать это дико трудно. А искусственный интеллект по каким
230: Неуловимым. Корреляция между чем-то мы не знаем чем делает это лучше, чем наши прямые методы попытки там вот этой вычислительной химии, квантовой химии, че то там, че то там рассчитать. Это не совсем ваша постановка вопроса, это
231: Его модель. Как бы как бы понятно, что нужно сделать, но он руководствуется соображениями, которые нам в принципе не ясны, не видны и, возможно, недоступны, потому что это корреляции между корреляциями, между корреляциями, между корреляциями. Все
232: Все так, абсолютно даже нечего добавить. Абсолютно согласен. Нет. И вы говорите, что у вас и это источник вашего пессимизма, что наука потихоньку выродится. Просто она не то чтобы выродится. Но вот есть сейчас учёные, а есть популяризаторы науки, есть люди, которые мы знаем нескольких
233: Нет, иногда это совпадает в 1 человеке, но есть люди, которые могут, не будучи учёными, специалистами, в какой-то области, разобраться, ну, достаточно глубоко для неспециалистов в том, что там произошло, и остальным рассказать на таком уровне, что остальные
234: Мута, специалиста, ну, того учёного, который сделал, не будет слишком корёжить. Так вот, возможно, теперь самые лучшие учёные люди. Их роль будет до остальных донести то, что делал, сделал искусственный интеллект. Не сильно корёжа. Мы уже
235: Ужасный пример человеческий с ног на голову люди будут, получают. Получится, что эти люди будут, наоборот, подхалимничать в сторону искусственного интеллекта, чтобы всем объяснить, какой он молодец и как классно он все решил, почему сами не в состоянии понять.
236: Понимаете, вы начали с того, что хорошо, когда человек может разобраться в ключевых аспектах и их оттуда вытащить. А здесь не в чем разбираться. То есть, а здесь не в человеческих силах разобраться. Я вижу, здесь прям большую беду. Здесь, здесь есть
237: Есть проблема, я вот у нас есть же, знаете, как всегда есть какая-то модель, к которой можно обратиться. Есть прекрасный пример игрого, который компьютер стал играть сильно сильнее человека, что произошло дальше с игрой, и люди стали играть это
238: Статья на эту тему научная, которая вполне это хорошо в числах показывает. Люди играть стали в целом сильнее. То есть средний ход человека в игре вырос, потому что появился наставник, который разбирает твою партию, показывает у каждого индивидуально очень сильный, с шахматами тоже самое, с шахматами тоже самое, н.
239: Что поменялось вот раньше, как было какой-нибудь финал чемпионата, 2 чемпиона. Вот сыграли партию, и они тут же, они ещё не расходятся, ничего. Они тут же восстанавливают какую-то позицию в середине игры, и её разбирают они сейчас, в этот момент, дви,
240: Игру вперёд ими движет вот это вот желание найти лучший ход в этой ситуации, который был непонятен, и они его разбирали. А сейчас, что почти тоже самое. Только каждый достаёт свой компьютер, восстанавливает вот эту позицию, где-то там была, и там смотрит, как нужно было правильн.
241: Пройти. То есть вот интерес соревноваться друг с другом, он остался, но когда ты хочешь сделать найти самый лучший ход, ты теперь не сам его ищешь, а ты обращаешься к искусственному интеллекту, который это сделает, это подводит, подводит.
242: Меня к тому, о чем я вас хотел спросить. Есть наука, которая имеет дело с моделями мира, с какими-то вот, а есть отдельная область, это математика, где главное это рассуждение? Нет ли у вас ощущения? Это прям происходит в последние месяцы есть
243: Ни недели. Искусственный интеллект становится помощником, который находит пути рассуждений. Дело выглядит так, что если вот так вот смело продолжить тенденцию. Профессия математика может сильно измениться, потому
244: Потому что она превратится в сопровождение и в подталкивание искусственного интеллекта к нужным рассуждениям вполне может быть, вполне может быть, но кто-то все равно должен подталкивать вот без этого сильного математика подталкивать
245: Все равно не произойдёт ничего, но его роль, конечно, сильно поменяется, но не только математика, кстати, не только математика, не просто математика. Такой критерий, вот прям, знаете, я вот я вот пересмотрю все свои взгляды вообще на все связанное с искусственным интеллектом. Съем, нет, шляпу не съем, сво.
246: Когда искусственный интеллект условно докажет гипотезу римана не пару задачек из списка, эрдёша решит, а докажет условно гипотезу римана или сделает что-нибудь аналогичное. Вот, а шаги к этому кое-какие то какие-то делаются и
247: Это снова и снова во мне вызывает вопрос, на который вы мне можете 10 раз разъяснять и отвечать, че он там делает и так далее. Как он, черт возьми, думает и думает ли он так же, как мы, Алексей, это, это шовинизм, ты тоже не знаешь.
248: Как думает великий шахматист, он на 50 досках играет вслепую? Не знаю, не знаю. Ты видишь, что он это делает, и ты ему доверяешь в этом. Ну, он из плоти и крови. И я так ел, наверное, как в 10 раз лучше, чем у меня. Н.
249: Примерно как у меня, а здесь нет, ну вообще, мы довольно много знаем это и про человека, и про искусственный интеллект нельзя сказать, чтобы прям совсем все, но мы довольно много знаем принципы, как он думает и с помощью чего все-таки получается нужный вариант, мы прям
250: Знаем, то есть я не готов сказать, что это вот просто прям какая-то Чёрная коробка. Это было бы в конце. Не готовы сказать, что чёрный справедливо по отношению, например, к нейробиологам, которые очень много, очень большую часть пути прошли в понимании того, как как устроена
251: Мышление человека, ну и искусственный интеллект все-таки тоже создают люди. И если даже что там происходит, вот если подождите, подождите люди все-таки его создают его конечно да, давайте вернёмся к вопросу о том, не как применять
252: И использовать. А как создавать? Вот какие сегодня молодой человек, там, не знаю, одиннадцатиклассник, да, решает, кем он будет, если он увлечён какими-то интеллектуальными делами раньше. Ну вот моё поколение, значит, надо учить языки программирования.
253: Там фартран, гол и так далее. Сегодня какие навыки нужны молодому человеку, чтобы встроиться в этот коллектив создателей ии математика все-таки математика, математика, конечно, искусственный интеллект это некая все, ну,
254: Я бы сказал, что с точки зрения науки, это некая узкая область математики, специфическая, это прикладная математика. Отличие в том, что это поразительно. Я думаю, что сейчас многие мат.
255: Математики меня возненавидят за то, что я скажу. Но от нормальной математики отличается тем, что это такая эмпирическая математика. Угу. То есть в начале получается некое наблюдение, а потом оно как-то обосновывается и уже не всегда получается.
256: Но это через некоторые наблюдения в области искусственного интеллекта. То есть у нас результатом неким открытием научной публикации является, в общем, формула или набор формул новых математических, но способ получения этих формул это не то, что сидел и думал, а это
257: Где-то думал, конечно, но помимо этого ещё и перебирал, и что что даст результат, а что не даст результат, не всегда очевидно. Да, вот, вот в этом новость, но это все-таки математика, это школьного уровня.
258: Или какая-то совсем уже далёкая абстрактная там топология эмбеддинг у тебя, эмбеддинг, многомерное пространство очень высокомерное. Это, это математик в школе. Ну вообще, вообще это линейная алгебра, так с виду и матрица перено линейная алгебра, но
259: Почему-то это работает, причём способом, которым 15 лет, 10 лет назад никто не подозревал, что взлетит при рескейлинга при увеличении масштаба. То есть школьник не готов ещё к этой работе. Готов, готов, готов. Смотрите, во первых, не любой школьник, возможно, н.
260: Любому надо. Ну понятно, я видел школьников, они есть вполне, которые там в 9 классе способны читать вот прям свежевышедшие научные статьи и понимать, что там происходит, дискутировать на эту тему, обсуждать их немного. Вот.
261: В сириусе есть такая программа. Большие вызовы, их там собирают какое-то количество талантливых детей прям очень впечатляет. Очень. Я настоятельно рекомендую как-нибудь туда приехать и посмотреть. Это правда впечатляет. Их не очень много. Ну, ну да, они на это способны, но здесь хорош.
262: Вопрос, чего ты хочешь? Либо ты хочешь делать что-то такое, как в науке называется state of the art. Вот что-то прям самое передовое улучшать технологии, выигрывать у всех в мире, быть 1, тогда математика, если
263: Ты хочешь просто брать, готовый его применять новым классным образом. Это тоже здорово делать какие-то стартапы, делать новые продукты для людей. Тогда математика все равно нужна, но к этому добавляется и умение программировать, и что-то ещё.
264: Но математика тогда становится нужна какая-то базовая, потому что, ну вот если мы возьмём, не знаю, там область физики, она же тоже очень разная, как бы, если ты 1 дело, когда ты новые частицы находишь, а другое дело.
265: Когда ты электропроводку делаешь, физики, вот такой вот спектр физики разных вещей. После того, как вы сказали, что в основе все-таки математика, ну вот её некая узкая область, но уж больно здорово работает. Есть ли у вас ощущение при
266: Видение. Может быть, вы захотите поделиться, что могло бы быть next big thing. Следующая прорывная вещь, которая могла бы что-то изменить, или, разумеется, мы эту вещь очень трудно назвать, но.
267: В какую сторону, с вашей точки зрения, мог бы произойти радикальный качественный сдвиг? Новый? Ну, мне кажется, я, наверное, очень банальную вещь скажу, но мне кажется, что это агенты, то есть
268: Это некие системы, которые могут взаимодействовать с окружающим миром и получать оттуда обратную связь. Агенты, да, вот. Но дело в том, что сейчас текущий искусственный интеллект, он сильно ограничен возможностями и способностями людей, но, допустим, вот у нас искусственный
269: Пишет текст, он, как он понимает, что он текст написал хорошо, по некой оценке людей, он либо должен попасть в уже написанный текст, либо человек говорит, что вот этот текст лучше, чем тот либо, ну или ещё как-то.
270: Тем не менее, в оценке людей и способности машины здесь ограничены возможностями человека. И когда искусственный интеллект, например, играет в го, в какую-то игру, он понимает, насколько он хорошо играл по результату игры. Вот если у нас
271: Появляется система, которая может взаимодействовать с миром и понимать, насколько хорошо получилось не по оценкам судьи человека, а по результатам взаимодействия с миром. Тогда возможности системы в совершенствовании в этой области становятся бесконечными, а тогда будет
272: Ситуация, когда он создаст нечто концепцию, научную теорию, теорию или что-то сам поймёт, что она хороша, сам её улучшит, а мы окажемся в странной ситуации, мы не сможем её понять, потому что он отцепится, отсоединится.
273: Капится от нашей оценки будет сам по себе и в каком-то смысле оставит нас. Ну не то, что не удел, ну так где-то на обочине. Нет, Алексей, ну человек тоже отделился от сообщества всех животных. Именно по этой причине они не понимают.
274: Что ты делаешь с матрицами, перемножая? Да нет, обезьянки не понимают даже осьминог, даже обезьяны. Знаете, я так могу сказать, что люди тоже не все понимают, как перемножаются матрицы и че там происходит. Давайте возьмём людей, которые оказали
275: Наибольшее влияние на мир, которые становились, ну, как правильно сказать, то повелителями существенной части мира. Какой процент среди них людей, который хорошо понимал математику, физику, перемножение матрицы, вот это вот все, ну, навскидку 15, 10.
276: Если не меньше 1. Ну, в общем, да, или так. То есть, я думаю, что когда система, которая совершенствуется в какой-то области, вот там, в области математики или ещё что-нибудь, ну, нету.
277: Неё, непонятно с чего у неё должна, откуда у неё должно появлиться желание захватывать мир, там чем-то что то себе подчинять или ещё что-то там такой мотивации нет, это нужно строить какую-то совершенно отдельную систему, но непонятно, зачем бы нам захотелось её строить. То есть
278: И сильные и слабые стороны искусственного интеллекта, говорите вы, они более менее в нас, да, в том, как мы, какое у нас целеполагание, какое, как мы себя ведём, чего мы делаем и чего хотим, что
279: Трудно, потому что когда мы че то хотим, мы все чаще спрашиваем искусственный интеллект, да, искусственный интеллект будет и сейчас развивается, так и будет развиваться как нечто комплиментарное человеку, как нечто, что компенсирует какие-то наши слабые стороны.
280: Предстоит сильно переосмыслить, что такое наши слабые стороны. Ну да, компенсировать, да, но не позволяет усилить наши сильные стороны. Например, любознательность есть у искусства. Можно снабдить его таким блоком, который сделает из него любозна.
281: Разум. Ну, например, я говорю, мне бы хотелось узнать вот это вот схожу-ка я на вершину эвереста или там нырну в марианскую впадину. Зачем? А интересно, какие новые знания я там найду? А вот система искусственного интеллекта может сказать, ты меня
282: Спросил, а мне не хватает вот этих, этих, этих знаний. Мне бы ещё подучиться на каких-то там примерах. То есть любознательность как свойство у него есть или можно его создать? Нету и, наверное, можно, но пока этого никто не делает.
283: Сейчас создают, создают систему, которая удовлетворяет любознательность людей. Вот смотрите дальше. Вот мы делаем в яндексе большую языковую модель. Дальше как мы меряем, насколько она хорошо отвечает, на какие вопросы берётся реальный
284: Поток пользовательских запросов сэмплируется оттуда, и мы учим систему отвечать то, чего спрашивает. Угу. То есть это не её любознательность. Если любознательность людей, она отвечает потребностям людей, её запросам. Нам это, во первых, давайте так.
285: Честно делать искусственный интеллект. Это ужасно дорого делать систему, которая будет проявлять свою любознательность и как-то её удовлетворять никаких денег не хватит. Это, ну, вообще невозможно. Тебе нужно, чтобы построенная система себя окупала. Окупает она в 1 случае, вот
286: Монетизировать можно пользу. Если ты сделал бесполезную штуку, ты её не можешь монетизировать. Если ты сделал пользу, на ней можно зарабатывать смысл этой системы, приносить пользу. Если она не будет приносить пользу, у тебя не будет денег на то, чтобы её развивать экономика всей этой штуки, так?
287: Что ты не можешь сделать бесполезную для людей вещь с коммерческой точки зрения, да, но в истории науки были проекты, когда правительства тратились на то, что, ну, не в прямом смысле слова приносило пользу, и тратились очень сильно. И мы такие большие проекты, конечно.
288: Знаю, поэтому правительство вполне может захотеть сделать что-то совершенно монструозное или все равно вас примерно условного вас наймут. Я. Мне че то кажется, что сейчас это все пришло к такой ситуации, что ни у какой страны нет такого количества ненужных им денег.
289: В области создания искусственного интеллекта есть совмещение интересов у людей или наоборот, распад конкуренции. Ну вот разные фирмы там создают свои системы искусственного интеллекта, они обменивают
290: Находками в этой области или конкурируют и секретят их. Вот это как, как это как все остальное мы сейчас вот в нашей области в computer science, в области компьютерных наук до сих пор сохраняется потрясающая открытость периодически
291: Происходят какие-то события, которые немножко пугают, когда вот тенденции, что мы не будем рассказывать, но в основном все открыто, все базируется на одних и тех же научных публикациях, которые, в свою очередь, базируются на предыдущих научных публикациях. И когда
292: Кто-то где то что-то делает всем остальным во первых, понятно, что они сделали, во вторых, все делали примерно тоже самое, потому что все опираются на одни и те же какие-то научные решения, по прежнему, слава Богу, в моде open source и все.
293: Все ценное, кто что-либо делает, оно опенсорсит и то есть выкладывается в открытый доступ и и может воспроизводиться другими. То есть это скорее наука, чем коммерция. Пока ещё, ну это наука, это наука, ну,
294: Апдейты windows точно в вашу радужную картину не ложатся.
295: Апдейты windows мало связаны с искусственным интеллектом. Честно скажу нет. Искусственный интеллект это это наука и есть часть, есть часть коммерции, есть вопросы. Как у тебя ловко получилось это обернуть продукт. Кто
296: Быстрее и эффективнее сделал. Есть куча всяких инженерных трюков. Но если мы берём любой сервис, любой коммерческий продукт на базе искусственного интеллекта, это все-таки на 90% наука, ну, остаётся только
297: Пожелать удачи, удачи, успехов, удачи. И давайте вот мне, что я для себя вынес, что есть удивительные человеческие черты. 1 из них мы. Вот Владимир нащупал, например, любознательность, ну, дурацкое качество.
298: Но совершенно необходимое для развития нашего вида, абсолютно необходимое в этом смысле совершенно прекрасно. Вот, ну вот хочется, чтобы у разработчиков не пропадали, а только усилия у разработчиков искусственного интеллекта, чтобы они лучше ощущали свои человеческие качества.
299: И использовали свои лучшие человеческие качества. Да, надеюсь, что мы от любознательности будем получать выгоды больше, чем неприятностей. И заодно, и заодно, чтобы коммерции реализовались хорошо, да.