0: Всем добрый день, это снова я, и мы продолжаем наши кибер каникулы. Сегодня у нас тема, как работают нейросети. Обещаю, это последний вводный теоретический урок. Мы должны посмотреть, что же вообще под капотом у этой шайтан си.

1: Темы, но и у вас, может быть вполне нормальный вопрос. Зачем вообще мне эта техническая информация? Давай уже делать какие-то картинки, видосики. Ну, мы вроде интересные показывали музыку сочинять, сочинение писать. Зачем ещё грузить? Есть

2: Толк в этом 1 интересная история про Остров Вануату в тихом океане, где-то примерно в пятидесятых годах 20 века там жили, ну, местное население, и американцы начали там строить свои базы. Начали прилетать самолёты.

3: Военные. Соответственно, началась совершенно жизнь. Представьте себе, местное население. Ну, можно сказать, по простому аборигены, тут приезжает цивилизация, самолёты, появляется еда, уже не надо так охотиться. Все, конечно, это смотрят с удивлением. Окей, все классно.

4: Не понимают. И что они для себя поняли, что если прилетает самолёт, появляется еда, есть спутниковая тарелка, что-то передали, появляется еда, переплыл корабль, появляется еда. Классно и вполне логично, что они понимают, когда они уехал.

5: Если нужна еда, нам нужен самолёт, спутник и корабль не докопаться. Но есть 1 момент. Они начали это делать вот по образу и подобию прямо все то, что как есть все самолёты, все спутниковые тарелки, но 1.

6: Момент начали делать они это из соломы реальности, из соломы. Вот такие вот прекрасные самолёты, они делали как произведение искусства, но был 1 момент, еды не появлялось. Ну вот просто не появлялось еды, они делали очень прекрасные вещи, которые

7: Вошли в культуру сейчас как каргокульт. Это реальные снимки. Вот посмотрите, как бы тарелка просто удивительная, даже очки такие как бы делают, почему, что такое каргокульт. Это когда мы слепо копируем, не понимая, что происходит внутри и почему происходит

8: Это явление и сейчас такого большое количество непосредственно как бы с нейросетями люди показывают какие-то примеры, люди слепо их копируют, но результат появляется, получается не такой, и мы не можем им управлять.

9: Почему? Потому что это просто тупо копирование вообще в целом копировать это не очень хорошо. Лучше на основе виденного создавать своё. И есть такая методология, она уже тысячелетиями восточных единоборствах. Кто занимался шухари, как же это происходит?

10: Для того, чтобы научился ученик, есть 1 понятие шу это принятие. Да, для начала нужно ученику научиться слепо копировать за мастером. Потом он начинает изучать и понимать взаимосвязи. Почему же мастер так делает?

11: И в конце рика, да, развития, он на основе виденного создаёт свою школу и свою стратегию и тогда побеждает. Поэтому нам важным моментом, да, мы будем повторять, но изучить для того, чтобы у нас был 2 момент. Ха, чтоб мы что-то смогли изменить.

12: И понять, как это происходит. Нам нужно изучить то, что будет под капотом, и для этого мы сможем управлять результатом. Иначе вы посмотрите какую-то, будете делать картинку, у вас не получается, либо будете что-то делать в chat gpt и вы не будете знать почему так получилось сказать. Глупая.

13: Машины и закинете это все? Нет, дело не в этом. Дело в том, что есть определённые моменты, как оно работает и даёт определённые ограничения. Давайте познакомимся с ними. Эти знаменитые нейросети. Об нём говорят везде. Но 1 хороший вопрос. Вы часто

14: Слышали нейросети? Искусственный интеллект, машинное обучение. 1 ли это тоже для определённых задач. Это все, конечно, можно свернуть и говорить это классным словом искусственный интеллект. Но давайте разберёмся нормально. Искусственный интеллект это область

15: Науки, то есть такая же, как физика, математика, биология, которая имеет определённые дисциплины и знания. 1 из них это машинное обучение, это подраздел науки, искусственного интеллекта, который рассказывает и изучает алгоритм.

16: Ритмы и модели, позволяющие компьютерам на основании больших данных делать какие-то расчёты. И вот в машинном обучении 1 из алгоритмов это нейросети. То есть, как вы понимаете, нейросети это не весь искусственный

17: Интеллект и chat gpt это тоже не весь. Это 1 из видов применения нейросети. Что для этого, что для нас здесь важно вы конечно можете это нормально использовать в обиходе понятие искусственный интеллект, но когда вы сейчас будете это понимать, будете слышать

18: Так что мы с помощью искусственного интеллекта там научились писать, там описание цветов звучит как инженеры бмв. Говорят, мы с помощью физики сделали новый автомобиль. Ну естественно, поэтому здесь очень важно очень чётко разделять, что нейросеть это

19: 1 из видов, есть ещё другие виды, их достаточно много. Мы в них не будем углубляться. Но если кто-то в дальнейшем будет чем-то заниматься с программированием, либо с решением каких-то задач, помните, нейросеть это хороший универсальный алгоритм, который сейчас, ну,

20: Популярности, но иногда это как из пушки по воробьям стрелять. Есть другие алгоритмы. Будет статья как бы в дополнительных материалах, где вы можете почитать, какие есть алгоритмы. Они быстрее, проще и быстрее вас приведут к нужным результатам. Но вернёмся к нашим нейросетям, то есть применение их огром

21: За это они в принципе получили свою популярность, что они универсальные, применяются во всех сферах. И это очень классно. То есть, соответственно, специалист может сразу как бы работать в разных отраслях, оно уже как в изображениях, в речи, в автономном автомобилях, в тесла, там переводы

22: То есть везде нейросети проникли, правда, везде, но мы о них в целом знаем ну, последние несколько лет откуда же они взялись на нашу голову? Первые вообще какие-то разговоры о модели создания искусственного нейрона ещё были в середине xx век.

23: Примерно когда на Острове Вануату происходили события, но пошли как бы алгоритмы 1 перцептрон, потом появились алгоритмы обратного распространения. Но самая такая для меня интересная вещь, которую даже я уже помню, это был 97 год.

24: Вот когда диблу тогда не называли искусственный интеллект, либо как-то по другому, это был компьютер победил чемпиона мира гарри Каспарова в шахматы. Тогда это был 1 такой огромный момент, что все компьютер победил. Дальше пошли игры в го.

25: Алгоритм начали развиваться, ну, наверное, коммерческой, такой большой, когда компании уже пришли к этому, старт дал 2012 год, когда сверхточные нейронные сети уже победили на конкурсе имнет, где специальный архив. То есть они показали, что именно сам

26: Алгоритм нейросетей, он и среди других машинного обучения более перспективный, ну и самая большая точка отправная, кстати, очень интересная, историческая это 2017 год. Компания google, как большая хорошая it компания публикует часто.

27: Научные работы в открытом доступе и 1 из них из этих работ называлась аттеншен из all you need внимание все, что нам нужно, это было про модель трансформер, и вот именно эта модель, именно эта работа запустила вот сейчас волну, которую мы

28: Из нейросетей именно модель трансформера сделала нейросети быстрыми и не прожорные к вычислениям, что мы сейчас получаем компания google, ну, скажем так, не 1 они выдали в открытый доступ, но сами не распознали.

29: Того, что они исследовали, кстати, и ни 1 из авторов этой статьи уже не работает в google. Ну, это так, ремарочка, поэтому они с нами уже достаточно давно, и мы с ними живём, и они решают определённые задачи, зачем же они в принципе,

30: С какими-то ботами, да, чат ботами нажал пару клавиш и все есть все хорошо. И вот боты решают такую задачу, простую неинтеллектуальную задачу. Задача, по которой известен сценарий, что надо сделать, осталось только сделать в самом простом механизме. Это вот какие-то инструкции, чётко, как нужн.

31: Сделать, может быть кто то когда-то работал в макдональдсе, вы понимаете, что там не надо несколько лет учиться. У вас есть классные инструкции, вам нужно их повторять. Если у нас совсем простой пример. Это вот если вы пошли в магазин, вам кто-то из родителей сказал, что купить есть список того, что надо купить.

32: И в крайнем случае, аналоги, вы знаете, купили все, положили в полку отлично, но это не все решается. И здесь очень интересное исследование. Есть и прекрасная книга дэниэль каннама. К сожалению, он уже несколько месяцев Наза.

33: Скончался. Это нобелевский лауреат по экономике, но сам он был психологом. Он посмотрел, как вообще мы совершаем какие-то покупки, и за это получил нобелевскую премию за поведенческую экономику, и он основная мысль его книги о том, что в нашем мозгу есть 2

34: Система, система 1 это такой автопилот. То, что мы хорошо уже изучили, бессознательно, как бы делаем, даже об этом как бы не думаем. Смотрите, наверное в 1 классе сейчас ещё как мне малой что-то писать, это реально нужно было напрягаться, знать, куда, чего сейчас.

35: Вы, не задумываясь, пишите, потому что даже если начнёте думать, будет так, блин, даже вы больше как бы времени потратите, мы делаем быстро, бессознательно минимум энергии, то, что у нас хорошо получается, но есть 1 момент. Вот эта система не работает тогда, когда у нас что-то неизвестно, к примеру.

36: С тем же магазином вы пошли в магазин, а он закрыт. Вы могли идти на автомате, думать о своём, но он закрыт. Все. Надо включать мыслительный процесс, в какой магазин пойти, какой сейчас работает, а где есть те продукты, которые мне нужны. Все рушится. И здесь вступает система 2. Это очень

37: Классная система, она такая, требующая усилий, но мощная. Готова решать любую задачу. Для меня почему-то аналогия это джаба звёздных войн. Вот эта огромная Махина, которая чего-то решает. Все было бы ничего. Умная, классная, только она полностью сжирает энергию. Реально.

38: Очень много энергии она сжирает, ей больно думать, и за это, в принципе, в мире больше всего платили, любили за тех людей, которые принимают решения, когда что-то неизвестно, когда все известно, что там принимать, делать какие-то вещи. И вот именно эту задачу покусились решать.

39: Как бы нейросети в принципе технологии искусственного интеллекта. Интеллектуальную задачу это задача, требующая мышления и на основании предыдущего опыта исторического квалификации пройдённых каких-то увиденных моментов. Мы принимаем решение в сложной ситуации. Это

40: То, что сейчас, в принципе, всегда просят на работу. Дайте нам специалиста, у которого двадцатилетний опыт, потому что он видел 1005 ситуаций. Конечно, в нашей компании там будет другая ситуация, но на основе этого опыта сможет принять какое-то решение, а не застынет. И вот

41: Нейросети попытались решить задачу. Если вернёмся к магазину, то это была бы записка. Купи что-нибудь вкусненькое. То есть надо знать, кто вам это написал, в каком настроении это написал, что вообще этот человек любит, что не любит. То есть вот она интеллектуальная задача.

42: Вот её пытаются решить нейросети, если взять какое-нибудь там в 2 предложения. 1 определение попробовал, поискал. Это как сеть нейронных блоков, выполняющих обработку информации. Ничего не понятно. Да, давайте уйдём от каких-то академических определений, постараемся.

43: Шагам это понять. Ну и прям, наверное, самый классический пример, если вы где-то, что читали, это про кошечек, определение картинки, кот, собака, как бы, ну, либо цыган, что у нас имеется, у нас имеется там 4 фотографии разных кошек.

44: Нам нужно в конце всего лишь определить, кто это кот либо собака, что же происходит для начала, как бы мы вот эти все изображения раскладываем по пикселям, ну на достаточно маленькие части, предположим, как пазл и пытаемся

45: Закономерности. Если мы видим вот такие вот треугольные ушки, отлично. Значит, мы записали ухо треугольное. И вот таким образом мы складываем это все в первые признаки. Так, ухо треугольное, глазки маленькие, Носик как будто чуть вверх это

46: Признаки. Потом мы ещё чуть уровень выше понимаем, что появляется шерсть, голова с такими ушками мы уже делаем все выше и выше так называемые слои. И потом мы принимаем решение. Кот это либо собака, но

47: Самое интересное нейросети рождаются глупыми, они принимают первые решения просто на обум рандомно, а потом человек, когда показывает ему 1000 фотографий кошки, 1000 собаки вот все помните капчу, который нас заставляет google где-то проходит.

48: Мы вот так вот и обучаем сети, и тогда уже сеть подстраивается под себя. То есть она понимает, так, я здесь неправильно определила. Я думала, что треугольные ушки это собака. Нет, теперь я буду относить как бы это к кошечкам и так по каждому как бы признаку это вот

49: Есть такое классическое краткое определение. Давайте теперь вот так вот совсем жизненно. Если понять, мы все используем нейросеть. Ну я буду, как все-таки со стороны мальчика мужчины говорить о том, что, предположим, девушки, да, мы смотрим, у нас тоже есть первые признаки.

50: Взгляд, внешность, как общается, с кем дружит, как вообще себя как бы ведёт. По этим признакам мы составляем следующий какой-то вывод. Угу. Она красивая, мне будет с ней приятно. Она умная. Ну, зарабатывать будет тоже хорошо. Заботливая, значит, где-то буде.

51: Детям и в конце мы решаем все свадьба, ну либо встречаемся. Вот наша, то есть мы собираем маленькие признаки в реальности, да, мы когда видим человека, неважно там другого пола, мы составляем о нём какое-то мнение и вот это

52: What 1000 признаков? Мы, которые мы сразу прорабатываем в голове, потому что мы когда-то видели, что, ага, человек, который плохо пахнет, плохо одет и без 3 зубов, скорее всего, попросит у нас как бы копеечку, да, то есть мы наша нейронная сет.

53: Уже так научилась и так мы тоже составляем какое-то своё резюме о людях. И, конечно, мы учимся, мы когда-то кому то доверились вот как нейросеть, да, получилось не так. Мы перематываем и говорим, вот этот признак не к тому ведёт, надо изменить.

54: Просто человеческая жизнь, она покороче, поэтому мы не можем сделать 1000 итераций, чтобы это понять. И вот, продолжая девушек, говорим о том, что истинно влюблённые не способны объяснить, за что они любят. Ну, специалисты по данным сказали бы, что неизвестно.

55: Это недостаток данных или алгоритмов анализа. Это все приводит к тому, что если разрыв отношений это или нехватка входных данных, то есть мы мало признаков оценили, посмотрели как бы либо плохо обученная модель, мы впервые с этим сталкивались, и это не толь.

56: Противоположный пол. В принципе, все общение с людьми, как мы воспринимаем, это такая же наша нейронная сеть. Почему так часто искусственный интеллект это очень похоже, наше взаимодействие, так как работает человек. Окей, тим, пройдём и можно сделать

57: Основной вывод, что так как нейросеть имеет огромный сейчас объём изученной информации, это, можно сказать, оцифрованный опыт экспертности человечества по всем сферам. За это его как бы так сильно и любят. Давайте придём ещё посмотрим. Хорош

58: Теперь более к последнему примеру у нас получается, должно быть какие-то данные на вход мы должны подавать и что-то должны получать в конце между ними вот чёрный ящик наш алгоритм машинного обучения, и на вход можно подавать текст изображения, музыку, мы это все

59: Посмотрим и на выходе может быть текст, изображение, видео, то есть они между собой, как бы, может быть, разные связи. И рассмотрим сейчас самое распространённое приложение, которое самое знаменитое, о котором мы говорили. Чат gpt. Это мы на входе даём текст, на выходе получаем текст.

60: А что у нас посередине алгоритм, давайте про неё посмотрим. В принципе про чат gpt множество можно поизучать, будут ещё материалы специально отличного автора игоря слошно вы почитаете, посмотрите, но нас будут интересовать 2 вещи, что это представитель.

61: Генеративного искусственного интеллекта. И это большая языковая модель. Давайте шаг за шагом посмотрим какие-то аналогии и найдём аналогию в реальном мире. Что же вообще ещё происходит? Представим такую задачу. Надо продать автомобиль. Ну, когда мы вообще любую

62: Вещь, что мы хотим, когда продать, узнать ту цену, которая максимально лучше всего попадёт в рынок, быстрее всего продастся. Она будет зависеть от разных факторов. Ну, допустим, я хочу понять, за сколько мне выставить машину. Я захожу, смотрю на каком-нибудь сайте сначала как бы

63: Сколько несёт? В зависимости от года. Это самый главный фактор. Новая, там 30000, там 4 года моя, например, там 23000. Дальше смотрим комплектации. Там, в luxe такая цена, в medium, такая цена, вот могут быть разные комплекта.

64: А потом же ещё есть объёмы двигателя, пробеги, функции крашены, бита, замены, колодки, фары, их более 150 функций. Да, и все это как-то будет влиять как бы на цену. А нам нужно предсказать и по сути дела у нас какой-то параметр.

65: Влияет на цену очень сильно, как год какие-то уже совсем, совсем маленькие и мы все выводим в уравнение, да, здравствуй, математика, 7 класс, уравнение, что есть какой-то коэффициент и мы туда поставляем данные. И в итоге так мы можем получить как бы нашу

66: Это в самом простом примере в эксельке можно сделать такую формулу, такой самый утрированный пример предсказания как бы нейронной сети, но представьте это только по официальным данным, в модели GPT-3 с половиной самой простой модели 175 миллиардов таких.

67: Параметров 175 миллиардов. По определённым оценкам, в модели 4 порядка 400 миллиардов таких параметров точных данных компания open не публиковала. То есть это колоссальное уравнение, которое нужно как бы просчитать, чтобы всего лишь найти следующий

68: Слово. И вот тут вот очень важно именно для модели текста текст слово генеративное значит о том, что модель создаёт то, чего раньше не существовало, то есть она его генерирует, реально создаёт, каким методом, как она понимает, какое следующее слово она

69: Смотрит то, что она до этого прочитала. Она прочитала миллионы. Мы сейчас посмотрим статей и предполагает варианты, что, скорее всего, здесь будет вот такое следующее слово. То есть, что для нас важно генеративно в картинках генеративная, она будет создавать тоже всегда новый, как бы результат, новую картинку в те,

70: Тоже самое, если вы попробуете, например, в чат джибиси при 1 и том же запросе несколько раз его послать, у вас всегда получится разный результат. Почему? Потому что это вероятностная модель, то есть она каждый раз может что-то

71: Немного, но всегда будет менять, но где-то мы это увидели. Вы в телефоне набираете, да, у вас как бы есть т 9. Сейчас уже как бы в почтах везде оно подсказывает вам следующее слово. По сути дела, это такой вот т, 9 на максималках, на стероидах, да.

72: Он слишком умный и исходя не только с 1 предложения от всего текста, что вы пишите, подсказывает вам следующее слово это как вот робот в передаче ещё моего детства, то есть той динозавровсказочные. Следующее слово за просто

73: Невероятным количеством миллисекунд. Вы видите, как быстро сейчас он пишет. Но 2 часть откуда же вообще он знает, какие слова идут за другим? Откуда появляется эта вероятность? Очень просто. Почему ещё выбран текст. Текст классный тем, что он уже имеет

74: Свою структуру, кроме магистра йоды, все мы более менее нормально говорим. То есть в английском языке вообще есть хороший порядок слов. Если прочитать миллионы текстов, да, то можно уже понимать, что после этого, скорее всего, пойдёт какое-то другое слово.

75: Даже не зная языка. Поэтому эта огромная сеть обучена на огромном объёме текстовых данных, которая увидела закономерности, как мы говорим, объём реально был огромный, это были текстовые данные. То есть, да, все, что мы писали,

76: В интернете 10 лет все туда ушло. Не все, конечно, хорошее, но все туда пошло. Это википедия, это даже разные законы, отчёты, мировые книги. Всего. Если взять, просто прикинуть, то человеку бы понадобилось порядка 28000 лет 1, чтоб

77: Весь такой объём информации прочитать. Соответственно, конечно, это невозможно очень много. И давайте промоделируем финальный момент, как же происходит это почему? Вот он как бы видит взаимосвязь и пишет в принципе, связный текст, потому что предыдущие не писали. Вот я

78: Саксофонист и такая вот история. Вы, наверное, когда-нибудь видели, что есть на улице саксофонист, которому приходите, говорите какую-то песню, либо напеваете, и он вам её играет. Как же происходит? Он никогда не знает, что будет в середине, он начинает играть первые ноты, но так как он уже 3

79: 30 лет играл вот этот его корпус обучения. Он вспоминает, что после такой ноты, скорее всего, лучше поставить вот эту, это будет хорошо звучать. Потом следующую, следующую, следующую. И так он наигрывает как бы мелодию. Каждый раз она получится у него немного разная, если вы 5 раз у него

80: Попросите он такой саксофонист, сыграть, она будет чуть чуть в разных нот, но будет разная, потому что он именно импровизирует на основе своего опыта, также импровизирует модель.

81: В конце хотел бы сказать, а люди то вообще где и как самое главное, что почему вот модель стала ещё про серии, про часть. И потому что до этого тоже были разные вещи. Она стала писать по-людски. Крошка сын пришёл к отцу и спросила кроха, что такое

82: Хорошо. И что такое плохо? Это, кстати, самый фундаментальный вопрос для нейросетей в конце всего этого, когда мотель начал что-то писать непосредственно, уже люди показали, выбрали, какие варианты им больше нравятся, какие нет, чтобы он писал более по-людски.

83: Конечно, сейчас есть ещё вы можете посмотреть, что модель 3 с половиной самая простая. Зачастую пишет такое. Можно увидеть, что ты написал чат gpt модель уже 4, о, пишет намного более, скажем так, подобно человеку. То есть мы так уже делаем, и каждый раз оно добу

84: Поэтому 3 основных вывода про нейросети, которые будут нам важны. 1 то, что ещё раз говорю, генеративное, он всегда будет создавать новое, да, он пройдёт плагиат, но в то же время, как бы повторить 1 в 1 он не сможет.

85: И поэтому не пытайтесь никогда у него спросить цитаты он всегда делает очень похоже, но придумает 2. Важно, что корпус обучения, он огромный, но все равно не все. Он ничего не знает про вашу жизнь, про мою жизнь и про компании в целом, про нашу.

86: Он тоже не так много, как бы он нюансов знает, поэтому в него нужно будет ещё новые знания загружать. Мы это посмотрим в других уроках. И самая сложная задача, казалось бы, при такой системе это просто ему донести. Что же вы от него хотите непосредственно

87: Что будет для вас? Хорошо, что будет для вас плохо, потому что все эти алгоритмы это самый большой подхалим в мире. У них всего лишь 1 задача. Нет никакого сознания, нет ничего. Всего лишь 1 задача, чтоб вы поставили ему.

88: Лайк и он должен для вас подстроиться, понять, что же именно вам нужно. Он выполняет 1000 функций, кроме 1 экстрасенса. Поэтому как учиться описывать, что мы хотим от него в картинках, видео, потом в тексте мы как раз-таки будем на следующих уроках.

89: Наша встреча заканчивается. Пишите ваши как бы вопросы. Если вы посмотрите дополнительные материалы, вам будет что-то непонятно и уже тогда на основе их мы сделаем прямой эфир и прямо ваш вопрос можем