0: Я хочу рассказать вам о том, что, по моему мнению, грядёт, мне посчастливилось работать над искусственным интеллектом уже почти 15 лет, когда я только начинал назвать это чем-то второсте.

1: Penn было бы преуменьшением, исследователи сказали бы нет, нет, мы работаем только над машинным обучением, потому что работа над искусственным интеллектом считалась чем-то слишком далёким. В 2010 году 1 только упоминание фразы аджи искус.

2: Общий интеллект вызывало у людей очень странные взгляды и даже холодное отношение. Люди говорили, что вы на самом деле создаёте аджи. Разве это не что-то из научной фантастики? Люди думали, что это произойдёт через 50 или 100 лет?

3: Если это вообще возможно, разговоры об искусственном интеллекте, я думаю, были немного неловкими. Люди обычно думали, что мы странные, и я думаю, что в некотором смысле мы такими и были. Однако прошло совсем немного времени, прежде чем искусственный интеллект начал побе.

4: Ждать людей в целом ряде задач, которые раньше считались недоступными понимание изображений, перевод Языков, расшифровка речи, игра в го шахматы и даже диагностика заболеваний.

5: Люди начали осознавать тот факт, что искусственный интеллект окажет огромное влияние, и они справедливо задавали технологам, таким, как я, довольно сложные вопросы правда ли, что искусственный интеллект решит климатический кризис, сделает ли это персонализированный?

6: Образование доступным для всех. Означает ли это, что мы все получим всеобщий базовый доход и нам больше не придётся работать? Должен ли я бояться, что это значит для оружия и войны, и, конечно же, победит ли Китай, участвуем ли мы в гонке, движемся ли?

7: Мы к апокалипсису массовой дезинформации все это хорошие вопросы, но на самом деле это был более простой и гораздо более фундаментальный вопрос, который поставил меня в тупик, вопрос, который на самом деле затрагивает самую суть моей рабо.

8: Боты каждый день однажды утром за завтраком мой шестилетний племянник каспиан играл в spy искусственным интеллектом, который я создал в своей последней компании инфлекс с набитым ртом яичницы с беконом, он посмотрел мне прямо в лицо и спросил.

9: А что такое искусственный интеллект? Он такой искренний, любознательный, оптимистичный маленький парень.

10: Он говорил о том, как было бы здорово, если бы однажды в будущем он смог посетить динозавров в зоопарке и как он мог бы приготовить бесконечное количество шоколада дома, и почему пай ещё не может играть в я шпион.

11: Ну, я сказал, что это умная программа, которая прочитала большую часть текста в открытом интернете и может говорить с тобой о чем угодно. Верно? Так что это как человек тогда.

12: Я был в тупике, искренне почёсывал затылок.

13: Все мои скучные стандартные ответы пронеслись у меня в голове нет, но искусственный интеллект это просто ещё 1 технология общего назначения, такая как печать или паровой двигатель. Это будет инструмент, который будет дополнять нас и делать нас умнее и продуктивнее. А когда со

14: Временем он станет ещё лучше. Он будет подобен всезнающему оракулу, который поможет нам решать грандиозные научные задачи. Вы знаете, все эти ответы начали казаться мне, я думаю, немного оборонительными и на самом деле больше подходящими для политического семинара, чем

15: Для завтрака с серьёзным шестилетним ребёнком почему я колеблюсь? Подумал я про себя.

16: Знаешь, давай будем честны. Мой племянник задал мне простой вопрос, с которым те из нас, кто занимается искусственным интеллектом, просто не сталкиваются достаточно часто. Что же это такое? Что мы на самом деле создаём? Что значит создать?

17: Что-то совершенно новое, фундаментально отличное от любых изобретений, которые мы знали раньше.

18: Ясно, что мы находимся на переломном этапе в истории человечества.

19: При нашей нынешней траектории мы движемся к появлению чего-то такого, что мы все изо всех сил пытаемся описать, и все же мы не можем контролировать то, чего не понимаем.

20: И поэтому метафоры, ментальные модели, названия все это имеет значение. Если мы хотим получить максимальную отдачу от искусственного интеллекта, в то же время ограничивая его потенциальные недостатки как человек, который использует возможности этой технологии, но который

21: Также всегда глубоко заботился об её этике. Мы должны, я думаю, иметь возможность легко описать то, что мы строим, и это включает в себя шестилетних детей. Именно в этом духе. Я предлагаю сегодня следующую метафору, которая поможет нам попытаться разобраться в том,

22: Что же на самом деле представляет собой этот момент? Я думаю, что искусственный интеллект лучше всего понимать как нечто вроде нового цифрового вида.

23: Не воспринимайте это слишком буквально, но я предсказываю, что мы будем воспринимать их как цифровых компаньонов, новых партнёров в путешествиях всей нашей жизни, независимо от того, считаете ли вы, что мы находимся на пути к этому в течение 1020.

24: Или 30 лет, на мой взгляд, это самый точный и самый фундаментально честный способ описания того, что на самом деле грядёт, и прежде всего это позволяет каждому подготовиться и сформировать то, что будет дальше.

25: Теперь я полностью осознаю, что это сильное утверждение, и я собираюсь объяснить всем, как только смогу, почему я его делаю. Но сначала позвольте мне просто попытаться установить контекст от самых первых микроскопических организмов. Жизнь на земле насчитывает милли.

26: Миллиарды лет за это время жизнь эволюционировала и разнообразилась, затем, несколько миллионов лет назад что-то начало меняться после бесчисленных циклов роста и адаптации 1 из ветвей жизни начала использовать орудия.

27: Труда, и эта ветвь превратилась в нас

28: Мы продолжили создавать завораживающее разнообразие орудий труда сначала медленно, а затем с поразительной скоростью мы прошли путь от каменных Топоров и огня до языка письменности и в конечном итоге, промышленных технологий.

29: 1 изобретение породило 1000 других, и со временем мы стали homo течно лоджии касс.

30: Около 80 лет назад началась ещё 1 новая ветвь развития технологий с изобретением компьютеров мы быстро перешли от первых мейнфреймов и транзисторов к сегодняшним смартфонам и гарнитурам виртуальной реальности информация, знания.

31: Коммуникация вычисления в ходе этой революции творчество расцвело как никогда раньше.

32: И теперь на нас надвигается новая волна, искусственный интеллект эти исторические волны явно ускоряются по мере того, как каждая из них усиливается и ускоряется предыдущей, и если оглянуться назад, становится ясно, что мы находим.

33: На самой быстрой и самой значимой волне за всю историю пути человечества и технологии теперь тесно переплетены всего за 18 месяцев более миллиарда человек использовали большие языковые модели, мы стали свидетелями 1 знамён.

34: События за другим всего несколько лет назад люди говорили, что искусственный интеллект никогда не сможет творить, и все же сейчас искусственный интеллект кажется бесконечным источником творчества, создавая поэзию, изображения, музыку и видео, которые поражают воображение.

35: Люди говорили, что искусственный интеллект никогда не сможет сопереживать, и все же сегодня миллионы людей наслаждаются содержательными беседами с искусственным интеллектом, рассказывая ему о своих надеждах и мечтах и помогая ему справляться с трудными эмоциональными проблемами искусственный

36: Интеллект теперь может водить машины, управлять энергетическими сетями и даже изобретать новые молекулы всего несколько лет назад все это было невозможно, и все это ускоряется за счёт экспоненциального роста данных и вычислений.

37: В прошлом году наша последняя модель in flexion 2,5 использовала в 5 миллиардов раз больше вычислений, чем искусственный интеллект дип майнд, который всего 10 лет назад победил в старых играх этари.

38: Это на 9 порядков больше вычислений 10 раз в год. Каждый год в течение почти 10 лет, за это же время размер этих моделей вырос с первых Десятков миллионов параметров до миллиардов параметров.

39: И очень скоро, до Десятков триллионов параметров. Если бы кто-то ничего не делал, а только читал по 24 часа в сутки в течение всей своей жизни он бы прочитал 8 миллиардов слов. И, конечно же, это очень много слов, но сегодня

40: Самый продвинутый искусственный интеллект потребляет более 8 триллионов слов за 1 месяц обучения.

41: И все это будет продолжаться длинная дуга технологической истории сейчас находится в совершенно новой фазе.

42: Так что же это значит на практике? Ну точно так же, как интернет дал нам браузер, а смартфон дал нам приложение облачный суперкомпьютер открывает новую эру повсеместного искусственного интеллекта.

43: Скоро все будет представлено в виде диалогового интерфейса или, другими словами, личного искусственного интеллекта.

44: И эти искусственные интеллекты будут бесконечно осведомлены, и скоро они будут фактически точными и надёжными, у них будет почти идеальный коэффициент интеллекта, у них также будет исключительный коэффициент эмоционального интеллекта, они будут добрыми, поддерживающими

45: Чуткими сами по себе эти элементы были бы трансформационными, только представьте, если бы у каждого в кармане был персональный репетитор и доступ к недорогим медицинским консультациям юрист и врач, бизнес стратег и turner все это.

46: Будет у вас в кармане 24 часа в сутки, но все действительно начинает меняться, когда у них развивается то, что я называю коэффициентом действий, в этом и заключается их способность выполнять работу в цифровом и физическом мире и в скором

47: Имени. Не только люди будут обладать искусственным интеллектом. Как бы странно это не звучало. Каждая организация от малого бизнеса до некоммерческих организаций и национальных правительств. Каждое из них будет иметь свой собственный искусственный интеллект, каждый город, здание, объект.

48: Будут представлены уникальной интерактивной персоной, и это будут не просто механистические помощники, они будут компаньонами, доверенными лицами, коллегами, друзьями и партнёрами, столь же разнообразными, уникальными, как и мы все.

49: На данный момент искусственный интеллект будет убедительно имитировать людей в большинстве задач, и мы заполним это в самых интимных масштабах. Искусственный интеллект, организующий общественные собрания для пожилых соседей. Сочувствующий эксперт, помогающий вам

50: Разобраться в сложном диагнозе, но мы также почувствуем это в самых больших масштабах ускоряя научные открытия, автономные автомобили на дорогах, беспилотники в небе, они будут как заказывать еду на вынос, так и управлять электростанцией.

51: Они будут взаимодействовать с нами и, конечно же, друг с другом. Они будут говорить на всех языках, воспринимать все виды сенсорных данных, виды, звуки, потоки и потоки информации, намного превосходящие то, что любой из нас мог бы потребить за 1000 жизней.

52: Так что же это такое? Что это за искусственный интеллект?

53: Если мы хотим поставить безопасность превыше всего, если мы хотим, чтобы эта новая волна всегда служила человечеству и усиливала его, тогда нам нужно найти правильные метафоры для того, что это может стать.

54: В течение многих лет мы в сообществе искусственного интеллекта, и я, в частности, имели тенденцию называть это просто инструментами.

55: Но на самом деле это не отражает того, что на самом деле здесь происходит искусственный интеллект явно более динамичен, более неоднозначен, более интегрирован и более эмергентные просто инструменты, которые полностью подвластны человеческому контролю. Итак,

56: Чтобы сдержать эту волну, чтобы поставить во главу угла человеческий фактор и смягчить неизбежные, непреднамеренные последствия, которые, скорее всего, возникнут, мы должны начать думать о них так, как мы могли бы думать о новом виде цифровых существ.

57: Сейчас это просто аналогия, это не буквальное описание, и оно не идеально. Я имею ввиду, что для начала они явно не являются биологическими в каком-либо традиционном смысле, но просто сделайте паузу на мгновение и действительно, подумайте о том, что они уже делают, они общ.

58: Общаются на наших языках, они видят то, что видим мы, они потребляют невообразимо большие объёмы информации, у них есть память, у них есть индивидуальность, у них есть творческий потенциал.

59: Они могут даже до некоторой степени рассуждать и формулировать элементарные планы, они могут действовать автономно, если мы им это позволяем, и они делают все это на уровнях сложности, которые намного превосходит все, что мы когда-либо знали от простого инструмента.

60: И поэтому говорить, что искусственный интеллект в основном связан с математикой или кодом, все равно что говорить, что мы, люди, в основном состоим из углерода и воды, это правда, но это совершенно упускает суть.

61: И да, я понимаю, что это очень захватывающая мысль, но, честно говоря, я думаю, что такая постановка вопроса помогает нам заострить внимание на важнейших проблемах. Каковы риски?

62: Какие границы нам нужно установить?

63: Какой искусственный интеллект мы хотим создать или позволить создать. Это история, которая все ещё разворачивается. Ничто не должно приниматься как данность. Мы все должны выбрать, что мы создаём, какой искусственный интеллект мы привносим в этот

64: Мир или нет?

65: Это вопросы для всех нас, присутствующих здесь сегодня и для всех нас, живущих в данный момент, для меня, преимущества этой технологии потрясающе очевидны, и они вдохновляют мою работу каждый божий день.

66: Ну, откровенно говоря, они скажут сами за себя.

67: За эти годы я никогда не уклонялся от того, чтобы говорить о рисках и недостатках такой образ мышления помогает нам сосредоточиться на огромных проблемах, которые ждут нас впереди, но давайте внесём ясность не существует пути к прогрессу, на котором

68: Мы оставим технологии позади, приз, стоящий перед всей цивилизацией, огромен.

69: Нам нужны решения в области здравоохранения и образования, чтобы справиться с климатическим кризисом, и если искусственный интеллект реализует хотя бы часть своего потенциала, следующее десятилетие станет самым продуктивным в истории человечества. Вот ещё 1 способ.

70: Взглянуть на это в прошлом раскрытие экономического роста часто сопровождалось огромными недостатками экономика расширялась по мере того, как люди открывали новые континенты и осваивали новые рубежи, но в то же время они колонизировали.

71: Для населения мы строили заводы, но они были мрачными и опасными местами для работы мы добывали нефть, но загрязняли планету.

72: Теперь, поскольку мы все ещее проектируем и строим искусственный интеллект, у нас есть потенциал и возможность сделать это лучше, радикально лучше. И сегодня мы не открываем новый континент и не разграбляемые го ресурсы, мы строим его с нуля.

73: Иногда люди говорят, что данные или чипы это новая нефть 21 века, но это совершенно неверный образ, искусственный интеллект это тоже самое, что ядерный синтез для энергии.

74: Безграничный, Изобильный, меняющий мир.

75: И искусственный интеллект действительно отличается. Это означает, что мы должны думать об этом творчески и честно. Мы должны довести наши аналогии и метафоры до предела, чтобы иметь возможность справиться с тем, что грядёт, потому что это не просто

76: Ещё 1 изобретение. Искусственный интеллект сам по себе является бесконечным изобретателем. И, да, это одновременно и захватывающее, и многообещающе, и тревожно, и интригующе. Если честно, это довольно сюрреалистично, но

77: Отступите на шаг назад, посмотрите на это с точки зрения ледникового периода, и вы увидите, что это действительно самые подходящие метафоры, которые у нас есть сегодня с самого начала жизни на земле мы развивались, менялись, а затем создавали все вокруг себя в нашем

78: Человеческом мире сегодня.

79: И искусственный интеллект это не что-то вне этой истории. На самом деле это полная противоположность, это вся совокупность всего, что мы создали, сведённая к чему-то, с чем мы все можем взаимодействовать и извлекать из этого пользу. Это

80: Отражение человечества во времени, и в этом смысле это вовсе не новый вид, на этом метафоры заканчиваются. Вот что я скажу каспиану в следующий раз, когда он спросит искусственный интеллект не является чем-то отдельным.

81: Искусственный интеллект даже в некотором смысле не является чем-то новым. Искусственный интеллект это мы, это все мы. И это, пожалуй, самая многообещающая и жизненно важная вещь из всего, что может понять даже шестилетний ребёнок по мере

82: Того, как мы создаём искусственный интеллект, мы можем и должны отразить все, что есть хорошего, все, что мы Любим, все, что есть особенного в человечестве. Наше сочувствие, наша доброта, наше любопытство и наша креативность, я бы сказал.

83: Что это величайший вызов 21 века, но также и самая замечательная, вдохновляющая и обнадёживающая возможность для всех нас.

84: Спасибо тебе.

85: Спасибо тебе. Спасибо тебе за это. Это удивительное видение и супер мощная метафора. Ты находишься в удивительном положении прямо сейчас. Я имею ввиду, что ты был тесно связан с удивительной работой, происходящей в open a. У тебя будут доступны ресурсы. Есть

86: Об этих гигантских новых центрах обработки данных, 100 миллиардов долларов, вложенных в них и так далее. И из этого может возникнуть новый вид. Я имею ввиду, что ты уже сделал это в своей книге. Вы не только нарисовали невероятно оптимистичное

87: Видение, но и были очень красноречивы в отношении опасности искусственного интеллекта. И мне просто любопытно с той точки зрения, которая у вас есть сейчас. Что же больше всего не даёт вам спать по ночам. Я думаю, что большой риск заключается в том, что мы попадаем в ловушку, которую я называю ловушкой отвращения.

88: К пессимизму. Вы знаете, мы должны иметь мужество, чтобы противостоять потенциальным темным сценариям, чтобы получить максимальную отдачу от всех преимуществ, которые мы видим, не так ли? Так что хорошая новость заключается в том, что если вы посмотрите на последние 2 или 3 года, то увидите, что недостатков было очень, очень.

89: Мало, не так ли? Очень трудно прямо сказать, какой вред причинил искусственный интеллект. Но это не значит, что такова будет траектория развития в течение следующих 10 лет. Так что я думаю, что если вы обратите внимание на несколько конкретных возможностей, возьмём, к примеру, автономию автономия.

90: Это очень очевидный порог, превышение которого увеличивает риск в нашем обществе. И это то, к чему мы должны стремиться, очень, очень близко. Другое это что-то вроде рекурсивного самосовершенствования. Если вы позволите модели самостоятельно совершенствоваться, обновлять свой собственный код.

91: Исследовать окружающую среду без надзора и без контроля со стороны человека, чтобы изменить то, как она работает. Это, очевидно, будет более опасно. Но я думаю, что мы все ещё находимся в некотором отдалении от этого. Я думаю, что пройдёт ещё добрых 5 10 лет, прежде чем нам действительно придётся стол.

92: С этим. Но сейчас самое время начать говорить об этом. Цифровой вид, в отличие от любого биологического вида, может воспроизводиться не за 9 месяцев, а за 9 наносекунд, и создавать неограниченное количество Копий самого себя, и все они обладают большей мощностью, чем мы во многих отношения.

93: Я имею ввиду, что возможность непреднамеренных последствий кажется довольно огромной. И не правда ли, что если возникнет проблема, то это может произойти в течение часа. Нет, на самом деле это не так. Я думаю, что нет никаких доказательств, которые могли бы это подтвердить, и яду.

94: Думаю, что это то, что часто называют интеллектуальным взрывом, и я думаю, что это теоретическая, гипотетическая возможность, которую нам всем было бы любопытно изучить, но нет никаких доказательств того, что мы находимся где-то рядом с чем-то подобным. Я думаю, что это очень важно, чтобы мы выбирали наш

95: Слова очень тщательно, потому что вы правы. Это 1 из недостатков видового обрамления. Мы создадим возможность самовоспроизведения в нём. Если люди Решат сделать это, и я бы на самом деле утверждал, что мы не должны этого делать, не так ли? Это была бы 1 из опасных возможностей.

96: Которой нам следует отказаться, не так ли? Так что нет никаких шансов, что это возникнет случайно. Я действительно думаю, что это очень маловероятно. Это произойдёт, если инженеры намеренно спроектируют эти возможности, и если они не предпримут достаточно усилий, чтобы намеренно их

97: Исключить. И именно в этом и заключается смысл того, чтобы быть откровенным и прозрачным в отношении того, чтобы попытаться внедрить безопасность с самого начала. Так что спасибо вам. Итак, я имею ввиду, что ваше видение состоит в том, чтобы человечество вложило в эту новую вещь лучшее

98: Части самих себя, избегая всех тех странных, биологических, причудливых, ужасных наклонностей, которые у нас могут быть при определённых обстоятельствах. Я имею ввиду, что это очень вдохновляющее видении.