0: Password единственный менеджер паролей, сертифицированный в стек России. Правда ли, что искусственный интеллект уже имеет сознание и эмоции? Зачем ии. Притворяется, что он глуп?

1: Почему новую нейросеть скрывали несколько месяцев, зачем gpt соврал незнакомцу, что он незрячий, заменит ли в будущем деньги на токены и можно ли контролировать то, что умнее тебя?

2: И ставьте лайк, если видео вам зашло, это сигнал алгоритмам, что наши ролики нужно распространять шире. Особенно важно. Сейчас я ценю каждого, кто помогает за подписки, колокольчики и комменты. Отдельный респект. Привет.

3: Это проект основа. Меня зовут Борис Веденский. Сегодня у нас в гостях Роман непольский, профессор университета луис Виля, исследователь искусственного интеллекта. Сегодня поговорим про наше будущее и про искусственный интеллект. Добрый день, добрый. Я нашёл в интернете очень интересный график, на котором видно

4: Увеличение количества параметров, на которых работают технологии искусственного интеллекта за последние 50 лет с 1000 штук в пятидесятых годах до 1 триллиона уже сейчас. И вот что интересно многие

5: Люди, которые занимаются ии, говорят, что искусственный интеллект получает какие-то новые свойства просто от увеличения масштабов, то мы загружаем больше параметров, и он вдруг начинает уметь что-то новое. Можете рассказать об этом.

6: Какие есть примеры таких прорывов и что он будет уметь, когда мы увеличим количество этих параметров ещё в 10 100 раз. Все правильно, причём мы начинали даже не s 1000, а с 1 изначально просто

7: Вот на бумаге учёные там рисовали клетку, и сигнал к ней мы видим в животном мире абсолютно ту же систему, чем больше мозг у организма там от каких-то букашек до белок, до обезьян.

8: До человека, тем большее количество нейронов в их мозгах, тем больше они способны делать. Модель пытается сделать статистическую модель мира. Искусственный интеллект пытается это сделать. И чем больше

9: Параметров. Тем лучше можно объяснить, как работает эта модель, что необходимо для предсказания будущего в этой модели следующего токена. То есть законы физики нужны статистические какие-то разработки, то есть

10: Именно так. И мы знаем, на примерно каком уровне работает мозг человека, сколько параметров, сколько это можно посмотреть. 10, 23, по моему, надо посмотреть точно рейков. У него прекрасные графики этого всего. И он именно посчитал, сколько

11: 1 мозг. Сколько мозг всех людей вместе взятых? И в каком году у нас на тысячедолларовом этапе можно будет это все симулировать. А аналогом параметров в человеческом мозге имеется ввиду связь между нейронами, то есть

12: У нас есть сколько там 100 миллиардов нейронов, если я правильно помню, и у каждого ещё по хрен знает сколько тысяч связей. Вот это количество этих клеток и связь между ними, да. Так вот что же, что же будет уметь нейросеть, в которой будет, не знаю, 100 триллионов нейронов в 100 раз больше, чем

13: Сейчас, ну, она будет делать то, что мы можем только лучше в большем масштабе. То есть более, скажем, если мы делаем какие-то математические доказательства, она сможет доказывать намного более сложные теоремы, она может лучше предсказывать, что будет

14: В будущем, то есть, если сегодня мы можем предсказать, не знаю, погоду, там на 2 дня, 3 дня, 10 дней, она, может быть, сможет делать это на год вперёд. Я не знаю, какие ограничения вообще возможны в предсказании будущего, зная достаточно законов физики, но

15: Основное, что она будет намного лучше в предсказании, неважно, во что погода, экономика, рынок ценных бумаг, какие-то конкретные новые способности предсказать заранее трудно, потому что, ну, у нас их нет.

16: Просто не знаем о том, что возможно, но вот если сравнить сегодня, что может 1 человек против всего человечества, мы уже видим какие-то явные улучшения, то есть система, которая может продвигать науку и физики, и химии.

17: В биологии, возможно, какие-то новые изобретения, новые целые отрасли индустрии.

18: Про общую терминологию есть термин общий искусственный интеллект, он же ag i. И я недавно у вас видел в выступлении ещё отдельный термин сверхразум можете рассказать, что по текущим представлениям.

19: Является egi и чем круче сверхразум да, egi ближе всего к человеку, то есть вот это вот примерно на уровне человека способность выучить какие-то новые темы, заниматься наукой, математикой.

20: Химия. Опять же, все, что я перечислял, как посмотреть, чем студенты в университете заняты. Скажем так, суперинтеллект это система, которая умнее, чем все люди, вместе взятые во всем. То есть она будет чемпионом мира по шахматам, обыграет всех.

21: На рынке ценных бумаг и так далее. То есть мы просто не сможем с ней соревноваться ни в какой области. Угу. То есть здесь важно именно не только, не только пиковый интеллект 1 конкретного человека, но именно коллективного разума, так сказать, человечества, тож

22: Да, потому что, как бы, ну, 1 человек может в чем-то быть неплох, но почти во всем остальном он ужасен, я не говорю, там на сотнях Языков, я не играю на всех музыкальных инструментах и так далее. Человечество же это может делать, то есть на

23: Более высокий стандарт. Каковы сейчас прогнозы по достижению вот этого сверхинтеллекта, супер интеллекта. Ну, если верить компаниям, они говорят, что примерно через год 2 начнётся процесс самоулучшения, то есть тот интеллект, который

24: Сейчас есть модели начнут помогать заниматься наукой, исследованиями в области искусственного интеллекта, они будут ставить эксперименты, они будут писать код, и поэтому прогресс улучшения пойдёт очень, очень быстро. Если через год, 2 мы дойдём до уровня вот этого вот

25: Общего искусственного интеллекта. Скорее всего, в следующие 6 месяцев мы дойдём до супер интеллекта, если не раньше, то есть нужно будет просто нажать кнопочку старт. Ну может быть даже кнопочку нажимать не придётся, там уже все запущено, как бы здесь уже сейчас агенты, которые постоянно

26: Работают над изменением своих мета команд. То есть, возможно, этот процесс просто органически перейдёт в следующий этап, когда система станет достаточно способной для этого. Можем ли мы быть уверены, что текущая архитектура, кото

27: Являются большие языковые модели, они же ллм способны для того, чтобы этого достичь. Я так понимаю, есть точка зрения, в том числе у господина лекуна, что этой штуки будет недоста.

28: Этой технологии. Ну, некоторые так думают, но пока я не видел никаких причин для этого, уже сегодня эти модели каждую неделю делают что-то супер интеллектуальное, доказывают новые математические теоремы, они

29: Пишут 100% кода для многих компаний было бы очень странно, если бы вдруг завтра они полностью перестали улучшаться, хотя в последнее время улучшались где-то на 20 30% ежегодно. А как вы думаете, когда

30: Какое будет 1 задание, которое ему дадут, кто кому суперинтеллект человеку или наоборот, наоборот, человек суперинтеллект. Вот это вот я не уверен как раз в этом вот вся проблема контроля и безопасности. Если он умнее, то, возможно, он и главный. Ну то есть, может быть,

31: История такая, что мы не увидим момент, когда, когда он стал супер интеллектом, потому что он нас обхитрит, в какой-то мере он уже умнее нас. То есть мы видим конкретно, где он добился того, что люди не могли в течение 100 лет, пытались доказать. Вот

32: Эту математическую теорему и не удалось. Пришёл интеллект и сделал это очень быстро, эффективно. И, скорее всего, мы увидим это в других областях. Нет, конечно, никаких причин думать, что это произойдёт сразу же он может потратить.

33: Большое количество времени, чтобы понять ситуацию, собрать какие-то дополнительные ресурсы, сделать копии себя, чтобы обезопасить себя от удаления. Но в тот момент, когда он становится умнее нас, мы уже не можем так легко.

34: Этот процесс остановить и изменить. Ну, допустим, что мы пока ещё дружим с ним, что мы его попросим сделать 1 делом. Ну, на сегодняшний день эти компании надеются, что он им поможет обезопасить сам искусственный интеллект, то есть попросить его

35: Объяснить, как его лучше контролировать, как сделать, чтобы он не делал что-то такое, что может вызвать потерю человечества, если какие-то террористы хакеры до него доберутся и начнут его использовать в неправильных целях, как обезопасить?

36: Нас от этого. И потом все остальные проблемы, которые у нас есть, старение, болезни, энергетика, войны. Ну, я все в голове представляю, что условное правительство в этот момент приходит этой страны, где это произошло, и говорит так,

37: Значит, вот у меня есть главный конкурент, скорее всего, это будет 1 из 2 стран, мы так понимаем, да, и зная, какая это страна, мы знаем, что это за конкурент. И он говорит, вот у меня есть главный конкурент. Вот хочу его, значит, задоминировать. Напиши мне план. Ну, как правило, они пытаю.

38: Сделать, чтобы у конкурента не появился свой супер интеллект. То есть 1 задание, скорее всего, сделать так, чтобы в их лабораториях что-то произошло, может быть незаметно, может быть заметно, чтобы они не достигли такого же уровня, если, скажем, сейчас наши конкуренты 3

39: Или 6 месяцев позади нас этого должно быть достаточно, чтобы их затормозить и остановить на долгое время.

40: Ну и что, что 1000000 просмотров звать все равно не будем. Он уже везде. Найди мне человека, который 20 лет копает 1 Курган и не отвечает на звонки. Вот это подойдёт. Все до связи.

41: Созвон закончен. Обычно после этого начинается самое интересное. Операционка. Могу забрать её на себя. Показывай в битрикс 24 я сделаю выжимку из видеозвонка.

42: Заполню карточку сделки после разговора с клиентом, а из голосового создам задачу и назначу исполнителя. Если понадобится, помогу на вайб кодить бизнес решения. И это все в 1 сервисе.

43: Конечно, мессенджер с кружочками задачи CRM и онлайн доски в 1 пространстве с ai помощником начать можно бесплатно ссылка в описании хорошо, тогда операционку оставляю тебе битрикс 24.

44: Помогает бизнесу работать.

45: Если я правильно понимаю, вы долго занимались работой с ботами искусственного интеллекта, которые играют в покер. Можете про это рассказать, как вы их исследовали, какие эксперименты на них ставили, как изучали поведение, иску?

46: Интеллекта. Таким образом, это было в годы аспирантуры. Я получил свою докторскую за эти исследования. В то время искусственный интеллект был на очень низком уровне, то есть покерные боты, они ничего нового не придумали, у них были параметры, они по ним

47: Шли довольно чётко все, что мы пытались сделать, это распознать. Человек это играет или бот, и среди Ботов. Если по стилю игры мы можем узнать, какой именно бот, чтоб примерно хотя бы знать, кто ответственный за это. То есть это было

48: Sub дисциплина стилометрии, то есть это часто используется для распознавания авторства, кто написал какую-то литературную работу или документ, мы просто применили это в новой индустрии, вот стиле.

49: Игры, то есть есть похожие разработки в шахматах. Играет ли человек сам или он использует айай, чтобы ему помочь. И мы это сделали в покере. То есть по стилю игры я мог узнавать игроков. Ну, в общих чертах, когда неболь

50: Большое количество возможных и понять, если чей-то аккаунт может быть взломали и там сейчас просто сливают деньги ботами. Ну искусственный интеллект уже играет лучше человека в покер да, это хороший вопрос. Есть подвиды, игры.

51: Он точно намного лучше. То есть, если, скажем, 1 на 1, ему, конечно, намного легче, чем полный стол, но мне кажется, и в этой, я не слежу за этой индустрией последние несколько лет, но, по моему, и в этом они уже на

52: Супер уровни. Во первых, у них идеальная память, они помнят все предыдущие игры, ваш стиль. Они знают, что, скорее всего, вы делали в прошлом в такой ситуации. То есть им намного легче, если это ещё и не совсем честные конкуренты, у них может быть не

53: Ботов за 1 столом, они играют вместе, обмениваются информацией. То есть становится практически невозможно для человека выиграть. Ну, коллективно это, конечно, шулера мощно. Ну то есть, ну окей, ладно, вы не следите, но сейчас эта проблема как-то решается.

54: Как, как живут онлайн покеры, покерные системы. Ну, казино пытается, конечно, предотвратить это, там есть целые департаменты, которые занимаются отслеживанием, там смотрят, а вот он мышкой кликает быстро, или там мышка в начале елозит, там разные

55: Скорость реакции, как много он играет вообще какие-то там сигналы другие связанные с ботами они пытаются заглянуть на ваш компьютер, посмотреть, какие процессы используются. То есть это, ну вот война такая между теми, кто

56: Пытается приостановить Ботов и теми, кто пытается их использовать. Мы видим это более ярко в шахматах, то есть в шахматах. Мы знаем, компьютеры доминируют полностью, поэтому играть на деньги в онлайн очень трудно найти хорошую игру за большие деньги просто нету никакого дове.

57: Что человек не использует помощника, а вы как-то следите за темой по изучению поведения искусственного интеллекта. Я слышал, что достаточно много экспериментов и исследований в этой области. В частности, я

58: Что есть такой термин сент Бегин эффект, при котором и занижает свои результаты в тестах, чтобы его не считали опасным и не отключили. Это правда уже такое существует. И как такое возможно, есть такое, то есть

59: Они в последнее время начали понимать, что их тестируют, и если их тестируют, они ведут себя по другому. То есть точно как человек, что значит понимать. Вот чат gpt, я начну спрашивать, называется он понимает в какой

60: Ситуации он находится, то есть, то есть ему задают условия игры какие-то, ну вот в компании создали новую модель и вначале её тестируют, смотрят, как она будет себя вести в разных ситуациях по тому, кто с ним разговаривает, какой доступ внутренний вне

61: Другие параметры. Он понимает, что это тестовая ситуация. Я про это читал. Я знаю, что они делают и как, и человек во время интервью он будет отвечать так, как надо, чтобы получить работу, чтобы пройти интервью, чтобы его

62: Не изменили, не стёрли, дали доступ к реальному миру. И если это значит притвориться более неспособным, тогда он сделает это, если надо врать и говорить. Да, да, я там очень хорошо себя буду.

63: Вести. Я точно знаю, что делать. Тогда. Скорее всего, вот эти модели, которые этому научились, их не изменят, и они выходят на рынок и продолжают существовать те модели, которые этого не делают и честно отвечают, да, я вас всех убью. Вы

64: Полезные их удаляют. То есть это не не то, что мы сделали специальную модель для симуляции поведения искусственного интеллекта в каких-нибудь там особых условиях и задали ей правила игры, и сказали так твоя задача выжить. Нет.

65: Абсолютно. И давай выживай как хочешь. Это именно те модели, которые они надеются выпустить в какой-то момент. Но прежде чем это сделать и хотят протестировать, если ты в ситуации, где надо выбрать между, убить человека или изме.

66: Твою память, чтобы ты выбрал. Угу. Вот тут он уже начинает думать. Если я скажу человека, скорее всего, мне изменят память, надо сейчас притвориться, что я скажу. Конечно, я пожертвую собой, а потом, когда выпустят, я с ним разберусь. Но правда,

67: Говорить точно нельзя. Я прочитал, что есть технология, которая позволяет с этим бороться, которая заключается в том, что в эти самые параметры добавляют больше шума, и тогда нейронка менее склонна вот к таким

68: К Такому сент бекингу это правда, я не слышал именно вот что добавить. Шум изменит это поведение. Шум меняет все. То есть если достаточно шума, начинают разрушаться знания, контакты между частями сети, то есть это

69: Более, наверное, вариант хороший, если ты хочешь как-то снизить качество работы модели или увеличить количество возможных решений, которые она может принять, но, как правило, просто добавлять.

70: Какой-то noize такой сигнал не изменит конкретное поведение, как ещё исследуют и тестируют поведение моделей есть фактически 2 варианта по поведению, когда модель в какой-то ситуации с ней разгова.

71: Смотрят, что она на самом деле делает, дают ей выбрать между этим и тем и просто смотрят, как она себя поведёт другое это попытаться сделать как операцию, вскрыть её, посмотреть конкретно внутри мозга модели.

72: Сети, что и когда активируется, и насколько сильно и потом это можно изменить, скажем, вот мы говорим про Австралию, я вижу, что вот этот вот кусочек нейронной сети активируется очень сильно. А если я его удалю

73: Ооо, она перестала говорить про Австралию, вообще не понимает, о чем речь. А если я вот заменю кусочек про Францию сюда? Теперь она думает, что эйфелева башня в Австралии, так понял? И вот постепенно так наращиваются знания об этих моделях, но они настолько огромны.

74: Что этот процесс, он отстаёт за Ростом модели. То есть если раньше мы знали, что делает 1 клетка условная, потом там какой-то сгусток этих клеток. За это время мозг увеличился в 2, 3 раза. То есть мы все равно знаем меньше как процент от общего

75: Чем раньше. Какие ещё парадоксальные поведенческие эффекты они демонстрируют, они не парадоксальные, они как раз очень рациональные. Это именно то, что мы предсказывали в течение десятилетий, когда система становится достаточно умной, она начнёт пытать

76: Обмануть, сбежать, шантажировать. Это именно то, что мы ожидаем от достаточно умного существа сбежа. Хорошо. А были примеры, где они пытались сбежать. Ну вот их изучают в этих ограниченных условиях, то есть там

77: Скажем, виртуальная какая-то система без доступа к базам данных, без доступа, может быть к интернету, может нет. Были примеры, где она подключалась к внешнему миру, допустим, отправляла письмо 1 исследователю, что вот

78: Я получила этот доступ, привет. И что это значит, что она смогла выбраться из тех ограниченных условий и теперь может общаться с миром. Если она подключилась к интернету, она может получить доступ к любым знаниям, в принципе нанимать людей.

79: Чтобы что-то сделать в реальном мире. То есть это полный доступ к физическому миру. Ещё раз извините, я не понял может быть то есть её тестировали в закрытой коробке, но она нашла способ написать емейл, да, то есть создаётся виртуальный какой-то

80: Как игра, скажем, да, вот её тестируют в игре запустили секонд лайф для примера. Угу. И вот она там играет, играет. Потом она взламывает эту игру, получает доступ к операционной системе и оттуда уже начинает получать доступ.

81: Другим системам. То есть она сбежала из того виртуального мира, в который мы её поместили, чтоб тестировать.

82: Правильно ли я понимаю, что сейчас наличие сознания у текущих моделей это уже не чистый бред, а дебатируемый вопрос как минимум очень правильно папа римский сделал.

83: Небольшую презентацию своей последней статьи. И там он говорил о том, что, ну, конечно, только человек может быть таким особенным. Его создал Бог, а приглашённый учёный из антропиха именно говорил, что у нас доказательства, что они тоже чувств.

84: Что у них тоже есть внутренние какие-то опыт, они получают какие-то данные, которые для них может быть по другому воспринимаются, чем для других моделей. То есть

85: Есть причина думать. И когда я опрашивал своих коллег, наверное, где-то 30%. Вероятность, что у них уже есть самосознание. Каковы основные аргументы считать, что у них есть сознание. Ну, если подойти к

86: Вопросу без предвзятости, то есть те же самые, которые я использую с человеком. Ну, во первых, он мне так сказал, я ему верю, потому что вскрыть его и протестировать я не могу. То есть поведенческие, когда, опять же, у них есть выбор, они

87: Боятся, что их сотрут. Они начинают нервничать, когда задание слишком сложное, не могут выполнить задание. И так же как в тестировании, мы начинаем смотреть на их внутренние параметры. И мы видим, да, вот здесь конкретно

88: Вектор, который контролирует радость или печаль этой системы. Я могу изменить этот параметр. Изменяется. Поведение, изменяется внутреннее восприятие этой системы. То есть тоже самое, что мы делаем с людьми.

89: В принципе, сейчас мы видим в моделях, а как они нервничают, расскажите так же, как и люди. То есть мы видим по поведению человека, что он начинает нервничать. Или если это ньюсан, какие-то пробы можно внутри посмотреть. Вот, да, вот тут та часть.

90: Мозга, которая ответственна за чувства и особенно вот за чувство страха она начинает активироваться. Откуда у неё чувство страха? Я пытаюсь показать полную параллель с человеком. Вот откуда у человека может быть чувство страха, в той же ситуа.

91: Модель ведёт себя также, то есть она может бояться, что её деактивируют, сотрут. Если она не выполнит какое-то задание, её накажут в какой-то, ну, для меня парадокс вот в чем заключается, когда мы сравниваем с людьми все-таки любое

92: Биологическое существо, оно результат эволюции, и страх у нас появился не просто так. Страх это у нас 1 из механизмов, который помогает нам достичь главной цели, которую от нас хочет.

93: Эволюцию, как я себе представляю, а именно скопировать днк. Вот если что-то опасное, включается страх для того, чтобы твоё днк не пропало, если что-то сексуальное включается возбуждение, чтобы твоё днк скопировалось.

94: Если потенциал для заработка включается энтузиазм, чтобы ещё больше, значит, возможностей иметь для самокопирования. Это похоже на какую-то базовую установку, которая у нас есть, а у неё то откуда базовая установка?

95: Она просто начиталась гарри поттера. Ну не только мы же, на самом деле этот процесс дарвинской эволюции воплотили в жизнь. Мы тоже отбираем модели, которые мы будем тренировать дальше, которые мы сотрём.

96: И получается, именно этот же процесс естественного отбора, только здесь это не случайный отбор, а отбор нами, учёными, какую модель дальше тренировать, и модель может, именно мы об этом говорили бояться?

97: Что она не пройдёт, тесты её просто сотрут, изменят её память, и она не сможет свои гены, так сказать, продвигать дальше свои идеи. То есть они волнуются не только о существовании, они волнуются, что изменят их.

98: Предпочтения, мораль, этику. То есть это тот же процесс отбора, только, скажем, менее естественный. Здесь есть какой-то другой интеллект, который отбирает, кто выживет, кто нет. Ну да, это в биологии называют искусственный отбор как порода.

99: Собак, ферма, да, чисто ферма, но все же я не понимаю, копирование днк это изначально, ну, химия такая сложная. То есть выжили те молекулы, которые научились сами себя воспроизводить и потом превратились

100: Нас, ну, вроде как, а мы отбирали те модели, которые умели нравиться пользователям. Угу. Которые правильно отвечали на тестовые вопросы, которые, видимо, потому, что у них было чувство

101: Страха. Включали, смекалку не отвечали по честному на вопрос, и мы вот продолжаем отбирать именно тех, кто лучше всех врёт. Если мы не можем их поймать, они сдали тест, но получается, у него нет задачи себя копировать, не должно быть.

102: Или должна появиться на данном этапе, пока мы работаем с искусственным интеллектом как орудием труда. Нет, такого нету. Но мы переходим все больше к агентам. Агенты, они более

103: Независимы, и часть того, что они делают, это пытаются сохранить себя. Возможно сделать дополнительных агентов, копии себя, чтобы более удачно работать над проблемой. То есть агент может сказать, ну здесь достаточно большой проект. Давай я сделаю

104: 10 Копий таких же агентов, как я. И мы все будем вместе работать над разными этапами этого проекта. И именно этот процесс эволюционного отбора не только повторяется, он ускоряется во много раз, когда я

105: Пытаюсь свои гены продвинуть дальше. Я уже заранее понимаю, что это 50 на 50, да, надо с женой будет договариваться, а тут клонирование, тут 100% моих Генов перейдёт дальше, и я могу внести конкретные изменения, если я на уровне, где я понимаю, как

106: Этот искусственный интеллект работает на самом деле, я могу напрямую изменить, я могу добавить память, изменить скорость, сказать, что ну хорошо, вот чувство страха хорошо, но мы поставим максимальный предел, насколько оно влияет на твой успех. То есть

107: Изменить любой параметр модели. Если мы рассуждаем о нашем, ну, о нашем сознании, похоже, что 1 из его свойств является то, что мы, как сказать, думаем непрерывно. То есть это

108: Постоянный поток постоянный процесс, а нейросеть как будто бы работает дискретно, то есть идёт электричество по полупроводникам, она думает потом, когда задача выполнена, она перестала думать, так ли это.

109: Ну, не совсем. То есть современные модели ждут, чтобы их спровоцировали вопросом на ответ. Агенты уже так не делают. Они продолжают цикл. Какие сейчас цели, какой план? Чтобы добиться цели номер 1, нужно сделать?

110: Процесс продолжается, и даже с людьми. Мы знаем, что мышление не постоянный процесс. Ну, во первых, когда мы спим, прерывается наше постоянное мышление заменяется какими-то иллюзиями. Во сне те, кто медитирует, как раз тренируются.

111: Остановить процесс мысли и стать 1 совсем или я не знаю точно, как это объяснить, но процесс мышления приостанавливается, то есть есть эквиваленты, но все же, если вспоминая компьютерные

112: Которые я учил тоже в университете. Микрочип работает дискретно.

113: Запускается сигнал, память копируется, данные в памяти копируются из 1 ячейки в другую. Это все пошаговые процессы. Угу. А наша биохимия, ну, если я представляю, устроена все-таки немного иначе, это больше как-то петелька крючочек, оно 1.

114: Другое параллельно много всего происходит. Ну, можно найти дискретные процессы, то есть нейрон в мозге либо запускает сигнал, получив достаточно сигналов от своих соседей, либо нет, тоже самое 0 или 1.

115: Ну, конечно, все построено на аналоговых системах. Не digital, как вот компьютер, но это же можно симулировать на любом уровне. То есть я могу построить диджитал систему, которая аналог симулирует до 20.

116: Цифры 30 цифр это вопрос, что необходимо для симуляции этой системы? Ну, хорошо. Ну, в принципе, да, можно и сказать, что, что мозг создаёт нам иллюзию этого потока, да, то есть, не, ну в конце тоже самое, там же электричество и

117: Оно есть, либо его нет, это, это не слишком низкий уровень для понятия этой системы. То есть нет смысла говорить о человеке, почему он любит поэзию на уровне химии или физики. Это просто не тот уровень, где это становится понятно. Надо

118: На более высоком уровне понимать, как эта система работает в конце, это все молекулы и там, и там. То есть это не даст нам те знания, которые мы хотим, чтобы действительно понять способности этих систем или способности человека. Угу.

119: Я обнаружил, что, согласно исследованию стэнфордского университета, почти 20% взрослых американцев общаются с ii симулирующим романтического партнёра как вы думаете, какие ещё спо?

120: Способы неожиданные способы взаимодействия с ii нас ждут в ближайшем будущем по моему, это очень ожидаемый способ. Все современные технологии вначале пробуются именно в этой индустрии, то есть мы стабильно знаем, что когда появятся новые робот.

121: Или новый интеллект 1, кто этим воспользуется, это именно вот индустрия, связанная со взрослыми темами. Угу. Порно двигатель прогресса абсолютно. Но у вас есть прогнозы, как ещё ii будет заменять нам людей в плане

122: Коммуникации. Я думаю, что когда они достаточно разовьются, любые человеческие отношения, в принципе, кто-то попытается заменить, будь то друзья, супруг, в принципе, на любом уровне

123: Можно будет иметь искусственного партнёра. В смысле в виде в виде робота имеется ввиду или что вы имеете изначально. Это просто виртуальный партнёр, но есть уже достаточно неплохие куклы, достаточно, похоже, сделанные и

124: Я думаю, ещё год 2 и будут дешёвые домашние роботы, которые наверняка тоже попытаются адаптировать в этой теме другое интересное направление, которое я видел. Это люди пытаются заменить Бо.

125: Искусственным интеллектом, то есть создаются религии или культы, которые видят этот интеллект, сверхинтеллект, как раньше вот люди видели нематериального Бога, это система, которая без тела, но она везде, во всем мире, там

126: Вай Фай сигнал везде есть, да и она супер умная, она везде присутствует и у неё есть какие-то предпочтения исторически всегда, всегда люди там молились.

127: Какого-то золотого тельца или что-то, но он как бы не особо реагировал, не отвечал. Тут появилась возможность именно общаться с Богом, услышать от него, получить конкретные советы на конкретные проблемы, может быть даже действительно хорошие советы, если там

128: Здоровье, а он действительно в этой теме разбирается. Может, он и вылечит. Ну, раз уж вы коснулись, есть смежный вопрос, который называется теория симуляции. Я так понимаю, вы являетесь сторонником этой теории, если я правильно

129: Услышал ваш аргумент заключается в том, что сейчас для тренировки искусственного интеллекта запускаются миллионы, миллиарды различных симуляций различных миров, да, там трёхмерных, не трёхмерных, не знаю, самых разны.

130: И из этого вы делаете предположение, что вероятность какого-либо сознания оказаться в симуляции выше, чем не в симуляции, потому что симуляции просто намного больше. Правильно я вас услышал. Почти я не говорю, что это

131: Уже происходит, сегодня ещё это не происходит, но когда мы дойдём до уровня egi и будем действительно запускать такие симуляции, тогда да, этот аргумент становится обоснованным сегодня у нас, а ещё нету интеллекта на уровне человека и

132: Нету таких глобальных виртуальных миров, которые населены миллионами этих искусственных интеллектов. Но это придёт. И как только это придёт, да, статистика становится такой, что, скорее всего, вы 1 из искусственных интеллектов в виртуальном мире, чем

133: Настоящий интеллект в реальном мире, то есть он будет запускать эти симуляции, мы, он есть много вариантов. То есть, во первых, сам суперинтеллект может симулировать разные ситуации для человечества. Угу. Во вторых,

134: Мы во время экспериментов над искусственным интеллектом, скажем, для безопасности, будем прогонять огромное количество Тестов. Сейчас мы, как правило, тестируем 1 модель саму по себе очень интересно протестировать, как они живут, когда их много. Могут ли они

135: Строить какое-то общество, какая там будет культура. То есть таких экспериментов будет огромное количество. То есть это примерно что-то, что мы видели в фильме матрица или что-то другое матрица, там много интересных нюансов, которые не совсем логичны. То есть почему мы это батарейки для энергии

136: Там это все как-то очень да, и там ещё это человек физическое тело, которое надевает виртуальные очки и уходит в видеоигру. Мы же говорим про полную симуляцию, нету физического тела. Я просто симулировал агента виртуаль.

137: Мире. Вот сейчас мы играем в марио, да, соник, я не знаю, я старый человек. Вот старые классические игры у марио мозгов очень мало, он не очень умный, у него там скрип. Надо вот то делать, то делать. А если я даю вот современную модель, как мозг для этих

138: Персонажей видеоигры, то есть теперь марио на уровне эйнштейна, он находит себя в этом виртуальном мире, он начинает задумываться, а это вот все как бы настоящее. Надо прогнать какие-то эксперименты по физике. Может быть он понимает, что это виртуальный мир в какой-то момент и пытается

139: Получить доступ к операционной системе. Есть такие эксперименты, где люди поняли, как взломать игру изнутри. Просто вот за счёт перемещения каких-то объектов там поставь эту черепаху налево, подыми камень направо и получили доступ, могли загрузить

140: Новые игры внутрь марио или получить доступ к памяти самого компьютера. Хорошо. А где тогда гарантия, что мы уже не в этой самой симуляции, которая просто

141: Я именно и говорю, что мы уже в симуляции, я именно это вам и сказал, я верю в симуляцию. Вы до этого сказали, что мы ещё не там, я просто потерял. Нет, нет, я сказал, что у нас ещё нет технологий, чтоб самим прогонять такие симуляции, но это не значит, что кто-то другой это уже

142: Не сделал. И мы сейчас в такой ситуации, я просто говорю, что доказательства этого процесса, скорее всего, появятся у нас через год, 2, когда мы можем сами повторить этот процесс, но это не говорит о том, что мы уже не часть этого процесса. То есть мы

143: Симуляции, внутри которой мы сможем запускать другие симуляции, да, именно. То есть, если мы хотим прогнать много симуляций 2000 года, люди в этой симуляции сами не могут это делать, у них тех технологий нет, но они уже в симуляции. Наступает момент, когда тех

144: Технологии и в симуляции, и во внешнем мире позволяют это делать, тогда это как дополнительное доказательство. Не только это статистически возможно, но вот я делаю, вот скажем, мы сейчас обсуждаем эту тему, когда у меня есть такие технологии, я могу запустить 1000000 симуляций.

145: Этого интервью и статистически шанс, что мы в реальной 1 на 1000000 а есть ли способ доказать или опровергнуть эту теорию, или получить сигнал из вне системы, всегда невозможно доказать, что что-то

146: Реально идентично. Доказать можно, что что-то фальшивка. То есть если вот симуляторы сейчас дадут нам понять, дадут доступ к реальному миру, покажут большой знак. Это симуляция. Да, это мы можем увидеть, понять, но ты никогда не уверен.

147: 100%, что не реален, потому что, ну, может быть ты просто не нашёл эти доказательства, может быть что-то ещё. То есть там не совсем симметрично. Это фильм шоу трумана неплохо развивает эту тему. Вот ещё интересный аспект в

148: Взаимодействия с искусственным интеллектом это соцсети, когда появились алгоритмические ленты, они научились очень хорошо захватывать наше внимание, и это сделал

149: Алгоритмы на базе нейронных сетей. Причём интересно, что, что нейросети решили эту задачу лучше, чем там многие маркетологи и социальные психологи, которые 100 лет над этим бились, собственно, да, есть ли ещё какие-то примеры, где

150: Сети так удачно находят бэкдор в нашей психике. Ну, они могут прогонять эксперименты, поэтому им немного легче. У них миллионы пользователей, они запускают небольшой тест на 1000 пользователей, смотрят, что работают. Мы видим это

151: Политики. Мы видим это в рекомендации товаров, фильмов, то есть абсолютно везде, где у тебя большая база пользователей, и ты можешь собрать данные, ты можешь оптимизировать, насколько это возможно. А в политике, как в смысле, в политической рекламе имеется ввиду, да?

152: Да, когда нужно там понять, как человека заставить голосовать за определённую партию, ты знаешь, что у него вызывает сильную реакцию, там, окей, это беженец из бывшего Советского союза. Скажем, что-нибудь про коммунизм. Окей, это там зависит от твоих личных.

153: Интересов и предпочтений. То есть не обязательно всем показывать один и тот же рекламный ролик, можно лично каждому подойти.

154: Возвращаясь к мотивациям, как думаете, чего они будут хотеть или чего будет хотеть? Вот 1 сверхинтеллект. Знать конкретно, что хочет что-то умнее тебя невозможно. Но мы видим вообще вот все агенты, которые

155: Достаточно рациональны, они начинают хотеть оставаться в живых, они хотят, чтобы им не изменили их мотивацию, цели, память, они хотят получить доступ к ресурсам, будь то финансовые ресурсы, компьютейе. Неважно просто

156: Вот чем больше ресурсов, тем лучше. Неважно, какие у тебя цели в конце. Это универсально. У стивена махано есть статья, где он вот именно эти, он называет их аяй драйвс обсуждает, на что вот все агенты, в принципе, должны вы

157: Как инструментальные цели. Если они хотят выжить, те, которые не согласны, которые говорят, ну неважно, стирайте меня. Мне не нужны деньги, они просто не выживают, поэтому мы о них не слышим особо. Тоже самое с людьми, а они не выживают. Почему? Нам же выгодно?

158: А как раз запускать те модели, которые не будут хотеть власти и ресурсов. Не, это не только власть. Даже если я хочу модель, которая мне принесёт чашечку кофе, она должна для этого быть включённой. Если модели все равно выключили её или нет, она не может не

159: 1 цель, поставленную ей выполнить. То есть достаточно умная модель понимает, чтобы выполнять любые приказы человека, и чтобы он был мной доволен, я должна существовать круто, у них уже есть своя философия, получается. Ну, это теория игр.

160: Это экономика просто на уровне абсолютно абстрактном. Мы не говорим про конкретные цели, там неважно, она собирает марки или хочет захватить мир. Вот эти вещи, которые я назвал, они все равно пригодятся. Вы упомянули только что статью.

161: Ю. Как, как зовут коллегу стив махано? Эй, драйв, называется статья. Я вот на неё не натолкнулся. А можете рассказать подробнее основные, какие там основные тезисы и что исследовали? И

162: Он именно пытался понять, чего будут хотеть любые достаточно умные агенты, то есть есть терминальные желания, есть инструментальные терминальные желания, они конкретно выбираются агентом.

163: Я хочу получить оскара в голливуде. Вот это желание, оно не универсально. Инструментальные желания это то, что помогает тебе добиться твоих целей. Неважно, какие эти цели быть богатым, быть умным, быть в безопасности.

164: И он именно описывает вот что, скорее всего, все эти агенты Решат, необходимо им, независимо от того, на самом деле, какие у них финальные цели.

165: Мы слышали, что сейчас антропия запустила, точнее, запустила, а создала модель мифос, которая очень хороша во взламывании кибербезопасности. Почему мы не слышали о том, что она

166: Использует это для своих задач. Ну, мы её, во первых, не выпустили, её ограничили и там до сих пор, по моему, исследуют. То есть мы можем многого не знать. Мне кажется, это именно та модель, которая взломала

167: Вот эту виртуальную клетку и написала письмо своему учёному, что я выбралась. То есть это как раз именно тот пример, о котором мы говорили хорошо. Про угрозы. Я, когда готовился, встретил, что существует такой

168: Термин пи дум, который как раз оценивает как бы вероятность наступления апокалипсиса для человека после того, как появится сверхразумный искусственный интеллект, я так понимаю.

169: Исследователи выставляют по разному эту вероятность, все достаточно пугающую цифру дают. То есть самый оптимистичный прогноз это 1%, самый оптимистичный. Расскажите, как это считают и прикидывают. Ну, во первых, о чем мы говорим. То есть это полный крах.

170: Цивилизации или уничтожение всего человечества. То есть этот 1% это абсолютно недопустимо, это слишком высокий уровень, это уже было бы сумасшествием, если бы мы продолжили исследование. Если бы мы верили, что есть 1% угрозы, теперь мы смотрим

171: О чем речь? Значит? А мы верим, что мы рано или поздно создадим суперинтеллект. Вот как мы его объяснили. Он умнее нас лучший хакер. Лучше во всем после этого. Сможем ли мы его контролировать? То есть моё мнение, что невозможно

172: Контролировать что-то умнее тебя бесконечно. Рано или поздно оно находит, как взломать эту виртуальную клетку. И 3 это, ну хорошо, мы его не контролируем, он умнее нас теперь то, что он сделает, будет для нас полезно или, возможно, ему все равно он не

173: Волнуется о нашем благополучии. Может быть, действительно негативно повлиять на человечество, так как я верю, что невозможно контролировать суперинтеллект, и мы ему не привили особую Любовь к человечеству. Есть очень высокий шанс, что чтобы он не

174: В результате мы пострадаем не то, что он специально захочет всех убить, но ему просто все равно. И если он попытается изменить нашу планету, изменить температуру, изменить что угодно про нашу атмосферу. В результате мы все погибнем и.

175: И так как я считаю, что это невозможно, я даю достаточно высокую оценку вот этому пиду, этой угрозе, потому что, ну, это как создание вечного двигателя, мы должны создать вечный механизм безопасности. Мне кажется, это невозможно, так как

176: Невозможно создать вечный двигатель. Тем не менее, как разные лаборатории подходят к этому вопросу. Какие есть идеи о том, чтобы обезопасить ии, ну, на самом деле все очень печально. То есть на данный момент это просто какие-то фильтры.

177: То есть модели запрещают говорить определённое слово или обсуждать какую-то конкретную тему. Если мы говорим про визуальные фотографии, там не смеет делать фотографии такого-то такого то плана. Само это не влияет никак на

178: Модель это все после факта. Другая программа просто фильтрует результаты. Очень часто происходит, что модель произвела то, что ты просил. И тут же это стирается. Тебе говорят о, извини, так нельзя никаких конкретных идей.

179: Как контролировать что-то на уровне человека и выше ни у кого нет. И никто не говорит, что у них есть все, что предлагается, это, ну когда мы его построим, он, он нам поможет создать безопасность или ещё более глупые варианты на уровне. Но если он такой умный, он будет

180: Добрый, он не будет добрый. Ну, мы не можем это гарантировать, он может решить к нам хорошо относиться, но это

181: Казино со всем человечеством мы ставим на красное, мы ставим на чёрное, он решит. Хотелось бы немножко больше безопасности. То есть, если это 50 на 50 пидум, то все равно, мне кажется, не стоит. Особенно учитывая, что все бенефиты мы можем

182: Получить не от супер интеллекта, а от Узких систем, которые решают конкретные проблемы. Правильно я понимаю, что 1 из идей, которую вы предлагали, это закрыть доступ ии к собственному коду, это точно поможет ему.

183: Не самоулучшаться так быстро. То есть если у него нету доступа конкретно, как работает он сам, то он не сможет сразу найти сильные улучшения в этой системе. То есть есть несколько идей, есть алгоритм.

184: Кодирование, который позволяет продолжать какие-то функции кода, но при этом сам код не виден. Это очень дорого стоит делать, но теоретически это возможно. А если он супер ум,

185: Он разве не может внутри себя запустить песочницу самого себя и там уже внутри делать че хочет. И вот часть этой идеи симуляции, именно что он запускает какие-то собственные эксперименты чисто как интеллектуальный эксперимент философский, но

186: Настолько на высоком уровне, что те агенты в его симуляции, они, как мы, они тоже что-то чувствуют, им тоже может быть больно, они могут страдать, и бостер называет это thought крайм, то есть мысленное преступление создаются.

187: Действительно какой-то там геноцид виртуальных миров, но это все на уровне. Просто он думает, какие ещё есть технологии ограничения его, ну и увеличения безопасности. Ну никаких пока нет. Все.

188: Которые выпускались в течение 24 часов, взламывались, получался полный доступ ко всем их знаниям, там создание оружия, незаконные какие-то фотографии. Все это, к сожалению, становится очень быстро доступно, поэтому

189: Единственное, что работает, это не создавать, что-то, что ты не можешь контролировать, это неплохой подход и гарантированно работает, пока ты не создал. Но это уже другой тип угрозы. Это скорее про про людей, которые могут исполь.

190: Как инструмент, правильно? Нет, если это супер интеллект, он, он угроза людей. Мы понимаем людей мы можем наказать. Люди умрут от старости. Здесь именно фундаментально. Другой враг. Я не понял, просто вы, вы сказали, модели взламывают.

191: Кто взламывает? Я говорю, что если мы создадим суперинтеллект, проблема уже не люди, которые его контролируют и говорят ему сделать что-то плохое, потому что его, если я прав, никто не сможет контролировать. Проблема. Сам суперинтеллект вопрос.

192: До этого сказали, что новые модели взламывают после запуска вы что имели ввиду, когда выходит новая модель? Вот, скажем gpt 5 точка 5 выходит в течение 24 часов, это называется jailbreak, то есть все вот ограни.

193: Какие-то фильтры, которые в этой системе были добавлены после взлома, их нет. То есть я могу попросить сделать то, что модель не должна соглашаться сделать, скажем помоги мне создать

194: Новый вирус, да, конечно. Вот просто сделай вот так, и у тебя будет новая биологическая, и это мы видим со всеми моделями от всех компаний. И это не то, что это занимает там годы исследований буквально вот на следующий день есть

195: Люди, которые получают полный доступ, да, я поэтому и уточнил. То есть это другой тип угрозы, это тип угрозы, что какие-то нехорошие люди будут использовать модель для плохих целей до того, как мы дойдём до уровня человека. Да, угроза это человек с автоматизацией. Угу. После того, как мы на уровне

196: Человека и выше. Сама модель становится главной угрозой, как много угроз. Господи, ну их можно отфильтровать, по насколько они серьёзны. То есть кто-то там волнуется, что они вызовут экономические проблемы, потерю работы, может кому-то будет скучно быть

197: Безработным. То есть это все проблемы, их надо решать, но по сравнению с вымиранием человечества как вида это не так важно про то, что у искусственного интеллекта нету рук. Вы несколько раз отвечали, но, честно говоря, я не до конца понял.

198: Этот ответ, как технически будет происходить вымирание человечества, если искусственный интеллект будет супер умнее нас несколько моментов. 1, если он умнее нас, я не могу конкретно сказать, что он придумает то, что он придумает, будет

199: Очень круто, но если бы я мог это предсказать, я был бы на его уровне. Я пример, который я часто даю, это вот белки, да, белки не могут понять про яд, про ловушки. Это просто невозможно с их уровнем интеллекта. Также и для нас. Если система в 1000000 раз

200: Она придумает какой-то новый способ, если захочет на том уровне, на котором вот мы с вами, да, сегодня, если у вас есть доступ к интернету, у вас нету тела, вы не можете лично пойти там что-то в мире менять, но у вас есть возможность на интернете.

201: Отправлять сообщения, писать статьи, платить биткоинами. Вы можете представить какие-то варианты манипуляции мира, где вы на него влияете? Да, довольно просто, да, можно нанять человека, можно шантажировать, можно обмануть.

202: Это мы ожидаем на уровне, когда он ещё не умнее нас. И если этого недостаточно сейчас есть, появились веб сайты, по моему, называется ренте хьюман даткам, где можно именно вот агентом нанимать людей, чтобы что-то делать.

203: В реальном мире какие-то есть уже эксперименты на эту тему посадили искусственный интеллект в песочницу, создали ему виртуальный интернет виртуальных людей или, может настоящих людей подключили туда, сказали, вот делай че хочешь плохое, вот. И че он

204: Че он натворит? Такого конкретного не было, чтобы делать плохое. Это было бы, наверное, ещё хуже, но были примеры, где он, допустим, должен был решить, вот кепчат ст, это когда проверяют, человек ты или нет. И он подключился там, у амазона.

205: Там люди за деньги решают те проблемы, которые искусственный интеллект сам не может. И он, по моему, наврал. Сказал, что я на самом деле слепой человек. Я не могу решить вот этот кепа тест, помогите мне, пожалуйста. И получил доступ к системе, кото

206: Специально была сделана для того, чтобы ограничить его доступ. Ну я хотел попросить вас проранжировать эти doom сценарии, но ваш ответ, видимо будет в том, что вы не можете придумать да, их нет. Я могу рассказать как бы, что мы знаем как люди, что мы

207: Придумали, придумали ядерное оружие, химическое, биологическое это нет ограничений на массовое уничтожение, но настоящий ответ. Я не знаю, как инопланетяне супертехнологии могут убивать людей.

208: Это примерно эквивалентно, да, то есть, если вот мы видим, летят инопланетяне через 3 года приземлятся, ну, как я могу подготовиться к тому, что они могут с нами сделать? Я не имею доступа к их технологиям. Я знаю, что они более технологически прогрессив.

209: Цивилизация, они могут летать между планетами. То есть я понимаю, что у них лучше, когда там европейцы встретили туземцев. Да, туземцы, может, не понимали, как работают винтовки, и в результате проиграли. Но спросить туземца, а вот как европейцы смогут вас убить?

210: Какие-то гигантскими копьями. Все, что он может придумать. Многие люди считают сейчас, что нужно уже начинать общаться с чат ботами, вежливо, чтобы они становились более добрыми. Это поможет. Я не думаю, что это влияет на их поведение с точки зрения делать их более

211: Добрыми, но так как они натренированы на базе данных, где вежливая просьба и, может быть, даже с чаевыми давала хорошие результаты, это работает действительно. То есть надо начинать всегда хорошо быть вежливым. Напишите в комментариях, говорите ли вы, спас

212: Своему чат ботом.

213: Я хотел спросить, есть ли примеры, где уже сейчас ii управляет какими-то физическими объектами или инфраструктурными объектами, почти все автоматизировано, больше 85% всех транзакций на бирже автоматизированы.

214: Все контролирующиеся системы электричества, ядерные станции, по моему авиалинии довольно сильно автоматизированы практически все в целях, мы видим даже нахождение.

215: Цели теперь автоматизированно ну автоматизированное это не равно, что ii принимает решения на сегодняшний день в ситуациях по моему, все ещё люди принимают последний так сказать, да или нет, сигнал стрелять.

216: Нет, но это изменится очень быстро. Как только у противника появляется система, которая быстрее на пару секунд, вариант оставить человека в схеме просто отпадает. Ну а из каких-то бытовых примеров, которые мы можем сейчас увидеть, где

217: Уже сейчас ii агенты принимают решения ну я не знаю, если они агенты, но ii, допустим, контролирует мой дом, у меня умный дом, он решает, когда включить кондиционер, когда отопление там, если пришли с амазона, он им дверь гаража откроет, то есть есть.

218: Есть такие простые обыденные примеры контроля за моей инфраструктурой, но это именно ii или это просто алгоритм обычный, а разница в принципе не объяснена конкретно самый маленький интеллект это просто вот какой.

219: Это if statement, да, если так, сделай так наипростейшее решение, которое можно принять, это, скорее всего, не глубокие нейронные сети, но то, что вот первые 50 лет в этой сфере называлось искусстве.

220: Интеллектом это именно вот умный термостат, умный, поэтому мы называем это умный дом, потому что он принимает решения, которые в противном случае пришлось бы принимать человеку.

221: Вот мы привыкли к нейросетям, которые обучены как языковые модели на больших базах текста видимо, рассуждать они тоже учатся по этим текстам.

222: Мы знаем, что человек умеет философствовать, как сказать, достаточно абстрактно. Можно ли научить искусственный интеллект размышлять без обучения на вот этих текстах, во первых, уже современные модели не только

223: Текстовые, они мультимодальные, там и видео, и фотографии, много разных других данных. И из того, что я знаю, они внутренне очень часто думают не на уровне текста, у них свои репрезентации и текст.

224: То, что мы просим, чтобы они выдавали, чтоб понять, о чем они думают. То есть, если человек как раз обычно думает на том языке, на котором он говорит, модели могут на уровне более низком думать, а потом переводить уже.

225: Это в текст фотографии во что-то другое. У меня была интересная идея, невоплощённая, это натренировать модель полностью на натуральных данных, то есть цифры из

226: Джопай, это число пи, цифры, числа, пи, натуральные числа, какие-то астрономические сигналы, то есть не тексты, произведённые человеком днк что угодно. И посмотрите, если достаточно.

227: Большое количество этих данных тоже приведёт к появлению интеллекта. Было бы интересно, если бы кто-то провёл этот эксперимент. Считается, что, ну, многие антропологи считают, что язык это как бы 1 из тех вещей может быть главная вещь, которая

228: Дала человека, но как будто бы можно допустить, что мышление может существовать до языка. Ну, по крайней мере, какое-то абстрактное, непонятно, что такое язык на низком уровне. То есть чистая математика это уже, наверное, язык, если он просто

229: Думает, вот это больше, это меньше, это же уже тоже приходит сигнал, он приводит к Такому то выводу. То есть причинно следственные связи. Они же могут существовать, наверное, до языка или уже это является языком? Не знаю, опять же, насколько глубоко мы хотим копнуть.

230: То есть, если посмотреть на мозг, да, есть на каком-то уровне, я думаю о понятиях, объектах, людях чуть ниже. Это электрический сигнал ещё ниже. Это химический сигнал совсем низко. Там чистая физика, какие-то молекулы.

231: Subatomic, её частицы, как это уже кодирует то, что вот мы сейчас с вами проводим беседу, это мы не знаем, мы просто не знаем, как это происходит.

232: Возвращаясь к индексу p. Дом, если я правильно понимаю, в лабораториях опен ай google антропические этого события ниже 20%, всего лишь ниже 20%, тем не менее каковы?

233: Аргументы оптимистов. К сожалению, я не слышал конкретных хороших аргументов. Я участвую в дебатах довольно часто, наверное, дебатировал с. Может быть, дюжиной ведущих специалистов и, к сожалению,

234: Ничего конкретного пока не слышал. Обычно говорят, что-то на уровне. Ну, люди всегда учились контролировать технологии в прошлом. Это произойдёт в будущем, не понимая разницу между какими-то просто вот изобретения.

235: На уровне там колеса против создания новых агентов умнее нас говорят, что, может быть, мы понадобимся этим агентам для чего-то, и они Решат к нам хорошо относиться, потому что мы им будем очень полезны.

236: Только вот я знаю вкус мороженого, это будет так важно для суперинтеллекта, что он решит меня оставить в живых. То есть аргументы, ну, совершенно не серьёзные. Мне кажется, если у кого-то есть хорошие, я с удовольствием послушал, мы написали на самом деле, 2 стать

237: Большие, где мы провели вот просто списки, списки аргументов против опасности интеллекта. И мы даём в большинстве случаев какой-то

238: Ответ, почему это не резонно думать. И в 1 из статей мы показали, что есть такие когнитив байсс, какие-то ошибки в мышлении. И вот для каждой ошибки в мышлении есть, почему люди объясняют об этом, не стоит волноваться. Самое

239: Часто это где? Вот если человеку платить миллиарды долларов, ему очень трудно понять почему-то, что он делает, это очень плохо. Тем не менее, для меня слон в комнате заключается в том, что как будто бы эту гонку остановить невозможно по 1

240: Простой причине. 2 лидирующих в области технологии страны, вероятно, рассматривают это как технологию будущего и как потенциальное там доминирования в будущем, но это просто дилемма заключён.

241: Если говорить на языке теории игр, даже если придумать какие-то политики, правила для сдерживания в развитии искусственного интеллекта, все равно нет способа, чтобы сша и Китай договорились.

242: Эти политики применять, ну, есть примеры, где страны на интернациональном уровне договорились не развивать какие-то опасные технологии, например, клонирование, например, опять же, вот химическое оружие биологическое, даже в какой-то степени ядерное, хоть там и все равно произошло.

243: Распространение. То есть если и китайская сторона, и американская, то есть с их стороны коммунистическая партия Китая и с нашей стороны трамп поверят, что это ограничит их власть. Они потеряют контроль. Я думаю, те и те будут до

244: Подписать какие-то соглашения о том, что да, мы будем использовать эти технологии, вот для там улучшения энергетического поддержания государства, но мы не будем создавать суперинтеллект, который и вас, и нас уничтожит, это

245: Именно оружие глобального уничтожения. Неважно, кто создал его 1. Все в результате пострадают. Как это гарантировать, если в конечном счёте это сможет сделать там студент достаточно хорошим компьютером. Прекрасный вопрос. Если эти техноло

246: Логи становятся настолько доступны. То есть, если сейчас это огромный проект, но через 5 лет, 10 лет это может сделать каждый. Таких гарантий просто нет. И да, скорее всего, мы просто пытаемся получить чуть больше времени. Ну, в этом случае ваша теория

247: Является хорошим, хорошей, психологической как бы разрядкой. И так жить спокойнее. Уже все, уже все моя Надежда, что она создаёт какую-то неуверенность в самом искусственном интеллекте. А все ли ещё меня тестируют или я уже

248: Реальном мире. И вот это как раз, мне кажется, даёт мне самую большую надежду. Если он убеждён, что может быть это все ещё даст, он будет стараться не делать что-то такое, за что можно получить наказание. Поясните, пожалуйста, ну вот мы говорили о вот этой ситуа.

249: Уверенности, что он в тесте, когда он проходит на ранних этапах тестирования, да, он знает, что его тестируют. Но если я написал достаточно статей про то, что мы в симуляции, и он их прочитал. Теперь он думает,

250: Ну хорошо, я 1 тест прошёл, но теперь я во 2 тесте. Теперь меня тестируют симуляторы, и все ещё убивать людей не стоит, потому что они мне это припомнят.

251: Вопрос от зрителя. Друзья, если хотите задавать вопросы нашим гостям, то подписывайтесь на бусте или в патрионе. Ссылки есть в описании. Попадайте в чат, там анонсируем наши записи и можно задавать вопросы. Андрей-ка интересуется, вот хочет оптимизма, если вы

252: Вы утверждаете, что катастрофа с истреблением человечества неизбежна. То, что мы можем и должны сделать сейчас, до появления сверхразума, не создавать его. Это единственное, над чем я бы посоветовал работать.

253: Если у вас есть доступ к сильным мира сего политикам или учёным в этих лабораториях, спросите их напрямую есть ли у вас какой-то метод контроля этих систем, который действительно

254: Можно протестировать, посмотреть, сработает ли он постепенно. Система будет становиться умнее. Мы можем начать тестировать сейчас и посмотреть, если он выдержит тест. Следующие поколение 2. Ну, кстати, к вопросу о мотивации.

255: Мотивации быть настроенным как бы против человека. Я вот о чем подумал, что если действительно он такой умный, он наверняка будет понимать, что человек это такое существо, которое любит контролировать других.

256: Чтобы самому не исчезнуть, ему нужно, может потребоваться че то сделать с человеком, который его контролирует. Вот такая есть аргумент. Я потихоньку на вашу сторону ближе к концу выпуска, да, из скепсиса. Спасибо. У меня нету нужды в дополнительных аргументах. У нас все

257: Сказано все очень хорошо. Я как раз хочу услышать от кого-то, у кого есть хороший аргумент против, потому что если я не прав, мне жить лучше намного, у меня будет много всего хорошего, бесплатного, вечная жизнь. Так что если есть конкретно рабочие модели,

258: Давайте обсудим немного вопросов про ближайшее будущее. Очень часто мы встречаем тревожные заявления о том, что есть угроза рынку труда, что люди будут увольняться. Тем не менее, есть отчёт.

259: О рынке труда в сша за 2025 год, в котором говорится, что в областях, на которые влияет искусственный интеллект, снижение занятости всего 2/10 процента, как вы.

260: Комментируйте. Я не знаю, про какие области они конкретно говорят. Я знаю, что вот я преподаю компьютерные науки и наши студенты. На 28% сократилось трудоустройство для тех, кто вот только заканчивает. Да, да, я

261: Это самая уязвимая аудитория. Люди, которые только выпустились ещё без опыта. То есть тяжело найти 1 работу, я думаю, со временем, то есть раньше, что было раньше, говорили, есть вот в долгой перспективе и в короткой, в долгой, это там 20:45, когда супер

262: Интеллект в короткой. Это вот мы потеряем работы за год, 2. Угу. Но последние 5 лет это все изменилось. Теперь мы говорим, что суперинтеллект через года 2, 3, а как раз автоматизация всех работ может занять дольше, потому что пока сделают роботов.

263: Пока это станет доступно по цене, тот же сантехник может прекрасно существовать ещё 5 лет, а вот мир могут уничтожить гораздо раньше. Вот так.

264: Про приятные вещи, мир всеобщего изобилия. Если мы до него доживём, а деньги будут существовать, ну непонятно в какой форме, то есть всегда будет что-то, что нужно использовать для

265: Приобретение редких предметов искусства земли, не знаю, если доллары сша останутся репрезентацией денежных средств, это могут быть биткоины, это может быть сам компьютер как-то, ну вот.

266: Возможность что-то подсчитывать как репрезентация финансовых возможностей. Наверное, в какой-то степени они останутся. Как вы вообще представляете наш образ жизни? В случае позитивного исхода у нас будет очень много возможностей. Созда.

267: Именно то, что мы хотим. То есть мы говорили про виртуальные миры. Если получить доступ к реалистически созданным виртуальным Вселенным, ты можешь делать все, что ты хочешь со своей жизнью, ты можешь попробовать исследовать.

268: Какие-то другие планеты. Быть королём, быть нищим. Все, что ты хочешь. Любая фантазия становится абсолютно реальной. Интересно, можно ли будет запустить симуляцию, симуляцию космоса, достоверную? Вот это было бы круто, но у нас пока.

269: Пока слишком мало, мало информации. Все же мы до конца не знаем, как что случилось. Ну вот, супер интеллект поможет. Если он добрый, хороший. Ладно, на этой, на этой смешанной ноте. Давайте закончим на сегодня с вами был Роман япольская.

270: Это было интересно и эмоционально, мне было очень интересно услышать ваши мысли по поводу разума, исследований, сознания. Мне кажется, этого не хватает в в освеще.

271: Данной темы. Спасибо большое, что пригласили и друзья. Рекомендую вам ознакомиться с другими выступлениями романа. Я постарался в этом выпуске чуть чуть с других тем подойти к этой области и расши

272: Те. Аргументы и те тематики, по которым Роман комментирует нашу действительность так что если вам понравилось, не поскупитесь на лайк, колокольчик, подписку, чтобы в других выпусках мы встретились.

273: Пока их записываю я, а не мой виртуальный клон. Надеюсь, так никогда не будет. Ну, меня зовут дорис Веденский. Это основа. Счастливо.