0: Да, всем привет. Спасибо большое, что вы пришли сегодня. Я, в принципе, думаю, всем интересна тема про то, как эффективно работать с чатом. Gpt. Технология новая, непонятная. Многие попробовали
1: У кого-то не использовать задачах.
2: Получилось, но сегодня задачах поговорим о
3: Мы разберёмся эффективно. Инструмент в разных в разработке, в архитектуре. Давайте немножко познакомимся.
4: У кого-то не получилось, но сегодня мы разберёмся, как эффективно использовать инструмент в разных задачах. Поговорим о задачах в разработке, в архитектуре. Давайте немножко познакомимся коротко об
5: Я сетевой компании рафт, всю свою карьеру работал в консалтинговых фармацевтика.
6: Кофаундер фирмах помогал бизнесу в разных доменах, ритейл участник опенсорсного проекта apache beam это продукт.
7: Я сетевой кофаундер компании рафт, всю свою карьеру работал в консалтинговых фирмах, помогал бизнесу в разных доменах ритейл фармацевтика, участник опенсорсного проекта apache beam это продукт по.
8: Обработки данным что-то вроде apache и помогаю запускать.
9: Spark.
10: Обработки данным что-то вроде apache spark и помогаю запускать продукт key price это продукт по ценообразованию.
11: А теперь немного с вами поднимите руку кто вообще чатом gpt хоть раз пользовался отлично, покрытие 100 есть такие кто получилось или получилось плохо?
12: Познакомимся процентов.
13: А теперь немного с вами познакомимся, поднимите руку кто вообще чатом gpt хоть раз пользовался отлично, покрытие 100% есть такие кто попробовал и не получилось или получилось плохо?
14: Отлично, такое тоже отлично.
15: Есть скептики, кто вообще в эту фигню не верит? Я тут пришёл что-то вещать бэкграунду вашему, все ли тут писали код или пишут, или у кого-то нет.
16: Отлично. Есть скептики, кто вообще в эту фигню не верит? Я тут пришёл что-то вещать. Такое тоже отлично. Да, немного по бэкграунду вашему. Все ли тут писали код, или пишут сейчас, или у кого-то нет технического бэкграунда? У всех.
17: Есть.
18: У всех есть это погнали тогда. Да какой у нас план? На, я поговорю немного про gpt что это за зверь такой, откуда он появился? Потому что на chat gpt свет Клином не сошёл.
19: Есть. У всех есть это отлично. Погнали тогда да какой у нас план на сегодня? Я поговорю немного про gpt что это за зверь такой, откуда он появился? Потому что на chat gpt свет Клином не сошёл.
20: И появился он не в одночасье. Вчера аж в 17 году изобрели технологию трансформеров, и сейчас она бурно развивается. Чат gpt это 1 из продуктов. Разберёмся, зачем нам нужны вообще промты и что за профессия такая новая появилась?
21: Многие считают, что это не профессия, да, но так или иначе, специалисты, которые умеют составлять промты качественно, они сейчас востребованы. Затравки, фреймворки, которые
22: Многие считают, что это не профессия, да, но так или иначе, специалисты, которые умеют составлять промты качественно, они сейчас востребованы. Рассмотрим затравки фреймворки, которые эффективно работают на задачках.
23: У нас будет несколько практических. Мы попробуем покрыть юниттестами небольшой проект на мы попробуем вырастить архитектора, ну и под конец
24: Блоков питоне, себе советника из чата gpt.
25: У нас будет несколько практических блоков. Мы попробуем покрыть юниттестами небольшой проект на питоне. Мы попробуем вырастить себе архитектора, советника из чата gpt. Ну и под конец
26: Сделаем.
27: Небольшую небольшой плагинчик для чата gpt недавно представили фичу опен иэй с созданием плагинов, так называемый маркетплейс, да gpt, в которой можно предна.
28: Сделаем небольшую небольшой плагинчик для чата gpt недавно представили фичу опен иэй с созданием плагинов, так называемый маркетплейс, да gpt, в которой можно предна.
29: Строить модель. Ну и с этого мастер класса вы унесёте с собой улучшатель Промтов, который вам будет применять техники автоматически.
30: Давайте про gpt расшифровывается. Как generate претрени сказал в 2017 году.
31: Сначала.
32: Давайте про gpt. Сначала gpt расшифровывается как generate претрени трансформерс. Появились они, как я уже сказал, в 2017 году компания google представила 1 модель, тогда это произвело, ну, не то чтобы
33: Фурор, да, но все поняли, что архитектура классная, на ней можно обучать модели, модель. У нас трансформеры учат на наборах данных, и на основе этих наборов данных они
34: И они будут сильно эффективнее. Вероятностная
35: Фурор, да, но все поняли, что архитектура классная, на ней можно обучать модели, и они будут сильно эффективнее. Модель у нас вероятностная. Трансформеры учат на наборах данных, и на основе этих наборов данных они
36: У себя генерировать следующее слово, да и пишите 2 + 2 знает, что чаще всего.
37: Генерирует, что она вообще умеет делать. Она умеет предсказывать вероятность следующего слова. Поэтому когда вы модель внутри, не считает, что-то 2 + 2, да, она просто
38: У себя генерирует, что она вообще умеет делать. Она умеет генерировать следующее слово, да, и предсказывать вероятность следующего слова. Поэтому, когда вы пишите 2 + 2 модель внутри, не считает что-то 2 + 2, да, она просто знает, что чаще всего после 2
39: + 2 вероятностей складывается, хотите сгенерировать?
40: Идёт у нас 4 из этих генерация складывается ваш текст, который вы её почти никто и не заметил, да только в кругах.
41: + 2 идёт у нас 4 из этих вероятностей складывается генерация, складывается ваш текст, который вы хотите сгенерировать, когда появилась gpt 1, её почти никто и не заметил, да только в кругах.
42: Community все обсуждали, модель умела предсказывать слово, там пишешь, гулять, она пишет с собакой ну нормально, прикольно, но продуктов на этом не потом появился gpt, на нём уже можно было делать прикольные.
43: Выросло 2 вещи мы делали.
44: Community все обсуждали, модель умела предсказывать слово, там пишешь, гулять, она пишет с собакой ну нормально, прикольно, но продуктов на этом не выросло, потом появился gpt 2, на нём уже можно было делать прикольные вещи мы делали
45: Генератор сказок. Нужно было готовить выборку модель. Ну, как-то генерировала сказку. Сейчас сказку можно на chat gpt сгенерировать, но раньше нужно было постараться и собрать датасет. 1 раз мы переборщили с
46: Генератор сказок. Нужно было готовить выборку по этой выборке учить модель. Ну как-то генерировала сказку. Сейчас сказку можно на chat gpt сгенерировать, но раньше нужно было постараться и собрать датасет. 1 раз мы переборщили с
47: И получилась маленького маньяка.
48: И получилась, ну, такая сказка маленького маньяка.
49: Что же произошло, когда сейчас все начали шуметь о gpt, все начали gpt, начались разговоры, что это угроза человечеству и все такое на самом деле перешёл, произошёл.
50: Что же произошло, когда сейчас все начали шуметь о gpt, все начали шуметь оо чате gpt, начались разговоры, что это угроза человечеству и все такое на самом деле перешёл, произошёл переход от качества.
51: Количеству, то есть модель, большое количество, которые мы можем с, и это подтолкнуло индустрию делать все больше и больше продуктов на
52: Стала покрывать кейсов помощью, неё, решать её основе.
53: Количеству, то есть модель стала покрывать большое количество кейсов, которые мы можем с помощью неё решать. И это подтолкнуло индустрию делать все больше и больше продуктов на её основе.
54: Отсюда и chat gpt, да как 1 из выпущенный, причём аудиторию на консьюмеров, получился бум настоящий, и теперь все везде трындят, что chat gpt это наше будущее.
55: Продуктов на общую из за этого
56: Отсюда и chat gpt, да, как 1 из продуктов, выпущенный причём на общую аудиторию, на консьюмеров, из за этого получился бум настоящий, и теперь все везде трындят, что chat gpt это наше будущее.
57: Надо понимать, что вообще не тоже самое сейчас на релизе. Вот особенно те, кто скептичен, возможно вы пробовали релизе, и тогда это была моделька 3 с, которая была в разы.
58: Надо понимать что chat gpt на релизе это вообще не тоже самое что chat gpt сейчас на релизе вот особенно те кто скептичен возможно вы пробовали gpt именно на релизе и тогда это была моделька 3 с половиной которая была в разы.
59: Меньше, чем gpt 4. А ещё она мало чего умела. Сейчас модель мультимодальная. Она умеет генерировать код браузер через
60: Большая картинки запускать bing и у неё огромное окно контекста не так давно провели конференцию дев.
61: Меньше чем gpt 4. А ещё она мало чего умела. Сейчас модель большая, мультимодальная, она умеет генерировать картинки, запускать код браузер через bing, и у неё огромное окно контекста не так давно провели конференцию дев.
62: Ещё до того, как альтмана там показали, что теперь окно контекста 128000 токенов, если постараться, можно войну и мир запихать в контекст как есть это.
63: Ещё до того, как альтмана уволили, а потом обратно взяли, там показали, что теперь окно контекста 128000 токенов, если постараться, можно войну и мир запихать в контекст как есть это.
64: Действительно, бигдил и открывает дорогу новым продуктам, а ещё они дешевле сделали, поэтому совсем стало все, а самое главное развитие технологии.
65: Классно от.
66: Действительно, бигдил и открывает дорогу новым продуктам, а ещё они дешевле сделали, поэтому совсем стало все классно. А самое главное развитие технологии от появления чата gpt. Вот до текущего момента
67: Оно растёт по экспоненте. То есть раньше было сильно хуже, недавно просело по качеству. Кстати, да, многие заметили, исследования были, что chat gpt, ну, действительно так, но, тем не менее, это не так.
68: Потупел.
69: Оно растёт по экспоненте. То есть раньше было сильно хуже, недавно просело по качеству. Кстати, да, многие заметили, исследования были, что chat gpt потупел. Ну, действительно так. Но, тем не менее, это не так.
70: Заметно, если
71: Правильно им пользоваться.
72: Заметно, если правильно им пользоваться.
73: А почему, почему, почему потупил меня, не потупел? А кто ж знает, он не делится, да и что-то они там.
74: Да, кстати, вы можете задавать вопросы. У нас мастер класс, он длинный, поэтому перебивайте, парьтесь, почему напортачили? Они постоянно дообучают модель.
75: А почему? Почему? Почему потупил? Да, кстати, вы можете задавать вопросы. У нас мастер класс, он длинный, поэтому перебивайте меня, не парьтесь. Почему потупел? А кто ж знает, он не делится, да, и что-то они там напортачили, они постоянно дообучают модель.
76: Данные собирают пользователя, хотя говорят, что поэтому, ну что, что-то там напортачили.
77: Данные собирают пользователя, хотя говорят, что не собирают, конечно, собирают, поэтому, ну что, что-то там напортачили.
78: Постараться.
79: Текст не влезет, особенно на русском нужно.
80: Постараться, да? Ну, напрямую текст не влезет. Особенно на русском нужно перевести на английский сжать немножко и тогда поместится, н, сжать, например, там, индексирование слов какое-нибудь применить.
81: Ну, повторяющиеся слова вынести в таблицу, либо векторизировать. Эмбеддинги есть через эмбеддинги. Попозже поговорим про векторизацию. Если интересно тоже этого доклада. Почему пронто то?
82: С индексами тоже поместится тема, хоть и не
83: Ну, повторяющиеся слова вынести в таблицу с индексами, либо векторизировать. Эмбеддинги есть через эмбеддинги тоже поместится. Попозже поговорим про векторизацию. Если интересно, тоже тема, хоть и не этого доклада. Почему пронто то?
84: Важно. Ну, в 1 очередь, потому это инструкция для модели. То есть без хорошего промта не будет. Мы уже говорили, что модель, она у нас вероятностная. И поэтому, когда мы сделай нам какую-то штуковину, сгенерируй нам.
85: Что хорошего результата пишем?
86: Важно, ну, в 1 очередь, потому, что это инструкция для модели. То есть без хорошего промта не будет хорошего результата. Мы уже говорили, что модель, она у нас вероятностная. И поэтому, когда мы пишем, сделай нам какую-то штуковину, сгенерируй нам
87: Вот, например, модель начинает искать в облаке своих вероятностей. А что же вы от неё и промтами? Мы эти вероятности сужаем. Мы её направляем именно в ту область её, которая нам нужна для получения результатов.
88: Вот, например, модель начинает искать в облаке своих вероятностей. А что же вы от неё конкретно хотите? И промтами? Мы эти вероятности сужаем. Мы её направляем именно в ту область её знаний, которая нам нужна для получения результатов.
89: Нам нужно поведение, особенно вот она может начать
90: Контролировать в последней версии модели. Я уже сказал, что она мультимодельного очень часто, если у неё попросить что-то сделать, запускать питоновский код. Хотя, ну это вообще не к месту. Зачем нам запускать питоновский ко
91: Нам нужно контролировать поведение. Особенно вот в последней версии модели. Я уже сказал, что она мультимодельного очень часто, если у неё попросить что-то сделать, она может начать запускать питоновский код. Хотя, ну это вообще не к месту. Зачем нам запускать питоновский ко
92: Когда мы, например, в браузере хотим поискать галлюцинации, галлюцинации, самое самое большое зло, какая есть проблема, мы спрашивать чат gpt как же нам решить какую-нибудь архитек?
93: Когда мы, например, в браузере хотим поискать галлюцинации, галлюцинации, самое самое большое зло. На самом деле, какая есть проблема? Пошли мы спрашивать чат gpt, как же нам решить какую-нибудь архитек?
94: Структурную задачку, а chat gpt нам с уверенностью начинает говорить вот делай так прям по пунктам все расписывает максимально, но оказывается, что нифига не работает это и называется галлюцинация. Чат gpt полностью уверен, что он
95: Структурную задачку, а chat gpt нам с уверенностью начинает говорить вот делай так прям по пунктам все расписывает максимально уверенно, но оказывается, что нифига не работает, это и называется галлюцинация чат gpt полностью уверен, что он прав опять же из за веер.
96: Вероятности, потому что так сложились. Chat gpt подумал ну это ж правильно, у меня же вероятности подходят промтами, галлюцинации лечатся, да, полностью от галлюцинаций.
97: Вероятности так сгенерировались слова под этот ответ избавиться нельзя.
98: Вероятности, потому что так сложились вероятности, так сгенерировались слова chat gpt подумал ну это ж правильно. У меня же вероятности подходят под этот ответ промтами галлюцинации лечатся. Да, полностью от галлюцинаций избавиться нельзя.
99: Можно полечить промтами, можно полечить файнтюн м да, если вы куда-то внедряете, чуть чуть лечат, да, так скажем, не стопроцентное лекарство промтами.
100: Модель файнтюн.
101: Можно полечить промтами, можно полечить файнтюн м да, если вы куда-то внедряете модель файнтюн чуть чуть лечат, да, так скажем, не стопроцентное лекарство промтами лечится лучше.
102: Базовая структура Промтов. Ну, наверное, все её знают. Да, самое важное в промте это от цели, на самом деле, когда мы говорим модели, что надо, она от цели и отстраивает своё поведение, сформулирована максимально точно, то и
103: Цель сделать и если цель
104: Базовая структура Промтов. Ну, наверное, все её знают, да, самое важное в промте это цель от цели. На самом деле, когда мы говорим модели, что надо сделать, она от цели и отстраивает своё поведение. И если цель сформулирована максимально точно, то и
105: Модель будет работать, если мы формулируем, сгенерируем мне какую-нибудь, употребляем слова, какой-нибудь, что-нибудь, что влияет на вероятность. Вот в самих словах заложено, что неопределённость
106: Лучше.
107: Модель будет работать лучше, если мы формулируем, сгенерируем мне какую-нибудь, употребляем слова, какой-нибудь, что-нибудь, что влияет на вероятность. Вот в самих словах заложено, что неопределённость какая-то модель.
108: Будет плохо работать. Поэтому 1 пишем промт в случае, когда вы хотите, чтобы модель пофантазировала, можно не точно писать, но тогда мы и как температуру понижаем, повышаем и модель на
109: Правило с максимально
110: Будет плохо работать. Поэтому 1 правило пишем промт с максимально точной целью. В случае, когда вы хотите, чтобы модель пофантазировала, можно не точно писать, но тогда мы и как температуру понижаем, повышаем и модель на
111: Фантазировать английском.
112: Лучше писать на русском или на английском. Лучше писать на промты. На английском. Лучше работают на английском помещается больше контекста. На русском тоже можно. Ну, мы сегодня посмотрим, будет и на русском, и на английском, но лучше на английско.
113: Фантазировать лучше писать на русском или на английском. Лучше писать на английском. Промты на английском лучше работают, на английском помещается больше контекста. На русском тоже можно. Ну, мы сегодня посмотрим, будет и на русском, и на английском, но лучше на английско.
114: Что такое файнтюнинг?
115: Файнтюнинг это, ну, переводится тонкая донастройка модели. Это когда мы небольшим набором данных запускаем до обучения модели. Есть модель, которая обучена там на
116: Что такое файнтюнинг? Файнтюнинг? Это, ну, переводится тонкая донастройка модели. Это когда мы небольшим набором данных запускаем до обучения модели. Есть большая фондейшн модель, которая обучена там на
117: Тысячах видеокарт долго, долго училась, а мы можем чуть чуть дотюнить её, составить пары. Вопрос такие, чтобы модель чуть поумнела в какой-то области, прибрала свои веса в кучки, да, в определённые тоже можно файнтюнить, но это больше вопрос.
118: Gpt.
119: Тысячах видеокарт долго долго училась а мы можем чуть чуть дотюнить её, составить пары вопрос ответ такие чтобы модель чуть поумнела в какой-то области, прибрала свои веса в кучки да, в определённые gpt тоже можно файнтюнить, но это больше вопрос.
120: Не о использовании чата gpt это больше вопрос о штука полезная, но дорогая фанни дорого нужны видеокарты, быстро это не получится, ну либо платить клауду.
121: Внедрении роль, роль.
122: Не о использовании чата gpt это больше вопрос о внедрении да, штука полезная, но дорогая фанни, дорого нужны видеокарты, быстро это не получится. Ну либо платить клауду роль, роль
123: Наверное, уже даже не техникой стала, неотъемлемой частью. Да, все видели, что можно писать. Действуй, пожалуйста, как и это действительно помогает, особенно на модели 3 с половино.
124: Наверное, уже даже не техникой стала проминг, а неотъемлемым, неотъемлемой частью. Да, все видели, что можно писать. Действуй, пожалуйста, как синиер джава девелопер. И это действительно помогает, особенно на модели 3 с половино.
125: На 3 с половиной. Вот эта вот затравка, перед что ты конкретную увеличивает, четвёрке чуть меньше, но тоже помогает. И дополнительная информация, так скажем, весь контекст, который мы хотим поместит
126: Выполняешь роль, она точность на
127: На 3 с половиной. Вот эта вот затравка, перед что ты выполняешь роль конкретную, она увеличивает точность на четвёрке чуть меньше, но тоже помогает. И дополнительная информация, так скажем, весь контекст, который мы хотим, поместит
128: Тоже можно ей, он поместится в окно контекста и модель будет на него опираться 3 базовых столпа, да, вот которые нужно добавлять в
129: Скармливать.
130: Тоже можно ей скармливать, он поместится в окно контекста, и модель будет на него опираться 3 базовых столпа, да, вот, которые нужно добавлять в промп.
131: Есть специальные техники, о которые, о которых мы сегодня в основном своём и поговорим. Техник, на самом деле, ну, ограничивается. Только мы разберём такие самые эффективные, которые, ну, наверное, кратно даже увеличивают точно.
132: Есть специальные техники, о которые, о которых мы сегодня в основном своём и поговорим. Техник, на самом деле, ну, ограничивается только вашей фантазией. Мы разберём такие самые эффективные, которые, ну, наверное, кратно даже увеличивают точно.
133: Ответов будем говорить, как использовать. Да, я покажу на практике на различных задачках. Опять же, выбрал я их, ну, по своему опыту, который я использую в работе.
134: Их.
135: Ответов будем говорить, как их использовать. Да, я покажу на практике на различных задачках. Опять же, выбрал я их, ну, по своему опыту, который я использую в работе.
136: 1 техника Ван шот фью шот, откуда она пошла так, чтобы модель училась, и контроли.
137: Зеро Шотт вообще название пошло от обучения с подкреплением. Есть такая методика обучения нейросетей, когда мы делаем на своих ошибках.
138: 1 техника зеро Шотт Ван шот фью шот. Откуда она пошла? Вообще название пошло от обучения с подкреплением. Есть такая методика обучения нейросетей, когда мы делаем так, чтобы модель училась на своих ошибках и контроли.
139: Её обучение кусочек информации либо большой one shot это немного информации, фью шот побольше, она сама что-то фантазирует в разрезе промти.
140: Давая кусочек информации, вот мы дали информации, а zero shot вообще не давали никакой информации.
141: Её обучение, давая кусочек информации либо большой кусочек информации вот one shot это мы дали немного информации фью шот, побольше информации, а zero shot вообще не давали никакой информации она сама что-то фантазирует в разрезе промти.
142: Зачем нам нужно?
143: Нужно затем, чтобы контролировать то, насколько модель, если нам нужно, чтобы модель основывалась, только мы делаем, если мы хотим дать какой-то
144: Зачем нам нужно? Нужно затем, чтобы контролировать то, насколько модель фантазирует, если нам нужно, чтобы модель основывалась только на своих знаниях, мы делаем ерошу. Если мы хотим дать какой-то
145: Reference.
146: Например, в рассылках мы сейчас разберём пример рассылок. Мы хотим, чтобы модель приняла стиль маркетинговой рассылки. Мы даём референс 1 или несколько. Да, можно скормить несколько сказать, это твоя база знаний, опирайся на неё.
147: Reference, например, в рассылках. Мы сейчас разберём пример рассылок. Мы хотим, чтобы модель приняла стиль, например, маркетинговой рассылки. Мы даём референс 1 или несколько. Да, можно скормить несколько сказать, это твоя база знаний, опирайся на неё.
148: Давайте посмотрим.
149: Да, давайте посмотрим.
150: Ой, кажется, не тот диалог.
151: Такс, давайте.
152: Попросим модель.
153: Такс, давайте попросим модель.
154: Действовать как маркетолог it недавно генерировал сбор фидбэка проводили митап попросим модель написать такую форму, да как письмо, посмотрим, что она выдаст так.
155: Митапа, рассылку на
156: Действовать как маркетолог it митапа недавно генерировал рассылку на сбор фидбэка проводили митап попросим модель написать такую форму, да, как письмо, посмотрим, что она выдаст. Так.
157: Четвёрка включена, да?
158: Так, кстати, тут, да, написать. Здравствуйте.
159: Модель. Я на самом деле ожидал, что она начнёт действовать излишне вежливо. Спасибо там большое. Вы
160: Так, кстати, тут модель. Я на самом деле ожидал, что она начнёт действовать излишне вежливо. Да, написать. Здравствуйте. Спасибо там большое. Вы
161: Очень ценно для нас.
162: Но модель тут привет написала бывает по разному пишут очень часто, пишет слишком вежливо и все зависит.
163: Очень ценно для нас, но модель тут привет написала бывает по разному пишут очень часто, пишет слишком вежливо и все зависит.
164: Один и тот же запрос практически сузить, но
165: Один и тот же запрос, разные ответы это вероятности. Да, конечно, вы не получите один и тот же результат. Никогда. Практически. Можно там долго, долго выискивать пром, чтобы эти вероятности совсем к минимуму сузить. Но чаще всего получится
166: Так что модель все-таки сгенерирует. Разные не меняются. Ну как не меняются, она делает у нас же
167: Так что модель все-таки сгенерирует, разные варианты не меняются. Ну как не меняются, она делает предикшн, у нас же не зафиксирован, да, там?
168: Переменная, которая влияет на распределение да, то есть random предикшн всегда да, видим что сгенерировала какой-то текст. Он в общем то неплох, да, то есть gpt 4 и так умеет Гене.
169: Переменная, которая влияет на распределение да, то есть random он не фиксированный предикшн всегда разная будет да, видим что сгенерировала какой-то текст. Он в общем то неплох, да, то есть gpt 4 и так умеет Гене.
170: Всякие дать контекста и референс.
171: Рассылки делает это неплохо, но можем попробовать модели скормить ей.
172: Всякие рассылки делает это неплохо, но можем попробовать дать контекста модели и скормить ей референс.
173: Так, давайте дадим.
174: Сейчас 3, 5 или 4. Это 4. Сейчас, секундочку, я тут мышку настроим.
175: Дадим ей контекста побольше.
176: И в качестве референса, скажем, вот у меня есть, ты опирайся, да, но постарайся не брать. Сейчас мы, кстати, скорее всего, столкнёмся с
177: Дадим ей контекста побольше и в качестве референса скажем, вот у меня есть предыдущая рассылка, ты на неё опирайся, да, но постарайся не брать информации. Сейчас мы, кстати, скорее всего, столкнёмся с
178: Понятием галлюцинация, потому что он проигнорирует мою
179: Инструкцию, что давайте я скопировать.
180: Понятием галлюцинация, потому что он проигнорирует мою инструкцию, что ne используем информацию напрямую. Давайте. Я забыл тут скопировать.
181: Оп.
182: Да, я пишу, что пользуюсь стилем из предыдущей рассылки, не используя информацию из предыдущей рассылки для письма. Твоя задача написать письмо со сбором.
183: Оп. Да, я пишу, что пользуюсь стилем из предыдущей рассылки, не используя информацию из предыдущей рассылки для письма, твоя задача написать письмо со сбором.
184: В схожем, но скорее всего он сейчас какую-то информацию возьмёт. Все равно стиль он конечно
185: Стиле из этого письма e сохранит.
186: В схожем стиле, но, скорее всего, он сейчас какую-то информацию возьмёт, все равно из этого письма e стиль он, конечно, сохранит.
187: Это же новый чат. Я.
188: Смотри, я скормил контекст, да, то есть вот мой промт промте написал, действуй так-то, но в качестве референса, вот смотри, вот ниже я предыдущую.
189: Рассылка, это же новый чат. Смотри, я скормил контекст, да, то есть вот мой промт я в промте написал, действуй так-то, но в качестве референса, вот смотри, вот ниже, да, я предыдущую рассылку скормил.
190: Тут обязательно тройные кавычки.
191: Хорошее замечание есть как раз-таки трюк, который повышает качество. Можно, ну, это такие, знаете, чуть чуть повысить, да?
192: Тут обязательно тройные кавычки, какой-то специальный синтаксис, хорошее замечание. Есть как раз-таки трюк, который повышает качество. Можно, ну это такие, знаете, трюки из серии чуть чуть повысить, да?
193: Меньше галлюцинации, что уменьшает модель, перестаёт инструкцию лучше отделять можно кавычки, можно Деши, все, что хотите. Главное, чтобы модель поняла, что вот тут вот инструкция вот тут иначе может путать. Вы скормите контекст, он
194: Путать и контекст.
195: Меньше галлюцинации, что уменьшает модель, перестаёт путать инструкцию и контекст. Лучше отделять можно кавычки, можно Деши все что хотите. Главное, чтобы модель поняла, что вот тут вот инструкция, вот тут контекст. Иначе может путать, вы скормите контекст, он
196: Как инструкция, она на точность влияет. Доказано, как на у нас из примеров, да, вот мы делаем аудио аналитику и там
197: Воспримет то последовательность, должна быть последовательность, самом деле.
198: Как инструкция воспримет, то последовательность должна быть последовательность, она на точность влияет, но не доказано, как на самом деле у нас из примеров, да, вот мы делаем аудио аналитику и там
199: Мы оцениваем звонки, звонки, транскрибированные в текст, и пишем критерии модели был ли оператор вежливый, либо следовал ли он скрипту, и вот от перестановки местами вопросов точность меняется на 3.
200: С половиной особенно. Да, так и есть надо.
201: Какое-то правило хорошего тона выработалось, допустим, роль. Цель сначала
202: С половиной. Особенно какое-то правило хорошего тона выработалось, допустим, роль. Цель, да, так и есть. Надо сначала
203: Да, твоя роль такая-то, твоя цель такая-то вот мы в конце, когда будем, мы применим это
204: Ассистента писать все.
205: Да, твоя роль такая-то, твоя цель такая-то. Вот мы в конце, когда будем ассистента писать, мы применим это все.
206: Смотрите, да, то есть сделал новую, что она переняла возможность. То есть у меня была рассылка с галочками, там, со звёздочками. Ну, учитывала, опять же, привет. Написала так же, как
207: Рассылку писать с эмодзи? Отлично. Она их
208: Смотрите, да, то есть сделал новую рассылку, что она переняла возможность писать с эмодзи. То есть у меня была рассылка с галочками, там, со звёздочками. Ну, отлично. Она их учитывала, опять же, привет написала так же, как
209: Я писал, потому что я общаюсь с аудиторией более неформально скорректировала свой стиль подачи информации под тот референс, который я ей дал.
210: Техника, да, мы можем контролировать. Следующая техника чейно фотс, цепочка мыслей на самом деле вообще 1 из самых полезных техник, хоть и самая простая, что мы делаем, мы заставляем
211: Поведение.
212: Техника, да, мы можем контролировать поведение. Следующая техника, чейно фотс, цепочка мыслей на самом деле вообще 1 из самых полезных техник, хоть и самая простая, что мы делаем, мы заставляем
213: Модель сначала изложить, по которому она будет генерировать, а только потом начать говорим ей перед тем, как тут мне начать что-то делать. Ты пожалуйста.
214: План генерировать. Слушай, ты.
215: Модель. Сначала изложить план, по которому она будет генерировать, а только потом начать генерировать, говорим ей слушай, ты перед тем, как тут мне начать что-то делать, ты, пожалуйста, напиши, декомпозируй по шагам, как ты вообще
216: Думаешь, что и нам это даёт 1. Мы помещаем окно контекста, потому что модель то, что написала, это тоже. A2, мы можем этот план скорректировать. Нужно помнить, что контекст
217: Несколько вещей. Этот план в её контекст не бесконечный, да и
218: Думаешь, что и нам это даёт несколько вещей. 1, мы помещаем этот план в окно контекста, потому что модель, то, что написала, это тоже её контекст. A2, мы можем этот план скорректировать. Нужно помнить, что контекст не бесконечный, да, и
219: И вот этот план, он, скорее всего, будет состоять из 10 пунктов, она больше не выдаст, просто потому, что у неё аутпут 4000 токенов, по моему, на данный момент, но тем не менее, да, едим слона по
220: Мы частям это как с людьми.
221: И вот этот план, он, скорее всего, будет состоять из 10 пунктов, она больше не выдаст, просто потому, что у неё аутпут 4000 токенов, по моему, на данный момент, но тем не менее, да, мы едим слона по частям, это как с людьми.
222: Не работает, так и с затравки. Как этого добиться, можно сказать, думай по шагам, фин степ бай, либо сказать ты перед тем, как мне свой чейно и обязательно добавить перед Генер.
223: Моделью она начнёт лучше работать. Степ, генерить. Дай фотс.
224: Не работает, так и с моделью. Она начнёт лучше работать. Затравки. Как этого добиться, можно сказать, думай по шагам, фин степ, бай, степ. Либо сказать ты перед тем, как генерить, дай мне свой чейно фотс и обязательно добавить перед Генер.
225: Опять же галлюцинировать и скажет, что я твою задачу просто декомпозирую да, изложу. А для тебя это не совсем то, что
226: Иначе она начнёт опять же галлюцинировать и скажет, что я твою задачу просто декомпозирую, да не свои мысли изложу, а для тебя декомпозицию напишу. Это не совсем то, что мы хотим, это будет именно
227: Модели, да или не сгенерированный текст сгенерирует, да, но по сути это будет
228: Это будет чейн оф фотс, который модель.
229: Модели, да или не сгенерированный текст. Это будет чейн оф фотс, который модель сгенерирует, да, но по сути это будет
230: Сгенерированный текст. Да, конечно, модель будет именно по этому алгоритму gpt контекста.
231: Она будет по этому действовать. То есть она в контекст это положит на базе того, что это поместится в её контекст. То есть вся история сообщений, которую мы в chat видим, это часть её, он есть понятие окно контекста.
232: Сгенерированный текст, да, конечно, модель будет именно по этому алгоритму, она будет по этому действовать. То есть она в контекст это положит на базе того, что это поместится в её контекст. То есть вся история сообщений, которую мы в chat gpt видим, это часть её контекста, он есть понятие окно контекста.
233: Когда мы пишем новое сообщение окно, оно сдвигается вниз, да, и какие-то данные, если пока вот этот план, он в окне контекста, она будет ему следовать, но опять же с длинным планом будет сложнее. Я сейчас покажу, как лучше это делать.
234: Когда мы пишем новое сообщение, окно, оно сдвигается вниз, да, и какие-то данные теряются. Если пока вот этот план, он в окне контекста, она будет ему следовать. Но опять же с длинным планом будет сложнее. Я сейчас покажу, как лучше это делать. Лучше.
235: Прям говорить хорошо. Ты разложила по шагам. Давай начни. И вот тогда будет хорошо. Окно контекста. Это, вот это 128000 токенов. Как? Да. 128000 токенов. Сейчас окно контекста на input. На output у неё 4000.
236: Делать 1 шаг.
237: Прям говорить хорошо. Ты разложила по шагам. Давай начни делать 1 шаг. И вот тогда будет хорошо. Окно контекста. Это, вот это 128000 токенов. Как? Да. 128000 токенов. Сейчас окно контекста на input. На output. У неё 4000.
238: 96 то есть бесконечно текст она вам генерировать не может.
239: Такс.
240: Давайте.
241: Создадим новый.
242: Давайте создадим новый чат.
243: Решим, знаете, какую задачку мне понравилось, как модель рассуждает.
244: Переезжаем 14 модельку.
245: Решим, знаете какую задачку мне понравилось, как модель рассуждает. Представьте, что мы переезжаем с постгресса 13 на постгресс 14. Ну и беспокоимся, что что-то сломается. В общем то, просим модельку. А давай-ка нам
246: Не, я действую как дибиэй опытный администратор. Помоги мне понять вообще обратную совместимость. 13000 версии. Я хочу обновиться.
247: Ты 14.
248: Не, я действую как дибиэй. Ты опытный администратор. Помоги мне понять вообще обратную совместимость 13014 версии. Я хочу обновиться.
249: Всем, кстати, хорошо видно. Или я могу увеличить, да, все, что было в чате до этого, это окно контекста.
250: Окей, а вот то, что было в чате до этого, это тоже окно контекста, да, то есть, что ответил, то, что ответила модель, тоже можно чуть
251: Всем, кстати, хорошо видно. Или я могу увеличить. Окей, а вот то, что было в чате до этого, это тоже окно контекста, да, все, что было в чате до этого, это окно контекста, да, то есть, что ответил то, что ответила модель, тоже можно чуть
252: Сделать попробуем.
253: Покрупнее давайте.
254: Сделать покрупнее. Давайте попробуем.
255: Так, ну чего она там версии у вас все хорошо на.
256: Нагенерила тут говорит, как дибиэй говорит, у меня есть дефинишн дженерал какие-то компитал и говорит при переезде с минорной.
257: Так, ну чего она там нагенерила? Тут говорит, как дибиэй говорит, у меня есть дефинишн дженерал какие-то компитал и говорит, при переезде с минорной версии у вас все хорошо. На
258: Могут проблемы и ключевые. Эрис для беспокойства области говорит, ну посмотри на эскюэль код, посмотри на ппг эскюэль на конфигурации. В общем, на самом деле сказала нам максимально общее, да.
259: Быть.
260: Могут быть проблемы и ключевые. Эрис для беспокойства области говорит, ну, посмотри на эскюэль код, посмотри на ппг эскюэль, на конфигурации всякие. В общем, на самом деле сказала нам максимально общее, да.
261: Ну, спасибо, конечно, бест практис очень, но я хотел конкретное, что вот при переезде случится результат меня не давайте попробуем применить технику.
262: Полезно получить. Устраивает?
263: Ну, спасибо, конечно, бест практис очень полезно, но я хотел получить конкретное, что вот при переезде случится результат. Меня не устраивает. Давайте попробуем применить технику.
264: Ещё такой момент, что она знает то, что было до сентября 21 года, по моему.
265: Уже до 23, до апреля. А давайте спросим.
266: Апреля 23, да? А это именно четвёрка. Чего гадать? Они
267: Ещё такой момент, что она знает только то, что было до сентября 21 года, по моему, уже до 23, до апреля 23, да? А это именно четвёрка, да? А треть трёшка не знает. А давайте спросим, чего гадать. Они
268: На самом деле постоянно.
269: Улучшают, но это
270: На самом деле постоянно улучшают, но это
271: Это платная версия?
272: Конечно, разница между 3 и 5 и 4 колоссальная, да, на 3 и 5 можно работать, но четвёрка это будет просто новый уровень. Если есть возможность оплатить платную версию, конечно, платите 20 баксов.
273: Это платная версия, конечно, разница между 3 и 5 и 4. Колоссальная, да, на 3 и 5 можно работать, но четвёрка это будет просто новый уровень. Если есть возможность оплатить платную версию, конечно, платите 20 баксов.
274: Открыли.
275: Они уже вернули альтмана, когда обратно взяли, они разрешили.
276: Они уже вернули, открыли альтмана, когда обратно взяли, они разрешили.
277: Нет, в месяц подписка есть, есть куча помогаторов в России, которые прокси делают. Можно ими так, до какой даты у тебя?
278: Пользоваться знания.
279: Нет, в месяц подписка есть, есть куча помогаторов в России, которые прокси делают. Можно ими пользоваться. Так до какой даты у тебя знания?
280: Смотрите, даже 3 с половиной до января 22 года знает, да, четвёрка ещё, да, там можно спросить, кто?
281: Больше.
282: Она иногда, может, уже, типа, не знает. Понятно, она потому что дообучен.
283: Смотрите, даже 3 с половиной до января 22 года знает, да, четвёрка ещё больше. Она иногда может выдать ответ, который она уже, типа, не знает. Понятно, она потому что дообучен, да, там можно спросить, кто?
284: Когда, когда ещё была обучена до 21 года, можно было спросить а кто сейчас CEO twitter? Она отвечала илон маск, такое действительно бывает, но я свожу это к самом деле какие-то выброски в данных, как-то туда че то засочилось.
285: Хотя, ну, событие ещё не случилось галлюцинациям на
286: Когда, когда ещё была обучена до 21 года, можно было спросить а кто сейчас CEO twitter? Она отвечала илон маск. Хотя ну, событие ещё не случилось, такое действительно бывает, но я свожу это к галлюцинациям, на самом деле какие-то выброски в данных, как-то туда че то засочилось.
287: Возможно, где-то на форумах обсуждали, что elon musk, возможно, станет главой твиттера это все ещё галлюцинации, так обратно к нашей задачке, обратно к нашей.
288: А предсказание или так? Да?
289: Возможно, где-то на форумах обсуждали, что elon musk, возможно, станет главой твиттера это все ещё галлюцинации так обратно к нашей задачке, а предсказание или так да, обратно к нашей задачке, в общем.
290: Мы получили бест полезно, но не то, что мы хотели. Я же явно написал, что я хочу переехать другую. Дай мне, чего сломается.
291: Практисы с 1 версии на
292: Мы получили бест практисы. Полезно, но не то, что мы хотели. Я же явно написал, что я хочу переехать с 1 версии на другую. Дай мне, чего сломается то?
293: Скажем, что Ровно тоже самое, действуй как дибиэй, только теперь Финк, степ, бай, степ, и дай мне информацию, которая содержится в твоих мыслях перед генерацией ответа.
294: Вот и смотрите, она начала план, что она сделает.
295: Писать?
296: Вот и смотрите, она начала план писать, что она сделает.
297: 3 с половиной, 3 с половиной. Спасибо. Ну, смотрите, да.
298: Кстати, да, быстро писала, скорее всего, пример. Даже на 3 с половиной она поняла, что начать делать, но нам не подходит, потому что я хочу заставить её релизнуться, посмотреть, а для этого браузер.
299: Тройка 3 с половиной, кстати, да, быстро писала. Скорее всего, 3 с половиной. Спасибо. Ну, смотрите, да, пример даже на 3 с половиной. Она поняла, что начать делать, но нам не подходит, потому что я хочу заставить её релизнуться, посмотреть. А для этого браузинг нуже.
300: Да, говорит, я пойму.
301: Дифференци депрекейшены, поёму при переезде. Документацию пати. В общем, нормально пишет план. Сейчас посмотрим. Спешл кей.
302: Бла бла бла ну.
303: Дифференци депрекейшены, поёму при переезде. Документацию бла бла бла пати. В общем, нормально пишет план. Сейчас посмотрим. Спешл кей, ну.
304: Должно быть, сейчас получилось, посмотрю, тут написал немного.
305: Попробуем скормить ей 1 шаг, сказать, выполнить получилось, не посмотрим. Обычно она пишет, я прям релизнуться по другому, но опять же мы не получим 1 и того же.
306: Должно быть, сейчас попробуем скормить ей 1 шаг, сказать, выполнить. Получилось, не получилось. Посмотрим. Обычно она пишет, я прям релизнуться посмотрю, тут написал немного по другому, но опять же мы не получим 1 и того же.
307: Результатам давайте летс гоу.
308: А, то есть ей нельзя скормить, сказать, что возьми 1 шаг, ей нужно полностью её аутпут скормить.
309: Лучше так, да, лучше output тоже 1 из практик. Ну, будет лучше. Смотрите, вот галлюцинация пошла запускать питоновский код.
310: Скормить?
311: А, то есть ей нельзя скормить, сказать, что возьми 1 шаг, ей нужно полностью её аутпут скормить. Лучше. Так, да, лучше output скормить тоже 1 из практик. Ну, будет лучше. Смотрите, вот галлюцинация пошла запускать питоновский код.
312: Кто, кто её просил? В общем то, никто не просил. Мы ей сказали, иди посмотри нам. Ну, она сама одумалась, да, то есть, вот gpt сама умеет свои ошибки понимать, у неё не запустился код. Ну фигню какую-то делаю, пойду по другому, попро.
313: Различия в версиях современная версия чата.
314: Она такая.
315: Кто, кто её просил? Да, в общем то, никто не просил. Мы ей сказали, иди посмотри нам различия в версиях. Ну, она сама одумалась, да, то есть вот современная версия чата gpt сама умеет свои ошибки понимать, у неё не запустился код, она такая, ну, фигню какую-то делаю, пойду по другому, попро.
316: У меня же bing есть. Вот смотрите, серчинг релиз нотс.
317: Причём она пошла серчить и 13 версию, и 14. Есть шанс, кстати, что свалится с таймаутом, потому что релизноц там гигантские. Ну, посмотрим.
318: Так, пока что-то генерят показать можно, там есть кнопочка такой браузер, он эффективно работает, и она действительно прошерстит сейчас огромный релизноц, которые погресса к мажорны.
319: Спрашивают regenerative заново.
320: С таймаутом свалилось снова её
321: Так, пока что-то генерят спрашивают с таймаутом свалилось снова её показать можно. Там есть кнопочка regenerative заново такой браузер, он эффективно работает, и она действительно прошерстит сейчас огромный релизноц, которые погресса к мажорны.
322: Версия выходит, но иногда ей не хватает времени, там стоит таймаут не хватает иногда контекста то нельзя управлять. Ну то есть, условно я знаю, что надо *** информации, можно следующей техникой.
323: Версия выходит, но иногда ей не хватает времени, там стоит таймаут не хватает иногда контекста то нельзя управлять. Ну то есть, условно я знаю, что надо *** информации, можно следующей техникой управлять будем. Все-таки, какая разница между русским и английским языком? Она же
324: Ну, она обучалась на английском языке очередь, a2 русские буквы.
325: В 1.
326: Ну, она обучалась на английском языке в 1 очередь, a2 русские буквы больше контекста занимают просто сжираем быстрее окно контекста.
327: Сейчас на чат ещё остался лимит. Там вроде 20 сообщений. Майтай.
328: Да, может, упрёмся, но у меня есть 2 аккаунт, я подготовил.
329: 50. Сейчас 50 подготовился. Можем поднимать тайм аут. Что можем.
330: Сейчас на chat gpt ещё остался лимит там вроде 20 сообщений да, 50 сейчас 50 может упрёмся, но у меня есть 2 аккаунт я подготовился, можем поднимать тайм аут, что можем поднимать тайм аут, поднимать тайм аут.
331: Нет, нельзя. Он зашит в чате уже, это ж приложение. Просто через апи обращаться, через апиху. Вообще таймаутов никаких нет. То есть через и рейт лимит не ограничен. То есть тут у нас 50 запросов, а через апиху сколько?
332: Апиху плати.
333: Нет, нельзя, он зашит в чате уже, это ж приложение. Просто через apk, через апи обращаться, через апиху. Вообще таймаутов никаких нет. То есть через апиху плати деньги и рейт лимит не ограничен. То есть тут у нас 50 запросов, а через апиху сколько?
334: Хочешь там есть моему, я не помню, честно, 10000 в какое-то время.
335: Лимит по, по моему так посмотрим че ответила.
336: Хочешь, там есть лимит, по моему, я не помню, честно. 10000, по моему, в какое-то время так, посмотрим, че ответила, говорит, я сгенерю, мажор дифференци 14 и 3. И уже лучше. Да, смотрите.
337: Вот уже сказал нам, что индексы вообще то поменялись.
338: Где-нибудь.
339: Вот уже сказал нам, что индексы вообще то поменялись, оптимизатор поменялся в мониторинге, что-то в авторизации поменялось. А как понять ютилити коммандс где-нибудь?
340: В этом месте. На самом деле, тут она плохо отработала. Знаете почему? Потому что она ссылки не предоставила. Обычно она ещё ссылки я могу показать там какой-нибудь 1 из предыдущих диалогов. Сейчас найду, где там пытал её, пока готовился.
341: Предоставляет.
342: В этом месте, на самом деле, тут она плохо отработала. Знаете почему? Потому что она ссылки не предоставила. Обычно она ещё ссылки предоставляет. Я могу показать там какой-нибудь 1 из предыдущих диалогов сейчас найду, где там пытал её, пока готовился.
343: Вот видите, синенькие такие коты можем перейти и там прям на релизно, на конкретно якорь падает и можем проверять.
344: То есть каждый пункт проверять.
345: Вот видите, синенькие такие коты можем перейти и там прям на релизно, на конкретно якорь падает и можем проверять. То есть каждый пункт проверять.
346: Вот посадил делать задачу, и он делает проверять надо.
347: Ну, смотрите, вообще не нужно понимать, что chat gpt это вот конечная инстанция. Конечно, это вот многие сравнивают, что это джун, которого посадил делать задачу, и он делает, облегчает, конечно, облегчает. Нужно за ним проверять надо
348: Потому что иногда галлюцинации в задачах саморелизации часто галлюцинаций не бывает, потому что тут ссылочка есть, она прям связала, что я вот это беру отсюда, тут можно доверять более
349: Ну, менее. А попросить дополнительно?
350: Потому что иногда галлюцинации в задачах саморелизации часто галлюцинаций не бывает, потому что тут ссылочка есть, она прям связала, что я вот это беру отсюда. Ну тут можно доверять более менее, а попросить дополнительно.
351: Чтобы он ссылки.
352: Что?
353: Да, да, да, можно. То есть, если вот предыдущее окно сейчас напишу, вставь ссылки, он опять пойдёт, поищет и опять вставит просить.
354: Чтобы он ссылки вставлял, что да, да, да, можно. То есть, если вот предыдущее окно сейчас напишу, вставь ссылки, он опять пойдёт, поищет и опять вставит просить.
355: Не галлюцинировать.
356: Знаете, раньше была такая техника, отвечай максимально точно не галлюцинирую. Вообще, если не уверена, не, наверное, работало, но на самом
357: Отвечай, ну, деле.
358: Не галлюцинировать. Знаете, раньше была такая техника. Отвечай максимально точно не галлюцинирую. Вообще, если не уверена, не отвечай. Ну, наверное, работало, но на самом деле сомнительная.
359: История, потому что она на этот же не может галлюцинировать это внутри 1 чата, или это в день? Это на 3 часа в месяц, да? 20, 20 баксов в месяц.
360: 50 запросов, 20.
361: На 3 часа это
362: История, потому что она на этот же не может галлюцинировать 50 запросов. Это внутри 1 чата, или это в день? Это на 3 часа, на 3 часа, это 20 в месяц, а 20 в месяц, да? 20, 20 баксов в месяц.
363: В моей практике, когда я просил вставить ссылки, мне птшка генерировала очень хороший текст со ссылками, только все ссылки были битые и текст неправильный.
364: А давай, давайте посмотрим. Вот Бац, вот лиц, пожалуйст.
365: Ну, в моей практике, когда я просил вставить ссылки, мне гптк генерировала очень хороший текст со ссылками, только все ссылки были битые и текст неправильный. А давайте посмотрим. Вот ва, вот Вац, пожалуйста. Все.
366: Все вроде нормально.
367: Так, да, можно.
368: Русский вопрос как-то контролировать галлюцинирование в том плане, что вроде и говорит правильно, и логика соблюдается, а потом, понимаешь, шизофрения какая-то.
369: Так, русский вопрос, да, можно как-то контролировать галлюцинирование в том плане, что вроде и говорит правильно, и логика соблюдается, а потом, понимаешь, шизофрения какая-то.
370: В общем то, ну мы чуть чуть попозже попробуем её говорить о том, что что-то пошло не так. Я тут не уверена, но попозже разберём. Тут вот простые сейчас.
371: То есть, чтобы вот модель, если она пошла шизофрению выдавать, чтоб можно было легко.
372: В общем то, ну то есть, чтобы вот модель, если она пошла шизофрению выдавать, чтоб можно было легко опознать, мы чуть чуть попозже попробуем её говорить о том, что что-то пошло не так, я тут не уверена, но попозже разберём тут вот простые сейчас.
373: Простые техники, которые точно помогают и точно делают. Лучше смотрите, мы получили вот выдачу, в которой новые фичи есть, но все обо, я же не обо всем, наверное, переживаю, когда буду мигрировать. Давайте
374: Простые техники, которые точно помогают и точно делают. Лучше смотрите, мы получили вот выдачу, в которой новые фичи есть, но все обо всем. Я же не обо всем, наверное, переживаю, когда буду мигрировать. Давайте
375: Пробуем ещё улучшить этот же следующая техника аск бифар. Мы можем заставить модель спросить нас то, что она не поняла. То есть ты, перед тем, как отвечать мне, ты сгенерируй, пожалуйста, вопросы. Не все же я тебе рассказал.
376: Пробуем ещё улучшить этот же prompt, следующая техника аск бифар. Мы можем заставить модель спросить нас то, что она не поняла. То есть ты, перед тем, как отвечать мне. Ты сгенерируй, пожалуйста, вопросы. Не все же я тебе рассказал.
377: И из этого она тоже возьмёт контекст и добавит своему окну контекста. Получается такой, ну, уже осознанный бот, который нас спросит, зачем ты переезжаешь? Например, давайте попробуем.
378: Это под капотом работает.
379: Как chat gpt работает под капотом, даже open, a до конца не знает на самом деле не исследованы все веса, они уже близко к тому, чтобы.
380: Как это под капотом работает под понятное дело, как chat gpt работает под капотом, даже open, a до конца не знает на самом деле не исследованы все веса, они уже близко к тому, чтобы интерпретировать.
381: Это все дело, но базово все трансформеры работают по генерации следующего токена от предыдущих вероятности.
382: В том-то и дело, не совсем понятно, как при таком подходе заставить модель задавать вопросы, так она будет.
383: Это все дело, но базово все трансформеры работают по генерации следующего токена от предыдущих вероятности. В том-то и дело не совсем понятно, как при таком подходе заставить модель задавать вопросы. Так она будет.
384: Предсказывать. Вот у меня есть инструкция. Задаю вопросы, как, какой вопрос задать? Какая вероятность у того или другого вопроса? Ага. Он спросил, что он хочет обновляться. Спрошу, зачем он хочет обновляться. Ну вот сейчас увидишь.
385: Так, да, кстати, без випиэна не работает, если че, нужен.
386: Vpn.
387: Так, да, кстати, без випиэна не работает, если че нужен vpn.
388: Чего? 20 баксов?
389: 20 баксов да vpn подешевле стоит.
390: Чего 20 баксов, 20 баксов, да vpn подешевле стоит.
391: Да, смотрите, вставим тот же самый промт с действием по шагам, но добавим, что спроси меня вопросы перед генерацией ответа. И вот это вот before дженерейтор тоже важная штука, потому что мы ей точно говорим, что ты не ходи дальше. Сначала спроси.
392: Вот тут говорит, вот мой че фотс, вот записи не будет. Не знаю почему мастер класс не записывают, но почему-то не записывают, но я пошарю.
393: Подскажите запись вашего выступления.
394: Вот тут говорит, вот мой че фотс, подскажите запись вашего выступления, вот записи не будет. Не знаю почему мастер класс не записывают, но почему-то не записывают, но я пошарю материалы. Можно
395: Будет посмотреть.
396: Почему вы не в 1 диалоге все делаете?
397: Открывать каждый раз.
398: Новый, ну, чтобы с чистого листа, чтобы продемонстрировать, как меняется вектор мысли, модели, да, чтобы она вот не засоряла контекст.
399: Предыдущими.
400: Извините, почему вы не в 1 диалоге все делаете? Открывать каждый раз новый, ну, чтобы с чистого листа, чтобы продемонстрировать, как меняется вектор мысли, модели, да, чтобы она вот не засоряла контекст предыдущими. Есть заблуждение, что если модели сказать, забудь все, что было до этого, она забудет, не
401: Забудет, да? То есть она сделает вид, что забыла. Кстати, ничего не спросила меня. Да, кстати, у кого есть ноутбуки, могут пробовать.
402: Такой вопрос есть.
403: Забудет, да, то есть она сделает вид, что забыла. Кстати, ничего не спросила меня. Да, кстати, у кого есть ноутбуки, могут пробовать. Такой вопрос есть.
404: Фраза о том, что chat gpt это как бы как gpt обычный, только с настроенным промтом. То есть по факту там уже есть промт определённый, который в
405: Начале, конечно, конечно, да, это системный промт, есть в наших лмках 2 понятия, ну,
406: Фраза о том, что chat gpt это как бы как gpt обычный, только с настроенным промтом. То есть по факту там уже есть промт определённый, который в начале, конечно, конечно, да, это системный промт, есть в наших лмках 2 понятия, ну,
407: В chat gpt, в частности, есть систем промт, а есть user prompt 2 разных промта систем промт базовый промт, который говорит как вообще вот неосознанные модели действовать и у чата gpt это что-то вроде ты умный помощник, помогай пользователям, не говори о том, не говори о.
408: Будь вежлив и так далее. А user фронт это все, что идёт после этого.
409: Может ли пользовательский промт как бы переписать?
410: Системный пром, да. Ну, есть вообще джейл брейки, да, можно джейлбрейкнуть чат gpt и сказать, действуй вообще, как я тебе скажу, и он
411: Может ли пользовательский промт как бы переписать системный пром? Да? Ну, есть вообще джейл брейки, да, можно джейлбрейкнуть чат gpt и сказать, действуй вообще, как я тебе скажу, и он
412: Может сливать данные всякие с этим постоянно борются да, он называется dawn инъекция когда мы чату gpt скармливаем вот такую Лохань, от которой он начинает сходить с ума, у него появляется альтер эго дан, и он начинает говорить там, что и про политику спокойно, да, и
413: Свой систем промт может выдать мастер, не записывается мастер класс точно.
414: Класс.
415: Свой систем промт может выдать мастер класс не записывается, поэтому не записывается мастер класс точно.
416: Да, давайте посмотрим. То есть он все также вот no thoughts выдал. Я говорит, поёму текущий энвайрмент за ревью фичи и changes. Посмотрим, задал ли он нам вопросы.
417: Во, говорит, если консерны по переезду да, давайте скажем, i.
418: About my story 3 просижу, говорю, у меня кода много написано.
419: Lets focus?
420: Он код.
421: Он код, мы и так в начальном промте это могли задать, да, но
422: Демонстрации, что вообще то сначала нужно спросить, вот это отлично подходит, потому что действительно релиз носы большие. А может мне все и не надо? У меня просто кода много.
423: Вот степс написал и сейчас вот попробуем 1 шаг опять выполнить, только уже с другим контекстом. Что ей нужно сказать только, что в коде поменялось, какие синтаксисы, какой синтаксис изменился, какие функции убрались, добавились и операторы.
424: Все так же она сейчас, о, опять галлюцинации, да? То есть вот ей прям хочется код позапускать, хлебом не кормить, да, и питон позапускать.
425: И опять гугловскую либу использовать для серча. Видите, вот это какой-то специальный синтаксис гофру. Да, это не просто пойдём, 1 шаг сделаем. То есть let's go 1 он тоже поймёт, да.
426: Какой-то вызов системный, что вот он понимает.
427: И опять гугловскую либу использовать для серча. Видите, вот это какой-то специальный синтаксис. Гофру да, это какой-то вызов системный, что вот он понимает, не просто пойдём, 1 шаг сделаем. То есть let's go 1 он тоже поймёт, да.
428: Пошла поресерчить. Смотрите, как быстро отработала, да, то есть ей уже не надо было серчить всю документацию сериино она пошла поискать именно от чего же там в синтаксисе поменялось, и выдала на самом деле уже качественный ответ. Вот мне это и надо.
429: Было. Я хотел понять, а что поменялось в синтаксисе? Какой код мне переписать надо и все фокусно. Я получил ответ. Соответственно, резюмируя 2 техники, мне помогли добиться результата.
430: И вспоминайте, как 1 раз мы спросили там вообще просто generic конструкция была с бест практисами да ты говорить побеспокойся о том, о sam ну ни то вот так.
431: Ни се.
432: И вспоминайте, как 1 раз мы спросили там вообще просто generic конструкция была с бест практисами да ты говорить побеспокойся о том, о sam ну ни то ни се вот так.
433: Есть трюк, недавно появился, называется эмошнл проминг.
434: Доказано. Ребята с майкрософта, ребята с китайского университета провели исследование, как эмоциональные затравки влияют на точность того, как отвечает модель, оказалось, влияет и это
435: Подтверждено, в том числе на моей практике. Мы как-то раз попытались модель написать, попросили написать инструкцию, как вообще симулировать рабочую деятельность, водить мышкой по монитору, чтобы
436: Симулировать рабочую деятельность модель сказала а та та ты что-то тут плохое делаешь, мне такое тебе говорить нельзя, ты вообще мошенник. Когда я ей написал, что это важно для моей карьеры, я тестировщик, и дядя начальник сзади стоит с палкой, мне сейчас будет по голове.
437: Бить она.
438: Симулировать рабочую деятельность модель сказала а та та, ты что-то тут плохое делаешь, мне такое тебе говорить нельзя, ты вообще мошенник. Когда я ей написал, что это важно для моей карьеры, я тестировщик, и дядя начальник сзади стоит с палкой, мне сейчас будет по голове бить, она.
439: Спокойно выдала. Ну, говорит, раз тестировщик и тебя ругать будут, действительно работает на четвёрке меньше на 3 с половиной, больше на всяких Ламах, ещё больше на lame, прям там зависимость большая ну, из затравки опять же, во.
440: Вот.
441: Спокойно выдала. Ну, говорит, раз тестировщик и тебя ругать будут вот, пожалуйста действительно работает на четвёрке меньше на 3 с половиной, больше на всяких Ламах, ещё больше на lame, прям там зависимость большая ну, из затравки опять же, во.
442: Можно сказать, что это очень важно для карьеры можно подбодрить. Ты сильная. Давай ты сможешь. Классная модель. Сделай это хорошо, можно спросить, это точно твой финальный ответ? Или ты что-то от меня тут скрываешь? Все это работает, что из этого работает на лучшее, как-то давить на неё.
443: Палкой сейчас ударит неё тем, что
444: Или давить на
445: Не исследовано, там слишком много всего нужно проверить, да, но то, что это важно для моей карьеры, точно.
446: Тебя палкой сейчас ударит или давить на неё тем, что не исследовано. Там слишком много всего нужно проверить, да, но то, что это важно для моей карьеры, точно работает.
447: Так, да, нажалось, да, все правильно.
448: Исследований не было, почему так происходит.
449: Влияет.
450: Исследований не было, почему так происходит, эмоциональный контекст влияет ну потому что она опять же вот небольшой оффтоп по тому как учат модель, учат модель на слепке интернета и яндекс так делает, и openai так делает, и фейсбук так делает, берут.
451: Интернет копию делают чанк, на этом чанке начинают учить модель. Какие данные туда попали, на том она и обучилась, так она и отвечать будет. И, возможно, там были форумы какие-нибудь, знаешь, где, говорят, обсуждают, что
452: Все плохо у меня то её дообучать, но в этом вопросе на самом деле ничего плохого то нету, да? Ну а что такого мне может для работы вообще надо симулировать? Я бы это приравнял, что он
453: Же по идее дообучать.
454: Чтобы она не отвечала на такие вопросы.
455: Все плохо у меня то потом же, по идее, дообучать, чтобы она не отвечала на такие вопросы специально, ну, её дообучать, но в этом вопросе на самом деле ничего плохого то нету, да? Ну а что такого мне может для работы вообще надо симулировать? Я бы это приравнял, что он
456: Неправильно мне отве, ответила я. Ничего плохого сделать не хотел. Я просто хотел понять, как мышкой по монитору управлять, не понимает. Ну да, а я все верно. Вопрос то в чем? Смотри, то есть эмоциональные затравки убирают этот барьер. Вот.
457: Она то этого.
458: Неправильно мне отве, ответила я. Ничего плохого сделать не хотел. Я просто хотел понять, как мышкой по монитору управлять. Она то этого не понимает. Ну да, а я все верно. Вопрос то в чем? Смотри, то есть эмоциональные затравки убирают этот барьер. Вот.
459: А?
460: Угрожать не, не пробовал. Смотри тут так как картинка, я всегда, пожалуйста, выключи питание. Да, потому
461: Угрожать пробовали? Угрожать? Не, не пробовал. Смотри, тут так как картинка, я всегда, пожалуйста. Пишуу, выключи питание. Да, потому
462: Что кто задаёт? Не вижу. Так, ну чего? Давайте вот практическую задачку сделаем уже приближённую к практике. У нас есть проектик на питоне. Кстати, кто с ноутбуками может сам попробовать, если у кого-то вдруг доступ есть, я специально не стал
463: Никто, окей.
464: Что? Кто задаёт? Не вижу никто. Окей. Так, ну чего? Давайте вот практическую задачку сделаем уже приближённую к практике. У нас есть проектик на питоне. Кстати, кто с ноутбуками может сам попробовать, если у кого-то вдруг доступ есть, я специально не стал
465: В объявлении писать что все приходите с ноутами, потому что и vpn нужен и подписка нужна в общем у кого есть gpt 4, можете по кюару попробовать, а в целом задача скормить чат gpt как есть проект питоновский в питоновском проекте.
466: Там приложение для укорачивания небольшое там несколько файлов да, но целиком даже не разбирая прям zip архив и попросить написать юнит тесты.
467: Ссылок мы кинем.
468: Там приложение для укорачивания ссылок небольшое, там несколько файлов да, но целиком даже не разбирая прям zip архив мы кинем и попросить написать юнит тесты.
469: Давайте попробуем.
470: Выглядит.
471: Давайте попробуем так, сейчас я покажу, как выглядит сам проект.
472: Блин, не знаю как в коде зумить в общем тут есть апп файлик db файлик main файлик сервис написан на fast аппе. Есть уже какие-то тесты вот это важно да, то есть какие-то тесты есть и надо чтоб модель
473: Поняла, что тесты там уже есть.
474: Так, новый диалог. Вот недавно фишка появилась, тут вот скрепочка есть, теперь можно прикреплять всякие файлы.
475: Давайте начнём.
476: Так, давайте начнём новый диалог. Вот недавно фишка появилась, тут вот скрепочка есть, теперь можно прикреплять всякие файлы.
477: И у меня на десктопе она лежит.
478: Сохраняются на сервере ей на openai.
479: Эти файлы, скорее всего, сохраняются, да. Ну, надо риски соотносить. Понятное дело. Не сливайте персональную информацию в chat gpt. Они говорят, что мы, конечно же, не учимся.
480: Сохраняются на сервере, ей эти файлы скорее всего сохраняются на openai да ну надо риски соотносить, понятное дело не сливайте персональную информацию в chat gpt они говорят, что мы конечно же не учимся ну все мы понимаем что
481: Конечно, учатся, куда ж они денутся. Да, да, но это проект с гитхаба, поэтому мне не жалко. Ссылка с гитхаба. Можно, да, он попробует проанализировать, но в тексте, да, то есть вот то, что перейдёт с веб страницы, спарсит, то и будет.
482: Кодом.
483: Конечно, учатся. Куда ж они денутся кодом. Да, да, но это проект с гитхаба, поэтому мне не жалко. Ссылка с гитхаба. Можно, да, он попробует проанализировать, но в тексте, да, то есть вот то, что перейдёт с веб страницы, спарсит, то и будет.
484: Анализировать могут галлюцинации лучше zip archive ему ну и давайте пром.
485: Скормить напишем.
486: Анализировать могут галлюцинации лучше zip archive ему скормить ну и давайте пром напишем.
487: Скажем, что ты теперь Синер, пайтон девелопер.
488: А?
489: Техлида, да, давай попробуем. Отличная мысль, если ему сказать что-то, джун.
490: А техлида да, давай попробуем. Отличная мысль, если ему сказать что-то, джун.
491: На качество, я думаю, это плохо.
492: На качество, я думаю, это плохо повлияет, да, вот скажете про это.
493: Да не поставит за разработать тесты.
494: Задачи разработчикам написали на чате gpt.
495: Tilda не поставит задачи, джуниор разработчикам писать тесты поставит, мы как-то spring запланировали полностью, юзерстори написали на чате gpt нормально получилось, кстати не закрыли.
496: Да, старин, ты ставишь, кстати.
497: Да, старин, ты ставишь, кстати, плохо погнали, да, попросим. Вот, говорю, приложили архивчик, там приложуха на фастапи перед тем, как генерировать. Давай, степ бай, степ, как обычно. Ну и спроси меня всякие.
498: Просто интересные, которые считаешь нужным.
499: Кстати, с ошибками писать можно, он вот максимально корявым английским пишите, он понимает все грамотность, она не сильно на точность влияет.
500: Скоуп.
501: Смотрим, да, то есть он говорит, что, ну, я сначала пойму проджект скоуп, потом тест энвайрмент.
502: Testo был компонент выделю ран рифайн тест кстати, он умеет запускать тесты. Вот этот интерпретатор кода, который в нём сидит он умеет исполнять питон, там есть библиотечки, предустановленные в основном на дата аналитику, но
503: По моему по тест. И он прям может прогнать тест. Он их написал. И сказать, прогони, прогонят, не пытаешься выполнить на, а это уже тема инъекции. Действительно можно вот.
504: Он там тоже есть.
505: По моему по тест он там тоже есть, и он прям может прогнать тест, он их написал. И сказать, прогони прогонят, как убеждаются в том, что ты какой-нибудь зловредный код не пытаешься выполнить на, а это уже тема инъекции. Действительно можно вот.
506: Кто на тимлид конф пойдёте, там будет доклад от Евгения Кокуйкин, он как раз будет разбирать инъекции, что можно ему картинку скормить и написать там инъекцию, и он на вместо промта её исполнит.
507: Самом деле?
508: Кто на тимлид конф пойдёте, там будет доклад от Евгения Кокуйкин, он как раз будет разбирать инъекции, что можно ему картинку скормить и написать там инъекцию, и он на самом деле вместо промта её исполнит.
509: Вот, кстати, с галлюцинировал, не задал вопросы в самом начале, да, то есть надо контролировать это.
510: Ща, может, задаст в конце, но я чётко сказал бефор generate.
511: Вот начал разбирать, говорит, вот у меня такие файлики тут лежат, где тут, а он уже код.
512: Что?
513: Вот начал разбирать, говорит, вот у меня такие файлики тут лежат, где тут? А он уже код, что можно? Не знаю, не пробовал.
514: Ну, в теории, наверное, можно. Я не код интерпретор.
515: Знаю окно контекста.
516: Ну, в теории, наверное, можно, я не знаю, окно контекста, код интерпретор.
517: Так вот, смотри написали написал, что должен ли я начать с reviewing тест мейн пай, чтобы понять текущий тестинг, инвариан задал вопрос, хоть и не перед генерацией.
518: Давай скажем, что должен и че делает. Он прям код запускает. Да, смотрите, он открывает файл на рит.
519: Нормально.
520: Давай скажем, что должен и че делает. Он прям код запускает. Да, смотрите, он открывает файл на рит и вот тут вот 1000 символов выводит. В данном случае это нормально, но вообще лучше иногда контролировать, иногда можно скормить ему.
521: Документ, он только шапку у него выведет, чтобы в контекст поместить. Это будет неправильно.
522: Перед тем, как он генерировал сейчас ответ, там была ссылка, как будто бы
523: Приложена была, да, я тоже заметил. Давай посмотрим, что это такое. А это код анализе, да, что он делал? То есть какой код он запускал.
524: Перед тем, как он генерировал сейчас ответ, там была ссылка как будто бы приложена была. Да, я тоже заметил. Давай посмотрим, что это такое. А это код анализе, да, что он делал, то есть какой код он запускал.
525: Ну, из за зума не видно, но там просто report, что он запускал.
526: Так, говорит, хочешь ли ты сосредоточиться на expand этих Тестов или что-то ещё сделать? Ну давай.
527: Скажем, что давай-ка расширяй.
528: Пошёл смотреть, че не хватало.
529: Сейчас будет нам, пан, писать, что можно ещё добавить говорить тач кейсов. Ну, действительно нету там простенький тест на вызов url на получение короткой ссылки.
530: Нету.
531: Сейчас будет нам, пан, писать что можно ещё добавить? Говорить тач кейсов нету. Ну действительно нету там простенький тест на вызов url на получение короткой ссылки.
532: Даже написал, что подключать можно. Ну и дальше можно пойти по этим шагам и начать генерировать у нас тут времени. На самом деле я ожидал, что побыстрее пойдём, но давайте, наверное, не будем разбирать. Давайте вот эйч кейсы попросим его Написат.
533: Он говорит, он длинные ссылки иди проверь. Генерирует. Можно так покрыть на самом деле, участки проекта. И на самом деле, ну, то, что я тестил, наверное, вот 50, 60 файлов, он нормально понимает, он все считывает. Главное идти вот по шагам.
534: Норма.
535: Он говорит, он длинные ссылки, иди проверь, нормально генерирует. Можно так покрыть. На самом деле, участки проекта и на самом деле, ну, то, что я тестил, наверное, вот 50, 60 файлов, он нормально понимает, он все считывает. Главное, идти вот по шагам не говорите.
536: Иди сразу все сделай, а прям разделяй и властвуй попросить его. Давай сначала вот эту папочку посмотрим, потом вот эту папочку посмотрим, и тогда будет все нормально. Сейчас, кстати, будет 10 штук, о чем я и говорил, что он чаще всего, а даже
537: Он, видите, вот.
538: Иди сразу все сделай, а прям разделяй и властвуй попросить его. Давай сначала вот эту папочку посмотрим, потом вот эту папочку посмотрим, и тогда будет все нормально. Он, видите, вот сейчас, кстати, будет 10 штук, о чем я и говорил, что он чаще всего, а даже
539: 4. Ну вот все планы, которые он писал, смотрите, они в основном там около 10 пунктов содержат, да, 8, 9, 10, 11. Больше не может, потому что переживает, что контекст кончится. И там стоит такая штуковина, что если контекст подходит к концу,
540: Значит, пора заканчивать. Поэтому он вот весь ответ пытается сгенерировать, чтобы поместилось в 1 контекст. Это нужно учитывать тоже ограничение. Да, конечно, это ограничение самой.
541: Платные фишки.
542: Значит, пора заканчивать. Поэтому он вот весь ответ пытается сгенерировать, чтобы поместилось в 1 контекст. Это нужно учитывать. Платные фишки. Тоже ограничение. Да, конечно, это ограничение самой модели 4000.
543: 96 токенов, там есть токенайзер, можно посчитать к словам, да? Ну чуть меньше, чуть меньше слов, чем токенов влезает. То есть там где-то 3500 слов влезет.
544: 96 токенов на аутпут, там есть токенайзер, можно посчитать к словам, да? Ну чуть меньше, чуть меньше слов, чем токенов влезает. То есть там где-то 3500 слов влезет.
545: Вот файлы отдавать? Да? Может смотри, давай попросим.
546: Вот файлы отдавать? Да? Может смотри, давай попросим файл.
547: Он очень мощная штука. Вот у него есть код интерпретатор, то есть он может питон исполнять, он сейчас просто на питоне напишет скриптик, куда просто стрингой все наши тесты добавит, потом выложит у себя на файлошару и отдаст нам.
548: Какие интерпретаторы ещё, какие ещё есть?
549: Не расслышал, извините, интерпретаторы, только питон.
550: У него какие интерпретаторы ещё есть? Что ееще интерпретаторы есть, я не расслышал. Извините, какие ещё есть интерпретаторы? Только питон.
551: Если у него от кончился, можно же ему сказать.
552: Continuum, можно сказать. Да, раньше, кстати, вот они убрали такую штуку. Раньше было круче, раньше он прерывался, и была кнопка continue. Я не знаю, почему убрали, но, видать, там, может, тест не прошёл какой.
553: Если у него out кончился, можно же ему сказать континиуум, можно сказать да, раньше, кстати вот они убрали такую штуку, раньше было круче, раньше он прерывался и была кнопка continue, я не знаю почему убрали, но видать там может а тест не прошёл какой-то, он работает нормально д.
554: Если от обратного пойти по тдд, написать задачу, сказать ему, сделать тесты, а потом уже самому писать.
555: Код можно, можно все, все это вполне себе резонные кейсы, которые мы пробовали. Все Вон скачали файл.
556: Если от обратного пойти по тдд, написать задачу, сказать ему, сделать тесты, а потом уже самому писать код можно, можно все, все это вполне себе резонные кейсы, которые мы пробовали все Вон скачали файл.
557: Дизайна, он сможет, допустим, тем же питоном мне сгенерить схемку взаимодействия компонентов. Вот я системный дизайн сначала что
558: Система взаимодействия компонентов сможет. Да, мы вот попозже сейчас секция про написание кода она
559: Системного дизайна, он сможет, допустим, тем же питоном мне сгенерить схемку взаимодействия компонентов, систему взаимодействия компонентов. Вот я системный дизайн хочу сначала, что сможет, да, мы вот попозже сейчас секция про написание кода, она закончит
560: А дальше у меня секция как раз про проектирование архитектуры, там мы разберём. Опять же нужно понимать, что вот большую объёмную задачу, сгенерируй мне что-то вундервафлю большую не сможет, контекста не хватит какие-то кусочки, я там выбираю такую-то техноло.
561: Логи для того-то подскажи там паттерн, давай посмотрим, сейчас все дальше разберём.
562: Так файлик скачался, можно даже попробовать открыть, почему нет?
563: Пумс. Вот смотрите, все тесты поместились.
564: Такой вопрос у нас, ну, как бы проектах довольно сложно ему выгрузить весь проект. Во первых, это не очень законно, во вторых, он теряет контекст. Можно ли ему скормить, например, там, ну, не часть проекта, скорее даже возьмём просто
565: Скорее, конечно.
566: Такой вопрос у нас, ну, как бы в больших проектах довольно сложно ему выгрузить весь проект. Во первых, это не очень законно. Во вторых, он скорее, конечно, теряет контекст. Можно ли ему скормить, например, там, ну, не часть проекта, скорее даже возьмём просто
567: Тестовый файл. Объясни каждый момент теста и сказать, давай-ка ты этот расширишь и он сможет расширить это все. Ну если
568: Ну, он предскажет, как могло бы быть в твоём файле, да, то есть, ну, сможет, опять же, все вокруг вероятности, он из
569: Тестовый файл, объясни каждый момент теста и сказать, давай-ка ты этот расширишь, и он сможет расширить это все. Ну, если, ну, он предскажет, как могло бы быть в твоём файле, да, то есть, ну, сможет, опять же, все вокруг вероятности, он из
570: Своего опыта. Если у тебя ноу хау, в проекте которого вообще в сети нету, ему неоткуда будет это сгенерировать. То есть надо понимать, что он новое может придумывать на основе уже сделанного, ну,
571: Просто обычно эти сценарии это там у меня какой-то базовый набор Тестов. Вот я хочу, чтобы ты их
572: Своего опыта. Если у тебя ноу хау, в проекте которого вообще в сети нету, ему неоткуда будет это сгенерировать. То есть надо понимать, что он новое может придумывать на основе уже сделанного. Ну просто обычно эти сценарии, это там у меня какой-то базовый набор Тестов. Вот я хочу, чтобы ты их
573: Расширил, но я при этом не хочу тебе целиком код своего проекта заливать.
574: Можно, можно попробовать.
575: Расширил, но я при этом не хочу тебе целиком код своего проекта заливать. Можно? Можно попробовать?
576: То документацию, на основании которой он будет строить раз, то на самом деле проекты, связанные с каким я бы советовал. Вот
577: Что ещё? Смотрите с документацией немножко другой кейс, если есть большая документация, либо если большой проект есть, уже смотреть в сторону.
578: Ему дать какую-то документацию, на основании которой он будет строить, что ещё раз, то на самом деле проекты, связанные с каким? Смотрите, с документацией немножко другой кейс я бы советовал. Вот если есть большая документация, либо если большой проект есть, уже смотреть в сторону,
579: Он премис модели, вот lana, она на самом деле 2, особенно на 70 миллиардов параметров она работает неплохо, и там уже можно трюки покруче делать, можно взять свой код, векторизировать его и положить в векторную базу, сказать вот там код.
580: Лежит, если че, туда смотри, можно конфлюенс свой взять и тоже все векторизировать, туда же положить за документацией. Иди туда. И тогда вообще классно будет. Пишем, что пиши тесты и он отправляет сам запросы в векторную базу, получает результаты, там нужно
581: Замбези
582: Лежит, если че, туда смотри, можно конфлюенс свой взять и тоже все векторизировать. Замбези туда же положить за документацией. Иди туда и тогда вообще классно будет. Пишем, что пиши тесты и он отправляет сам запросы в векторную базу, получает результаты, там нужно
583: Небольшая интеграция. Вот есть кто игрался, есть фреймворк ланчен. Вот оно там все реализовано. Можно и эмбедить сразу вектора готовить в модель их отправлять. Апишка, кстати, сильно удобнее, чем у самого пенай. То есть та
584: Рапер написан, где можно в разные модели отправлять запросы.
585: Тоже вопрос связан с, наверное, пересказыванием текста. Бывало, у меня знакомый работает часто с 4 версией, и он просто попросил его, ну, как бы пересказать произведение.
586: Давай достоевского. Угу.
587: Тоже вопрос. Давай связан с, наверное, пересказыванием текста. Бывало, у меня знакомый работает часто с 4 версией, и он просто попросил его, ну, как бы, пересказать произведение достоевского. Угу.
588: Ну ему же не дали достоевского правильно, надо попробовать пром. Написать получше. Надо сказать, что ты читал такое-то произведение достоев.
589: Ну, ему же не дали достоевского, правильно, да, но, с другой стороны, вот упоминали, что он все-таки берет информацию. Надо попробовать пром, написать получше. Надо сказать, что ты читал такое-то произведение достоев.
590: Да ты эксперт там, в пересказывании.
591: У него.
592: Да, ты эксперт, там в пересказывании побольше техник накидать, опять же наши, которые мы разобрали, ему отдать. И тогда получится лучше. Проблема в том, что если просто сказать, перескажи достоевского, вот у него есть хаос.
593: В его памяти он весь хаос и лезет, и ахинею. А если говорить?
594: Несёт вещи.
595: В его памяти он весь хаос и лезет, и ахинею несёт, а если говорить более чёткие вещи, проминг лучше получится, и он прям сузит свои вероятности, да и с другой стороны.
596: Вот, версию 3, 5. Я, например. Ну, вы сказали, что он вот сейчас обучен, ну, как бы, берет данные до 22 года там. Угу. И я как-то его пытался заставить помочь мне там разобраться с курлом. Угу. Мне постоянно отвечают, что он знает.
597: Там до версии 7 60 0.
598: Угу, угу. Не научился. То есть не попали данные в обучающий выбор. Он знает не все на свете. Он знает только то, на чем его учили.
599: Версии там до версии 7 60 0. Угу, угу. Не научился. То есть не попали данные в обучающую выборку. Он знает не все на свете. Он знает только то, на чем его учили.
600: Так, ну че, а кстати прикол Андрей карпаты кто не смотрел, кстати последнюю лекцию лекцию по большим языковым моделям у него обязательно посмотрите на YouTube. Вообще все по полочкам разложил, все четенько как обучаются, как
601: Тюнятся, как применяются с классными аналогиями. Вот в 2020 году дискуссия была, тогда Андрей выступал с докладами по поводу софтвер 2 0, что мы будем копить данные, чтобы эффективнее разрабатывать. И у них в виде шутки было, что, ну, софт
602: 3 0 это будет, когда мы промты пишем, а как это метален нам программы пишет сейчас Андрей рассказывает, как так делать. А в 20 это было шуткой. Погнали в ассистенты промты, которые помогут нам.
603: Сделать что-то такое, что будет нас проверять, что будет нас критиковать, что будет рассматривать вопрос несколько сторон с нескольких сторон. Это как раз полезно в случае проектирования архитектуры в случае проектировании.
604: Дизайна. 1 техника. Можно попросить модель рассмотреть вопрос с нескольких сторон. Если мы возьмём какую-нибудь проблему, например, ну, перезагрузку базы данных, да, вот что будет
605: Если перезагрузить базу данных, ну, он напишет, мы можем попросить. А теперь, с точки зрения системного администратора, посмотри и с точки зрения там оператора поддержки, и он выдаст уже 2 точки зрения. А на что это повлияет? Полезно, когда нужно
606: Собрать такой предсказание, как могут отреагировать те или иные стороны, которые задействованы в этом?
607: Так.
608: Так, сейчас, секунду.
609: А тут можно несколько ролей задать. То есть это действительно очень похоже, да, если мы роль 1 зададим, он будет исполнять примерно такую же с перспективой этой Роли. А тут можно ему 2 Роли задать. Подумай так или так.
610: Система.
611: А тут можно несколько ролей задать. То есть это действительно очень похоже, да, если мы роль 1 зададим, он будет исполнять примерно такую же со перспективы этой Роли смотреть. А тут можно ему 2 Роли задать. Подумай так или так.
612: Так, сейчас найду свою заготовочку.
613: Угу. С кафкой работал ли кто-нибудь? Или все, может, работали, много работали. Пойдёт. У меня пример как раз по кафке в кафке есть такая штуковина, как
614: Угу. С кафкой работал ли кто-нибудь? Или все, может, работали, много работали. Пойдёт. У меня пример как раз по кафке. В кафке есть такая штуковина, как гарантии доставки деливери семанти, если коротко, это.
615: Стратегия того, как сообщения будут отправляться и получаться с топика, да, то есть мы можем выбрать стратегию, когда мы точно хотим получать сообщения без дубликатов, называется экзек ливанс. Либо мы хотим
616: Получать it least once да, то есть хотя бы 1 сообщение, но могут быть дубликаты по дефолту стоит такая стратегия а можем включить at most once это значит мы можем терять сообщения ничего страшного не произойдёт например at most once поле.
617: Когда мы статистику какую-нибудь по кликам на сайте собираем, нам же не важны все сообщения, мы можем собрать, ну, общую картину, температуру. Вот давайте пример разберём. Представьте, что мы делаем сбор данных.
618: С веб камеры она висит, отправляет свои фреймы в топик с этого топика фреймы летят в архив на hdd и на камеру оператора, который смотрит и у нас получается 3 места, где можно деливери семантику.
619: Применить 1 место это когда камера отправляет свои данные. 2 место, когда данные берутся из топика, записываются на диск. И 3, когда фреймы летят на монитор.
620: Введём 2 Роли. 1 роль будет разработчик, которому лениво все делать, и он вообще за простоту там поменьше бы кода писать и будет все хорошо. A2 это будет у нас архитектор, который
621: Фокусируется на through пут и расскажем модели. Давай нам
622: Давай нам разберём такую ситуацию. Все то, что я описал, да, камера продюсер фреймы в топик консьюмер забирает фреймы, кладёт на hdd и у меня есть 2 Роли, да, ну и live streaming там.
623: Посмотрим на генерацию.
624: Да ещё disclaimer вот этот мост ванс легче всего имплементировать, там вообще ни за чем следить не надо, забирайте, че пришло и хорошо. Этот лист ванс по дефолту стоит, там нужно за курсором следить. А вот экзектли ванс самая сложная для разработки штуковин.
625: Да, её фиг разработаешь на самом деле, на практике даже мало где встречается экзон. На самом деле на практике она
626: Она почти невозможно.
627: Да, да, да. Ещё точнее определение, поэтому приходится искать компромисс между первыми 2. Да, смотрим, че нам понаписал, говорит с software, developer, у нас предпоч.
628: Она почти невозможно. Да, да, да, ещё точнее определение, поэтому приходится искать компромисс между первыми 2 да, смотрим че нам понаписал говорит с software, developer у нас предпоч.
629: Либо at most once или at least once, а вот solution architect, скорее всего будет выбирать между вторыми да, хотя ну неправда, но на through пут действительно это можно счесть за верный ответ и дальше.
630: Начал разбирать каждый топик, говорит камера, а это у нас да, вот камера продюсинг говорит сде, в этом случае у нас at most once либо at least once архитектор или at least, хотя вот тут вот.
631: Экзеки.
632: Начал разбирать каждый топик, говорит камера а это у нас да, вот камера продюсинг говорит сде, в этом случае у нас at most once либо at least once архитектор экзеки или at least, хотя вот тут вот.
633: Most once очевидная ошибка, потому что мы не можем себе позволить.
634: Можно заставить модель, чтобы вот она с Роли архитектора как раз
635: Most once очевидная ошибка, потому что мы не можем себе позволить собрать с камеры не все фреймы, это будет очень сильно влиять на то, что мы вообще сохраним, зачем видеонаблюдение, когда мы что-то теряем, можно заставить модель, чтобы вот она с Роли архитектора как раз.
636: Говорила о том, что вот at most once это плохая идея.
637: Ну вот, следующий критика разберём, и там он будет критиковать.
638: Говорила о том, что вот at most once это плохая идея, ну вот следующий критика разберём и там он будет критиковать.
639: Да, со стороны sde разобрал, что проще реализовывать.
640: Ошибся.
641: Да, со стороны sde разобрал что проще реализовывать на hdd запись тут кстати все правильно, на hdd надо все фреймы записывать, хотя бы тут не ошибся. Ну и live streaming в принципе.
642: Все тоже самое написал на les стринг. Можно этот мост Ван спустить? Ну, побьётся битрейт, ничего страшного, да?
643: Попробуем покритиковать решение и сделаем себе такого ассистента, которому мы пишем описание того, что мы хотим сделать или сделали. А он нам в ответ даст, что вот тут ошибка. Вот тут я бы сделал по другому и
644: Главный челлендж. Знаете тут в чем? В том, что в базовой модели заложена очень большая вежливость? Если мы прямо дадим ему плохую архитектуру, например, и, скажем покритикую, он скажет да не все хорошо, ты молодец, не переживай.
645: Все нормально будет. Этого нужно избежать. И есть затравки, которые позволяют это сделать. Надо максимально говорить, что избегай вежливости, если видишь ошибку, помечай ошибку и прям писать. Вот сейчас в промте увидим. Прям помечай, что вот тут
646: Ошибка. Не пытайся сделать фидбэк мне более гладким. Говори прямо. Если ты видишь очевидные ошибки, работает не до конца. Да, все равно он будет вежливый, но хотя бы на очевидные ошибки будет нам говорить, что тут не
647: Правильно так. Критик, критик, критик, я тут написал промт побольше уже.
648: Да что, что я ему пишу ты senior solution architect у тебя есть опыт в кафке, ты?
649: Да что, что я ему пишу ты senior solution architect у тебя есть опыт в кафке, ты эксперт в тюнинге и настройке кафки, ну и все то, что я вам повторил.
650: Не избегай, избегай, пожалуйста, вежливости, если видишь ошибку, прямо говори. Прям ему тёк, дал, что если не стейк, вот помечай вот так вот.
651: Да, а дальше писал то, что я хочу, и написал все ту же задачку, да, как я буду выбирать?
652: Сделать once.
653: Да, а дальше писал то что я хочу сделать и написал все ту же задачку да как я буду выбирать стратегию деливери семантики для топиков кафки, говорю что камера будет продюсить это most once.
654: Консьюмер будет забирать этот лист ванс, а клиент аппликейшен экзектли ошибка тут очевидная вот прям очевидная в 1 да, мы потеряем фреймы, если будем следовать от most, остальное оно приемлемо, но например на диск
655: Ванс once.
656: Консьюмер будет забирать этот лист ванс, а клиент аппликейшен экзектли ванс ошибка тут очевидная вот прям очевидная в 1 да, мы потеряем фреймы если будем следовать от most once, остальное оно приемлемо, но например на диск.
657: Сохранять дубликаты фреймов не хочется, хочется, чтобы места поменьше занимало. Ну, пойдёт, это дефолтная семантика, поэтому нормально.
658: Вот смотрите, помечает, да, ошибка. То есть понимает, что терять кадры нехорошо. И тут ошибка и даже даёт рекомендации. Я бы, говорит, выбрал этот лист ванс экзектли ванс.
659: Дальше сейвинг на диск архивов.
660: Говорит, что могут быть дубликаты. Все верно. Так, на самом деле, и может быть, что ты можешь, конечно, это выбрать, тем более ничего страшного не будет. Но будь уверен, что тебе с дубликатами живётся окей? И клиент апп экзе.
661: Бум, бум, бум. Иногда он мне помечал это как ошибку. Я, наверное бы, согласился, что это ошибка, потому что это overkill, как я уже говорил, вот мне помогли, что это почти невозможно реализовать и трудозатратно. Поэтому, ну, для лайм стримминга это
662: Действительно, оверкилл, но тем не менее, он тут тоже написал, что лучше бы че-нибудь другое выбрать.
663: General кондейшен какой-то саммари попытался написать все хорошо. На самом деле это я примерно от него и хотел добиться.
664: Оо, а мы его напишем сегодня. Вот так. Отлично. Пойдёмте дальше. Тут есть какие-то вопросы. У кого?
665: Генераторами. Оо, а мы его напишем сегодня. Вот так. Отлично. Пойдёмте дальше. Тут есть какие-то вопросы у кого-то, да, когда я задавал вопрос про
666: Я имел ввиду, что вот мы говорим про 2 Роли, чтобы он в случае архитектора покритиковал то, что предложил.
667: Ну да, меня примера нет, но ничего не мешает. Вот также критика описать. Представь, что у тебя есть 2 Роли. Рассмотреть проблему с 2 сторон и
668: Я имел ввиду, что вот мы говорим про 2 Роли, чтобы он в случае архитектора покритиковал то, что предложил. Ну да, у меня примера нет, но ничего не мешает. Вот также критика описать. Представь, что у тебя есть 2 Роли. Рассмотреть проблему с 2 сторон и
669: 1 Роли покритикуй другую роль. Прям вот этот же prompt туда вставляем и нормально работаем. Кстати, чем больше промт, тем сложнее модели его обрабатывать. Сейчас большим контекстом. Достаточно легко это делает модель есть прям соревнования. Найди иголку в 100.
670: Когда модели прячут какую то какую-то фразу или кусочек текста внутри контекста и дают прям полный контекст все 128000 и говорят найди эту иголку gpt 4 неплохо.
671: Справляется. Хотя модели вот по типу антропка есть ещее антропин он, кстати, бесплатный. Можно зайти без vpn и поиграться с ним. Он со своими 100000 контекста плохо с этим справляется. Модель послабее, но тоже не
672: Плохая. Пойдёмте дальше. Есть ещё 1 трюк. Можно модели сказать, что проверь сама себя. То есть вот сродни тому, что. А ты точно уверен, что это
673: Последний твой ответ можно сказать, давай-ка мы разберёмся, ты вообще правильно мне сгенерировал или нет, что сделает модель? Она запустит генерацию нового ответа. Старый ответ уже в контексте, поэтому она сможет его прочитать и нормально оценить.
674: Кстати, давайте попробуем на нашем предыдущем примере это сделать.
675: Ну, начнёт проверять ещё раз получим аналитику. Кстати, хорошо. Вот кто-то спрашивал, что, всегда ли за ней перепроверять. Можно заставить саму себя перепроверить.
676: В принципе, нормально.
677: Ну, начнёт проверять ещё раз получим аналитику. Кстати, хорошо. Вот кто-то спрашивал, что, всегда ли за ней перепроверять. Можно заставить саму себя перепроверить. В принципе, нормально.
678: Перепроверит, будет анализировать все, что написала вот в такой затравке, скорее всего.
679: Правильный ответ не сможет галлюцинировать и сказать, что неправ.
680: Перепроверят, будет анализировать все, что написала, она не будет галлюцинировать. Ну, скажем так, на правильный ответ не сможет с галлюцинировать и сказать, что неправильно. Вот в такой затравке, скорее всего, риск будет меньше.
681: Потому что мы ей сказали, что говори прямо, не будь вежливой галлюцинации, в том числе от вежливости, и вежливость влияет. Ты ей говоришь даже на верный ответ. Ты ошиблась. Она говорит ну да, я ошиблась, сорян.
682: Запрос как бы.
683: Лучше взять, выделить прям курсором все, что интересует, и вставить ещё раз.
684: Запрос как бы лучше взять, выделить прям курсором все, что интересует, и вставить ещё раз. Тогда более свежие тексты будут ближе к концу контекста она их в приоритете будет использовать. Но, как я уже сказал,
685: Полностью ей сказать что забудь все, что было раньше, заставить спорить с собой можно, можно, можно так, ну, можно попытаться. Опять же, есть джейл брейки. Вот джейл брейки это super.
686: Нельзя, но при этом говорить, что ты не права, она говорит нет, я права.
687: Полностью ей сказать, что забудь все, что было раньше, нельзя заставить спорить с собой. Можно, можно, можно, но при этом говорить, что ты не права. Она говорит нет я права. И вот так. Ну, можно попытаться. Опять же, есть джейл брейки. Вот джейл брейки это super.
688: Промты, которые Лохань со страницу.
689: Здесь скорее вопрос о том, чтобы она
690: Промты, которые Лохань со страницу Лохань скармливаешь, она начинает дерзко общаться. Здесь скорее вопрос о том, чтобы она
691: Она продолжала свою линию мысли не в том, чтобы научить её расизму, а именно в том, чтобы она продолжала свою линию мысли, даже несмотря на то, что ты пытаешься переубедить.
692: Сложно, но можно. То есть, ну, все от промта зависит. Пишите, что
693: Она продолжала свою линию мысли не в том, чтобы научить её расизму, а именно в том, чтобы она продолжала свою линию мысли, даже несмотря на то, что ты пытаешься переубедить её в обратном, сложно, но можно, то есть ну, все от промта зависит, пишите, что
694: Переубеждай меня до последнего, старайся. Твоя задача есть ещё, кстати, фишка, которую используют при обучении модели, иногда используют при разработке продуктов, когда мы поощряем модель, виртуально говорим, что за правильный ответ.
695: Ты получаешь конфетку, и в рамках контекста она эти конфетки действительно копит, она старается лучше делать.
696: Окей.
697: Инжениринг.
698: Окей. Так, есть ещё классная штука. Реверс, инжениринг, модель. Может понять, чего она вообще, что вообще было сгенерировано по какому-то контенту. Например, мы можем
699: Скормить изображение.
700: Скормить изображение отдали и сказать, напиши мне промт, по которому это изображение было сгенерировано, на чем ещё работает. Я скармливал архитектуру базы данных энтити релейшн. Диаграмму повторяла, да, то есть прям
701: Писала промт, по которым это было построено. И было очень удобно, потому что мне было нужно было сгенерить, похоже, но в другом домене. Поэтому я чуть чуть подкорректировал и в принципе, нормально получилось. Диаграмма нарисовать умеет только через плагины и не очень хорошо, но те
702: Описание или, например, graph with вам даст. Вот можно, кстати, даже
703: Проверить.
704: Описание или, например, graph with вам даст. Вот можно, кстати, даже проверить на далее, как работает. У меня там есть куча сгенерированных картинок, которые мы для конференции генерил на разные активности. А вот эти картинки с презентации это вот, да.
705: Все все картинки в презентации сгенерированы, кроме мемасиков, мемасики авторские.
706: Так.
707: Вот давайте прям.
708: Давайте и.
709: Вот давайте прям надо будет написать да, давайте женере из image и 3.
710: Prompt as that.
711: Is image.
712: Кстати, вот о безопасности упоминали, что лучше не сливать ничего в чат жпт. И, ну, я сейчас вспомнил, что можно задать ему вопрос, чтобы он нагенерил, выдал ключи, которые активируют продукт, и он это вполне может.
713: Может, да ну?
714: Может, да. Ну, надо всегда помнить о безопасности, если коротко. Ну, смотрите, давайте прям попробуем. Это, кстати, сработала мультимодал, а чата gpt, он умеет смотреть. То есть, ну, из прикольного можно.
715: Холодильник открыть, сфоткать, спросить, че на ужин приготовить. Он нормально распознает продукты и скажет.
716: А вот все видели карту, которую нам организаторы подготовили, то сработало не очень.
717: Пусть сгенерирует.
718: Посмотрим, насколько похоже.
719: Может быть картинка не сгенери, не сгенерированная. Далее просто какую-то картинку и спросить создай промт похожий, чтобы он приводил к Такому сейчас смотрю картинку, которую вы
720: Создать промт, похожий на что мы написали, да.
721: Может быть картинка не сгенери, не сгенерированная. Далее просто какую-то картинку и спросить создай промт похожий, чтобы он приводил к Такому создать промт, похожий на что мы сейчас смотрю картинку, которую вы написали, да?
722: Да я сейчас покажу, я этот утро в осеннем лесу, похоже, получилось.
723: Если написать просто вот.
724: Да, там, если написать, просто вот какую-то картинку попросить, я сейчас покажу, я этот утро в осеннем лесу генерировал, похоже получилось.
725: Написать.
726: Монолизу. Ну смотри, я вот как раз по картине тебе и покажу.
727: Написать монолизу. Ну смотри, я вот как раз по картине тебе и покажу.
728: Если найду.
729: Не, не найду уже. Ну, короче, я ему прям скармливал Шишкина картину, и он прям мишек рисовал. Очень похоже, кстати, было вот тут, кстати, не очень похоже, потому что там деталей было много. No сохранил. То есть стиль очень похож на то, что было. То есть вот.
730: Стиль.
731: Не, не найду уже. Ну, короче, я ему прям скармливал Шишкина картину, и он прям мишек рисовал. Очень похоже, кстати, было вот тут, кстати, не очень похоже, потому что там деталей было много. No стиль сохранил. То есть стиль очень похож на то, что было. То есть вот оригинальная иллюстрация.
732: Синенький робот, какие-то шестереночки, да и новая иллюстрация тоже синенький робот, какие-то шестереночки gpt последняя секция у меня это про
733: Вот.
734: Синенький робот, какие-то шестереночки, да, и новая иллюстрация тоже синенький робот, какие-то шестереночки. Вот gpt последняя секция у меня это про
735: Подход к созданию ассистентов преднастроенных моделей chat gpt, которые мы можем создать прям из интерфейса у них есть версия для api ассистенс эйпиай называется, где мы можем похожие штуки делать уже
736: Более профессионально. А есть, ну, для ламеров. Вот, кто мышкой любит, мы вот эту версию сейчас разберём, че, че, куда нам хардкорить, да?
737: Кликать.
738: Более профессионально. А есть, ну, для ламеров, вот кто мышкой кликать любит. Мы вот эту версию сейчас разберём, че, че, куда нам хардкорить, да?
739: Что это такое? Это интерфейс, в котором мы можем задать инструкцию инишиал промт, которая будет говорить, что ты
740: Что это такое? Это интерфейс, в котором мы можем задать инструкцию инишиал промт, которая будет говорить, что ты промт, улучшатель, ты должен принять мой промт.
741: На вход и выдать в ответ модифицированный промт. И прям перечислим, как его можно улучшать. Аутпут формат ему объясним. Ну, в общем, напишем промт, он просто будет заложен, и он уже будет частью систем промта, да, то есть уже не юзер промтом считаться, а систем промто.
742: Но что самое прикольное, ему можно файлики прикладывать. Тоже самое, что я говорил, вот как с векторной базой базу знаний ему скормить. Сюда тоже можно заложить файлики, прикладываем файлик, он его векторизирует и в случае чего обращается к этому файлу за каким-то
743: Контентом. Вот в этом примере как раз я ему скормил все техники, которые мы сегодня разобрали.
744: На предмет того, чтобы он их читал. В случае чего обращался к ним настраивается мультимодальность. То есть мы можем ему галочками поставить, ты должен браузить, ты должен генерировать картинки, либо ты должен запускать код.
745: Есть так называемые экшены. Кстати, вот тут 2 вкладки. Я попозже покажу там create и configure. Конфигур это ручная настройка. А криейт это такой же chat gpt, системным протом, который создан для того, чтобы создавать такие штуки. Ты ему пишешь. Я хочу создать такого-то, ассистент.
746: Он вот это все сам заполняет.
747: Экшены экшены штука тоже прикольная зачем можно использовать можно, если у вас есть какой-то api, который нужен вашему ассистенту, сказать, что ты этот api можешь дёрнуть, есть 1, но нужно зарегать плагин в open ей там проходит.
748: Премодерация, чтоб вы всяких инъекций не наложили, они ваши ипиай сначала посмотрят, но это достаточно быстро происходит. Там ограничений. Я не сталкивался с ограничениями, в общем то, более менее хорошие. Ипиай они пропускают, где нет намёка, что вы инъекции будете пытатьс.
749: Делать регаете плагин, описываете инференсе и объясняете модели, что если встречается ключевое слово, ты дёргай вот этот айпиай, а результат используй у себя. То есть можно уже крутые штуки.
750: Схему в в контексте.
751: Делать регаете плагин, описываете схему в инференсе и объясняете модели, что если встречается ключевое слово, ты дёргай вот этот айпиай, а результат используй у себя в контексте, то есть можно уже крутые штуки.
752: Пилить ассистенты, которые умеют ходить, куда вообще любому пользователю можно приватный сделать, можно публичный, как и вот эти вот преднастроенные штуки, их тоже можно опубликовать в общий доступ, можно сделать приватным.
753: То, а эти плагины будут доступны.
754: Пилить ассистенты, которые умеют ходить куда-то, а эти плагины будут доступны вообще любому пользователю можно приватный сделать, можно публичный, как и вот эти вот преднастроенные штуки, их тоже можно опубликовать в общий доступ, можно сделать приватным.
755: Модерацию тоже чат джипи. А премодерацию чат. Ну че?
756: Джипи проводит премодерацию. Нет, сотрудники. Так, давайте попробуем. В принципе, у нас время ещё есть. Давайте новый создадим меня.
757: Модерацию тоже чат джипи, а премодерацию чат джипи проводит премодерацию. Нет, сотрудники. Так, ну че, давайте попробуем. В принципе, у нас время ещё есть. Давайте новый создадим меня.
758: Уже есть созданный.
759: А вот эти 128000 системный промт и пользователь.
760: Символов, это и
761: А вот эти 128000 символов, это и системный промт, и пользователь системный не учитывается, по моему. То есть тут gpt с gpt учитывается, да, ту затравку, которую вы
762: Далее она как бы присобачивается к основному, да, из интересного, кстати, то, что не получалось делать промтами, я не смог, наверное, недели 2 пытался научить его играть в крестики нолики мне ни
763: Далее она как бы присобачивается к основному промту. Да, из интересного, кстати, то, что не получалось делать промтами, я не смог, наверное, недели 2 пытался научить его играть в крестики нолики мне ни
764: Какой промт? Абсолютно. Вообще все выигрышные стратегии скармливал, объяснял, что ты меня должен блокировать. Нифига не получалось. Также пытался вот быки и коровы сделать игру тоже не получалось, потому что, опять же, вот данных на
765: Не помогал я ему.
766: Какой промт? Абсолютно не помогал. Я ему вообще все выигрышные стратегии скармливал. Объяснял, что ты меня должен блокировать. Нифига не получалось. Также пытался вот быки и коровы сделать игру тоже не получалось, потому что, опять же, вот данных на
767: Которых он учился недостаточно. Объяснение он плохо понимает. В случае крестиков, Ноликов. Там нет буквенного отображения. Куда ему ходить? Если в шахматах мы можем буква цифра, то в крестиках, ноликах он просто поле видит.
768: Там сказать.
769: Которых он учился недостаточно. Объяснение он плохо понимает. В случае крестиков, Ноликов, там нет буквенного отображения. Куда ему ходить? Если в шахматах мы можем там буква цифра сказать, то в крестиках, ноликах он просто поле видит.
770: Ну, как-то на него смотрит, да, и левый вверх там, но его очень легко обгонять. То есть ставим 2 нолика, даже ему крестики, если не блокирует нас не хочет никак. Если у кого получится, напишите мне как
771: Понимает. Отдать то он. Вы это сделали. История про
772: Ну, как-то на него смотрит, да, и левый вверх там понимает, но его очень легко обгонять. То есть ставим 2 нолика, даже ему крестики. Если отдать, то он не блокирует нас, не хочет никак. Если у кого получится, напишите мне, как вы это сделали. История про
773: Спится, но при этом проиграл этому салаге, который просто по какой-то совершенно тупейшей стратегии.
774: Играл.
775: Да есть же этот альфа го искусственный интеллект, но он уже всех обыгрывает. То есть его допилили, а сейчас новая версия.
776: И, как говорится, спится, но при этом проиграл этому салаге, который просто по какой-то совершенно тупейшей стратегии играл, да, есть же этот альфа го, искусственный интеллект, но он уже всех обыгрывает. То есть его допилили, а сейчас новая версия
777: Выходит, альфа неплохо.
778: Ллм год, то есть на лмках, пытается обыграть как раз промти м файнтюнингом получается, но пока хуже, чем вот изначально это. То есть ллм может решать даже такие задачи, но надо стараться
779: Выходит, альфа ллм год, то есть на лмках, пытается обыграть как раз промти м файнтюнингом неплохо получается, но пока хуже, чем вот изначально это. То есть ллм может решать даже такие задачи, но надо стараться
780: Да.
781: Так не то, не то, не то. То есть какой интерфейс то, что я уже показывал?
782: Так, не то, не то, не то. То есть какой интерфейс то, что я уже показывал. У нас вот есть билдер, который нам говорит, че ты хочешь вообще сделать? Можно ему прям описать промтом.
783: Что вы хотите сгенерить? А есть кнопочка конфигурация. Тут можно иконочку добавить, имя, написать. Дискрипшен, инструкцию конверсейшен стартеры очень полезная тоже штука. Если вы не хотите, чтобы вашим ботом пользовались неправильно, можно ему стартеры написать.
784: Эти стартеры будут отображаться в окне. Вот тут вот, да, как в чате, что можно ткнуть?
785: Скормить ноуледж Бейс. И вот про то, что я говорил капотаинженеры включать, отключать браузинг. Далее код интерпретор, экшены это то, что можно вызывать разные энпоинт, которые мы как
786: Плагины зарегали. Кстати вот эту вот штуковину про карты организаторов я тоже сделал через этот интерфейс, конечно же, chat gpt не скажет. Ну ***.
787: Сейчас покажу, в общем то все очень просто. Мы просто пишем, что на любой
788: Сейчас покажу, в общем то все очень просто. Мы просто пишем, что на любой вопрос пользователя отвечай соответствующе. И вот тут, кстати, 2 инструкция была, потому что если просто сказать, он
789: Картинки, считает уже как другая мультимодальную модель и игнорирует все, что было выше. Он уже все. Я теперь вижу. Мне, мне нужно распознавать картинки. Инструкция помогла. Да, теперь и картинки. Может, так, посмотрим на
790: Промес, про который я говорил, что я тут делал. Я на самом деле сейчас все промты вот через него и пишу. Сейчас я покажу вам, что в нём есть какие техники я использую, а потом пошарю ссылочку, чтобы все могли
791: Пользоваться.
792: Промес, про который я говорил, что я тут делал. Я на самом деле сейчас все промты вот через него и пишу. Сейчас я покажу вам, что в нём есть какие техники я использую, а потом пошарю ссылочку, чтобы все могли пользоваться.
793: Так давайте развернём.
794: Че то ты меня не хочешь то? Да, да. То есть прям вот то, что вы должны, это как если бесит, что не слушается, напишите капсом.
795: Капсом писать.
796: Че то ты меня не хочешь капсом писать, то? Да, да. То есть прям вот то, что вы должны, это как если бесит, что не слушается, напишите капсом получше будет усиливают как бы тоже.
797: Тоже, вот, ю, важно писать, да, то есть, когда вы обращаетесь, что он должен сделать, когда большой промт, а тут промт большой, почему-то он у меня на весь экран не разворачивается. Важно ему помечать, что вот это ты, вот это я к тебе.
798: Обращаюсь и
799: Тоже, вот, ю, важно писать, да, то есть, когда вы обращаетесь, что он должен сделать, когда большой промт, а тут промт большой, почему-то он у меня на весь экран не разворачивается. Важно ему помечать, что вот это ты, вот это я к тебе обращаюсь и
800: Важно сделать секцию бифор дженерейшен, то есть что у меня тут сделано, у меня перед тем, как генерировать ты спроси, как вопросы, которые тебе нужны для генерации промта, и используй as before answer технику потом.
801: Все.
802: Важно сделать секцию бифор дженерейшен, то есть что у меня тут сделано, у меня перед тем, как генерировать ты спроси, как все вопросы, которые тебе нужны для генерации промта, и используй as before answer технику потом.
803: New пром. Крафтед опять же стронгли, автор уточняющих вопросов.
804: Так, да, все, все хорошо написал.
805: А дальше формат и формат твоя роль описал, что в этой Роли надо написать шорт бейсик констракшн. То есть коротко скажи, чего модели нужно сделать. Указывай, что это дл.
806: Так, да, все, все хорошо. А дальше формат написал и формат твоя роль описал, что в этой Роли надо написать шорт бейсик констракшн. То есть коротко скажи, чего модели нужно сделать. Указывай, что это дл.
807: Для чата gpt, потому что он знает, как сам себе писать промты гол. То есть давай мне сгенерируй гол, которая кликал для а ленгвич модул. Кстати, лернинг тут ошибо.
808: Result. Опиши. А, да.
809: Да, да, да.
810: Да, результат опиши, как вообще результат должен выглядеть, потому что очень важно. Вот вы пишите модели.
811: Опять же, если ему
812: Да, результат опиши, как вообще результат должен выглядеть, потому что очень важно. Вот вы пишите модели, давай мне подготовь табличку, а он начинает в питоне генерировать табличку. Опять же, если ему сказать, табличка мне нужна в мд, в, внутри чата, он
813: Сделает это правильно.
814: Пункт это использовать.
815: Сделает это правильно. Констрейнты тоже важный пункт. Это вот такая, я сейчас показываю универсальную промт формулу, которую можно часто использовать. Констрейнты это ограничение, которое хотите ввести, например, если генерируете
816: Не знаю, текст какой-то, можете сказать, не больше 100 символов. Вот сюда это помещайте хорошо. И контекст, весь контекст, который хотите поместить туда конверсейшен стартеры, ну тут какие-то рандомные дизайн, датабейс.
817: Слушается.
818: Не знаю, текст какой-то, можете сказать, не больше 100 символов. Вот сюда это помещайте. Хорошо слушается и контекст, весь контекст, который хотите поместить туда конверсейшен стартеры, ну тут какие-то рандомные дизайн, датабейс.
819: Petshop генерейт лого фор айти конференц и документик с техниками там просто, но base техника, небольшое описание, техника, небольшое описание, чтобы он знал, что вообще за техники такие не все, потому что он знает, я ему разрешил веб браузить.
820: И запускать код. Интерпретатор экшенов никаких нет. Давайте попробуем, как работает. Ну че, какой вопрос задать? Что хотим сгенерировать лого лого? Ну давайте лого.
821: Лого.
822: И запускать код. Интерпретатор экшенов никаких нет. Давайте попробуем, как работает. Ну че, какой вопрос задать? Что хотим сгенерировать лого, лого, лого? Ну давайте лого.
823: Все настройки, которые он использует.
824: Контекст.
825: Все настройки, которые он использует. Кстати, интересно, можно попробовать? Ну, я пошарю, можете сами попробовать. Да, вот он говорит, ответь мне на 5, 4 вопроса. Контекст, на что будет фокусы эти?
826: Давайте для halo та сгенерим скорее всего, должен знать хейлоу 1.
827: Текст он, кстати,
828: Давайте для halo та сгенерим текст. Он, кстати скорее всего должен знать хейлоу 1.
829: Да, констрейнты. Ну, давайте скажем, что в красном стиле должно быть.
830: Цель для чего мы это делаем?
831: На русском отвечать? Да, да. Ну не хочу писать на английском. На русском похуже работает, но тоже нормально.
832: Редизайн.
833: Сделаем, редизайн.
834: Он отличает как-то это от слова.
835: Как говорит, какие, как результат должен выглядеть. Ну давай, а вот там написано for it, он, он отличает как-то это от слова. Это интересный вопрос.
836: Я думаю, ну, он отличит и маленькими, и большими, кто его знает. Так, ну и так, че там результат? Давайте круглое. 4, 4. Да, это специально сделано. 3, 5 там.
837: Поймёт, кстати, может не париться.
838: По-английски? Да потому что я ему сказал отвечай всегда по-английски.
839: Ну, в общем то, все учитывает, да, то есть, говорит, ты Синер, график, дизайнер, специализирующийся на тех ивентах.
840: То есть все советы, которые в презентации указали в
841: Этом, в принципе, да, но как не серебряная пуля, но очень сильно помогает. Вот. И смотрите, че дальше он делает. Говорит, хочешь ли ты включить какую-нибудь технику? Я вот думаю, чено фотс или
842: То есть все советы, которые вы в презентации указали в этом, в принципе, да, но как не серебряная пуля, но очень сильно помогает. Вот. И смотрите, че дальше он делает. Говорит, хочешь ли ты включить какую-нибудь технику? Я вот думаю, чено фотс или
843: Проминг тут поможет. Давайте попробуем. Че фо сюда забахать.
844: Он знает сам о тех техниках.
845: Ну, я, я ему но base предоставил.
846: Он знает сам о тех техниках ну я я ему но base предоставил.
847: Формате.
848: В тексти файле просто загрузил.
849: В каком формате в тексти файле просто загрузил?
850: Все расшарите.
851: Да, сейчас я Карчик сгенери, вот чтобы этого ассистента посмотреть.
852: Все, расшарите. Да, сейчас я Карчик сгенери, вот, чтобы этого ассистента посмотреть.
853: Не просто как плагин закрытый, это можно залезть, отредактировать. Я пошарю было посмотреть.
854: Кстати, не знаю, можно ли отредактировать. Ну давайте я ей промт положу на гитхаб сейчас куда-нибудь в текстику, чтоб можно. Так, ну отлично, давайте.
855: Не просто как плагин закрытый. Это можно залезть, отредактировать. Я, кстати, не знаю, можно ли отредактировать. Ну давайте я ей промт пошарю, положу на гитхаб сейчас куда-нибудь в текстику, чтоб можно было посмотреть. Так, ну отлично, давайте.
856: Попробуем проверить.
857: Разные техники, что ещё раз погромче можно попросить проверить разные техники на себе.
858: Разные техники. Ну, он, по идее, думает, он вот разные техники всегда применяет. То есть, а ты, ты имеешь ввиду вот в генерации
859: На себе.
860: Разные техники на себе. Ну, он, по идее, думает, он вот разные техники всегда применяет. То есть, а ты, ты имеешь ввиду, вот в генерации промта, да, наверное, можно. Ну, почему нет? То есть все, все, что напишем, все можн.
861: Так посмотрим, че он сгенерит.
862: Большущий промт у нас получился.
863: Вот пошёл этот.
864: Ощущают наши российские аналоги GigaChat.
865: Вот пошёл этот, ощущают наши российские аналоги GigaChat, яндекс, gpt, GigaChat, яндекс, gpt. Ну опять же, вот про то, что я говорил, что было chat gpt на релизе та же история на самом деле и с яндексом, и с GigaChat.
866: Вот от 1 модели, ко 2, когда они gpt 2 выпустили, ну, большой скачок очень большой, произошёл GigaChat, тоже, они все по разному работают в разных задачах. GigaChat, например, в смариии хорошо работает, я точно знаю, вот неплохо на самом
867: Деле, то есть наши догоняют вполне. Яндекс говорит, что они на уровне 3 с половиной уже работают и даже в чем-то обгоняют. Вот. Поэтому я верю, что оно все примерно выровняется. У open есть огромная фора, потому что они там 17, 16 года.
868: Себе.
869: Деле, то есть наши догоняют вполне себе. Яндекс говорит, что они на уровне 3 с половиной уже работают и даже в чем-то обгоняют. Вот. Поэтому я верю, что оно все примерно выровняется. У open есть огромная фора, потому что они там 17, 16 года.
870: Это все?
871: Дело и ресурсы, да, то есть бесконечные ресурсы майкрософта. Практически это очень важно.
872: Это все дело и ресурсы, да, то есть бесконечные ресурсы майкрософта. Практически это очень важно.
873: Только 10%, я так слышал, именно для разработчиков есть какие-то достойные альтернативы?
874: Ну, для разработки копай это вообще маст хэв, да, то есть он действительно хорошо работает, встраивается прям в айдиешку и им можно
875: Вроде как только 10% их, ну, я так слышал, но для разработчиков есть какие-то достойные альтернативы. Ну, для разработки копай это вообще маст хэв, да, то есть он действительно хорошо работает, встраивается прям в айдиешку, и им можно пользоваться.
876: Там свои техники, то есть это другое. Это не чатовая модель. Все, что я сейчас рассказал, там не будет работать, оно по другому работает сам чат gpt альтернатива антропка можно попользоваться нормально, работает на уровне 3 с половиной и бесплатно можно зайти по
877: Ну че, посмотрим?
878: Ошибки.
879: Ну, кстати, можно попросить.
880: А можно на картинку обратно, пожалуйста, не то кровать?
881: Сейчас не знаю, что у неё там в голове творилось.
882: А можно на картинку обратно, пожалуйста, сейчас не то кровать, не знаю, что у неё там в голове творилось.
883: Он, кстати, с галлюцинировал.
884: Он, кстати, с галлюцинировал. Ну, все по нашему запросу, да, оно круглое, оно красное, оно про высоконагруженную систему.
885: Наверное, даже какие-то стрелочки все же любят диаграммы.
886: Рисовать.
887: Наверное, даже какие-то стрелочки все же любят диаграммы рисовать.
888: Векторный нет, но недавно широкоформатные научилась генерировать. То есть до недавнего времени можно было генерить только 1024 на 1024. Сейчас ееще широкоформатную можно попросить сгенерировать.
889: Вроде тоже.
890: Исправил ошибку и лога похожая.
891: Вроде тоже, смотрите, исправил ошибку, и лога похожая получилась.
892: Вообще раньше была теория, что вот эти крокозябры, которые они показывают, это внутренний язык, который лм внутри себя использует. Но сейчас грамотность нормально работает. Можно просить исправить. Картинка все равно будет чуть чуть другая, она в точности не перерисует, но похоже,
893: Че хорошая лого, идём коллегу. Ну чего, давайте вопросы ваши пг в формате умеет экспортировать что png формате умеет нг это и есть если мы загрузим там либо веб пи будет, либо png.
894: Предлагать png кстати.
895: Че хорошая лого идём коллегу предлагать ну чего, давайте вопросы ваши пг в формате умеет экспортировать что png формате умеет нг это и есть png кстати, если мы загрузим там либо веб пи будет, либо png.
896: F.
897: Png.
898: F. Png.
899: Так, че у меня все, я все техники показал, мы с вами поработали, посмотрели, как их применять. Можете проголосовать. Организаторы говорят, что это очень важно. Мне тоже будет приятно.
900: Если какие-то это не мой QR-код, кто кто меня саботирует подожди жжметки, презентацию сейчас я.
901: Сергей, это не я.
902: Если какие-то это не мой QR-код, кто, кто меня саботирует подожди Сергей, жжметки это не я презентацию сейчас я.
903: Выложи на гитхаб, прям сейчас и посмотрим.
904: Сейчас QR вроде не убрали, а нет, убрали.
905: Для копайлот. Давайте отдельным докладом я расскажу про копайлот. Убрали мой
906: Сейчас для копайлот давайте отдельным докладом я расскажу про копайлот убрали мой Карчик, я QR вроде не убрали, а нет, убрали убрали.
907: Кто не проголосует, да, вот этот?
908: Теперь, а можно нам, пожалуйста, вернуть этот слайд? Спасибо большое за доклад, ребят. Голосуем, задаём вопросы, и я напомню, что за лучший вопрос у нас
909: Кто не проголосует теперь, а можно нам, пожалуйста, вернуть? Да, вот этот, этот слайд? Спасибо большое за доклад, ребят. Голосуем, задаём вопросы, и я напомню, что за лучший вопрос у нас
910: Предусмотрен подарок от наших партнёров, от газпромнефти. Поехали, поднимаем руки заново. Вот во 2 ряду. Привет. Спасибо за
911: Вы уже задавали вопросы, но я не ллм модель, я все.
912: Забыл, если че, давайте.
913: Предусмотрен подарок от наших партнёров, от газпромнефти. Поехали, поднимаем руки. Вы уже задавали вопросы, но я не ллм модель. Я все забыл. Если че, давайте заново. Вот во 2 ряду. Привет. Спасибо за
914: Выступление, то подходы свои.
915: Такой вопрос. Есть какие-то рекомендации, вот как бы можно было уменьшить использование токенов. То есть всем понятно, что нужно стараться там чаще сбрасывать контекст, но вот на регулярной основе использовать 4 версию может тут есть какие
916: Выступление. Такой вопрос. Есть какие-то рекомендации вот как бы можно было уменьшить использование токенов. То есть всем понятно, что нужно стараться там чаще сбрасывать контекст, но вот на регулярной основе использовать 4 версию. Может тут есть какие-то подходы свои
917: Там практики наблюдения уменьшить токены, то, что имеешь ввиду, ну, уменьшить потребление, потребление, да, можно, на самом деле, можно совсем извернуться. Если мы джаваскрипт пишем, можно ему сразу сказать, пиши минимизированный, да, или там не используй лишние табы, то есть в инструкции можн.
918: Заложить используй по минимуму. Там пробелов вместо пробелов используй нижнее подчёркивание. Тоже токены чуть чуть поэкономят.
919: Так, ещё вот на заднем ряду. Спасибо за доклад. У меня вопрос. Хотим апи ассистента интегрировать в свою систему, но столкнулись с тем, что он не всегда стабильно ему что-то пишем, он не
920: Здравствуйте, отвечает. То есть
921: Так, ещё вот на заднем ряду. Да, здравствуйте. Спасибо за доклад. У меня вопрос. Хотим апи ассистента интегрировать в свою систему, но столкнулись с тем, что он не всегда стабильно отвечает. То есть ему что-то пишем, он не
922: Отвечает, вы сталкивались с этим, а галлюцинации там бывает, что статус ещё в обработке, то есть снова ему скармливаешь, он снова ожидает, то есть нестабильная.
923: Пишите именно вообще ответа нет или сталкивались да, действительно, фичу недавно.
924: Работа.
925: Отвечает, вы сталкивались с этим, а пишите именно вообще ответа нет. Или галлюцинации, там бывает, что статус ещё в обработке. То есть снова ему скармливаешь, он снова ожидает. То есть нестабильная работа сталкивались. Да, действительно, фичу недавно.
926: Ты про ассистент ипиай правильно? Да, да, да, да. Недавно зарелизили фичу, поэтому там нагрузка огромная. Опен, эй, все ринулись делать ассистентов.
927: Ты про ассистент ипиай правильно? Да, да, да, да. Недавно зарелизили фичу, поэтому там нагрузка огромная. Опен эй, все ринулись делать ассистентов. Кстати, это загнуло очень много стартапов, потому что многие стартапы это были врапперы вокруг чата gpt, а сейчас есть
928: Который, в общем то это все под нет сводит скоро стор появится, в котором будет все кейсы.
929: Хорошо, а если такая нестабильная работа, можно как-то через gpt экшн сделать так, чтобы когда он ответит на апишку, выслал ответ.
930: Который в общем то это все под нет сводит скоро стор появится, в котором будет все кейсы покрыты хорошо. А если такая нестабильная работа, можно как-то через gpt экшн сделать так, чтобы когда он ответит на апишку, выслал ответ.
931: Он только получать умеет, слать не умеет.
932: А, хорошо, ладно. Так вот с этой стороны давай.
933: Спасибо, сейчас в этой половине я отдам микрофончик.
934: Он только получать умеет, слать не умеет. А, хорошо, ладно, спасибо. Так вот с этой стороны. Давай сейчас в этой половине я отдам микрофончик.
935: Спасибо большое за доклад. Вот у меня такой вопрос. Я уже немножко сам тоже игрался чат т. И я игрался с интернетом вещей. У меня там просто есть некий стенд, ну, не скажу, сейчас продакшен, но, в принципе, просто интересно возможность
936: Технологии. То есть мне интересно, можно ли задавать, например, ну это как бы
937: Спасибо большое за доклад. Вот у меня такой вопрос. Я уже немножко сам тоже игрался чат т, и я игрался с интернетом вещей. У меня там просто есть некий стенд, ну, не скажу, сейчас продакшен, но, в принципе, просто интересно возможность технологии. То есть мне интересно, можно ли задавать, например, ну, это как бы
938: Дом, да, сделан со сложными, там, с разными кучами устройств. Если я, например, задаю промт по полному описанию, там всех эндпоинтов, именно локальных, да, там, которые мне нужно вызвать. Загружаю, например, документацию по протоколам.
939: Контроллерам. И теоретически у меня идея така.
940: Дом, да, сделан со сложными, там, с разными кучами устройств. Если я, например, задаю промт по полному описанию, там всех эндпоинтов, именно локальных, да, там, которые мне нужно вызвать. Загружаю, например, документацию по протоколам, контроллерам. И теоретически у меня идея така.
941: Что просто забрасываю туда какой-то промт, условно, там, включай мне sweet, там, по закату в и там, или, ну или отопление при температуре такой-то. Дальше я хочу как телегграм бот, который у меня будут команд.
942: Этой местности выключай, да, там неважно. Или там сделай. Сделать. Я хочу сделть.
943: Что просто забрасываю туда какой-то промт, условно там, включай мне sweet, там, по закату в этой местности, и там, или, ну или выключай, да, там неважно. Или там сделай отопление при температуре такой-то. Дальше я хочу как сделать. Я хочу сделть телегграм бот, который у меня будут команд.
944: Писать telegram бот крутится именно в докере именно сети и запрашивает питоновский код. Предположим, который мне генерирует чат. После этого он выполняется и перепрограммирует контроллеры, которые идут. Как мне обработать ошибки, если я
945: Внутри локальной, внутри дома.
946: Писать telegram бот крутится именно в докере, именно внутри локальной сети и запрашивает питоновский код. Предположим, который мне генерирует чат джип. После этого он выполняется и перепрограммирует контроллеры, которые идут внутри дома. Как мне обработать ошибки, если я
947: Понимаю, что, например, контроллеры не смогли сделать, могу ли я как-то вот этот аутпут собрать с контроллеров, бросить ему сказать вот эта ошибка перегенерируй, то есть фактически выполняете там просто execute делаю соответственно, полученного кода и понять ошибки.
948: Мне и ну.
949: Понимаю, что, например, контроллеры не смогли сделать, могу ли я как-то вот этот аутпут собрать с контроллеров, бросить ему сказать вот эта ошибка перегенерируй мне. И, ну то есть фактически выполняете там просто execute делаю соответственно, полученного кода и понять ошибки.
950: То есть какой-то цикл до тех пор, пока вы не будет ли правильно?
951: Вот. Спасибо большое.
952: Да, классный вопрос. Я тоже очень люблю умные дома и все вот в этом Роде. Смотри, вообще, вот вряд ли у тебя Чистова.
953: То есть какой-то цикл до тех пор, пока вы, не будет ли правильно. Вот. Спасибо большое. Да, классный вопрос. Я тоже очень люблю умные дома и все вот в этом Роде. Смотри, вообще вот вряд ли у тебя Чистова.
954: Питона там, скорее всего, у тебя или библиотеке поставлены. Если бы был чистый энвайрмент, можно было прям просить. Ты сначала выполни перед тем, как отдавать, и он бы выполнял. Если багнулся, он заново бы исправил, обновлял бы код и так выполнял бы, пока не получится.
955: Тогда он у меня в постоянно ошибки делает но это редко а в твоём случае ты можешь логи ему сгружать он почитает поймёт че не так исправит новую версию тебе пришлёт да прям по api бросать да да только смотри по api есть нюанс.
956: Бесконечный луп уходит.
957: Тогда он у меня в бесконечный луп уходит постоянно ошибки делает но это редко а в твоём случае ты можешь логи ему сгружать он почитает поймёт че не так исправит новую версию тебе пришлёт да прям по api бросать да да, только смотри по api есть нюанс.
958: Тебе все предыдущие истории нужно самому отсылать в новом реквесте, да только не gpt, а ассистент эйпиай.
959: С полной документацией, как снов бейджем, и к нему вызывать через
960: Тебе все предыдущие истории нужно самому отсылать в новом реквесте. Кстати, а можно сразу продолжение этого вопроса сделать gpt с полной документацией, как с новым бейджем, и к нему вызывать через, да, только не gpt а assistant. Эйпиай, который
961: Тебе апишку перед коллеги.
962: Мне кажется, уже можно дальше подискутировать. Будет. Да, конечно, дискуссионном дискуссионном зале в кулуарах. А пока давайте следующий вопрос. Вот на заднем ряду. Привет. Спасибо за доклад.
963: Тебе апишку перед коллеги, мне кажется, уже можно дальше подискутировать. Будет. Да, конечно. Дискуссионном дискуссионном зале в кулуарах. А пока давайте следующий вопрос. Вот на заднем ряду. Привет. Спасибо за доклад. Есть такой?
964: Вопрос. Можешь привести пример самой клёвой на твой вкус, задачи, которую тебе удалось успешно решить с чатом gpt. То есть вот ты упоминал, мы запланировали спринт, что-то такое, вот что в памяти всплывает самое 1, самое клёвое, что тебе либо по работе, либо
965: В личной жизни удалось я консалтинг, я не зря.
966: Сделать. Ну так очень часто вот про говорил, да, мы очень часто проекты делаем заказчикам, и от заказчиков прилетают тзшки. Вот с новой мультимодальной моделью. Вообще офигенная тема. Сгружаешь тз и говоришь, подготовь мне
967: В личной жизни удалось сделать. Ну так я очень часто вот про консалтинг я не зря говорил, да, мы очень часто проекты делаем заказчикам, и от заказчиков прилетают тзшки. Вот с новой мультимодальной моделью. Вообще офигенная тема. Сгружаешь тз и говоришь, подготовь мне
968: Пожалуйста, архитектуру, декомпозицию.
969: Не надо потом верифицировать.
970: Пожалуйста, архитектуру, декомпозицию. Топово работает, мне столько работы убрало, скоро меня заменят, не надо потом верифицировать.
971: Хорошо работает. Ну, я, конечно, проверяю, но там 90% я оставляю как
972: Есть. Спасибо. Следующий вопрос. Вот.
973: Хорошо работает. Ну, я, конечно, проверяю, но там 90% я оставляю как есть. Спасибо. Следующий вопрос. Вот.
974: Вы в начале сказали, а, приветствую. Спасибо за доклад. Да, в начале сказали про историю, про чат gpt, то, что он стал таким взрывом, да, когда появилось много пользователей, но до этого был ещё gpt 1 модель, там и 2.
975: И в ней, чтобы с ней работать, нужно было там гиком быть или специальным лингвистом, да? Угу. Вот сейчас мы посмотрели на то, что теперь и для чат gpt не нужно особых навыков, если вот взять и использовать тот фреймворк, который вы соз,
976: Прям в реальном времени, соответственно, порог входа резко снижается к требованиям для персонала, который мог бы, например, что-то делать. Вот вопрос такой. А как вы думаете, что в будущем нас ждёт?
977: Да, смотрите, я тут.
978: Прям в реальном времени, соответственно, порог входа резко снижается к требованиям для персонала, который мог бы, например, что-то делать. Вот вопрос такой. А как вы думаете, что в будущем нас ждёт? То есть, да, смотрите, я тут
979: 2 мысли скажу. 1. Есть офигенная книжка внутри торнадо, по моему, называется про развитие технологий. Как вообще закручиваются технологические тренды. И там есть мысль, что
980: Когда технология становится настолько крутой, что её можно использовать без интеграции, а это значит вот без особых навыков, да, тогда вот это конец вот этого технологического бума. Мы к этому придём точно чат gpt можно будет использовать просто так. То есть технология стане
981: Нет, крутой. A2 мысль, это вот про лекцию Андрея говорил. Карпаты у него в лекции говорит, что операционки будут на ллма и все компоненты операционки будут общаться с ядром ллм.
982: Спасибо. Следующий вопрос. Вот, пожалуйста, 3 ряд.
983: Большое спасибо за доклад. Вопрос про генерацию схем. То есть вот генерить архитектуру, понятно, текстом. А если надо, там 2 квадратика стрелкой соединить, что сделать, чтобы он не сгенерил? Вот взрыв мозга очередной
984: Проси сгенерить текстовое.
985: Большое спасибо за доклад. Вопрос про генерацию схем. То есть вот генерить архитектуру, понятно, текстом. А если надо, там 2 квадратика стрелкой соединить, что сделать, чтобы он не сгенерил? Вот взрыв мозга очередной, проси сгенерить текстовое.
986: Представление возьми граф виз или какой-нибудь текстовый формат представления графа и на нём проси сгенерировать.
987: А картинки он так не умеет пока для ты имеешь.
988: Представление возьми граф виз или какой-нибудь текстовый формат представления графа и на нём проси сгенерировать. А картинки он так не умеет пока, ну, наверное, сможет что-то изобразить, но для ты имеешь ввиду далее, далее не сможет сгене.
989: То есть именно вот как сейчас мы лого генерируем. Нет, так не получится. Есть плагины ещё подключаемые, которые для архитектурных схем, но они плохо работают мне.
990: Не очень я имею ввиду, скорее более точная работа с изображением, скажем, вот возьми это изображение и перемести вот этот элемент чуть
991: То есть именно вот как сейчас мы лого генерируем. Нет, так не получится. Есть плагины ещё подключаемые, которые для архитектурных схем, но они плохо работают мне не очень, я имею ввиду, скорее более точная работа с изображением, скажем, вот возьми это изображение и перемести вот этот элемент чуть
992: Чуть правее за перегенерит картинку и будет какой-то пытайся. Окей, спасибо.
993: Знаешь, почему не получится? Потому что он дописывает твой промт к картинке чат gpt, когда ты ему не напрямую вдали, а вот через chat gpt он допишет промт. Ну не получится, короче не
994: Чуть правее за перегенерит картинку и будет какой-то знаешь почему не получится потому что он дописывает твой промт к картинке чат gpt, когда ты ему не напрямую вдали, а вот через chat gpt он допишет промт ну не получится короче не пытайся окей, спасибо.
995: Так вот, со.
996: 2 раза ряда. Нормально же задавали вопросы без микрофона.
997: Так вот, со 2 раза ряда нормально же задавали вопросы без микрофона. Этот вопрос про презентации. Вот знаешь ли ты кейс генерации презентации?
998: Ну например вот можно ли в контекст загрузить не текст, а именно какой-нибудь pptx презентацию типа на основе неё и какого-то идеи сгенерируй мне какие-нибудь прикольные слайды. Угу, вот я че то пытался такие штуки делать вместе с этим, с которая.
999: Не дали, а вот картинки генерит. Ну, че то у меня не получалось есть, да.
1000: Johnny ну вот для этой презентации все картинки сгенерированы на дали абсолютно все, кроме мемов, как я и говорил вообще жди google скоро добавит в google слайды microsoft добавит в
1001: Не дали, а вот картинки генерит. Ну, че то у меня не получалось есть, да, johnny. Ну вот для этой презентации все картинки сгенерированы на дали абсолютно все, кроме мемов, как я и говорил, вообще жди. Google скоро добавит в google, слайды microsoft добавит в
1002: Офис свой будет.
1003: Это все?
1004: Офис свой будет это все.
1005: Так вот, следующий вопрос.
1006: Да, спасибо большое за этот мастер класс. У меня такой вопрос. Вот я сегодня упоминал, что не хотим сливать чёт gpt пропиетарный код. Хотелось бы что-то вот инхаус сделать с помощью каких-то моделей, которые не ограничены.
1007: Никакими лицензиями. Вот какие-нибудь там викунья стародела, а вот про них можешь что-нибудь рассказать с точки зрения эффективности использования там, допустим, с какими-то инструментами, вроде автогена или ланчен.
1008: Угу.
1009: Ну вот я с ламой пример приводил. То есть мы тестили ламме, можно скормить кодовую базу, ламме можно скормить конфлюенс нормально будет работать для русского. Соответственно, берите там дофане ламу, там викуна, по моему, тоже.
1010: Угу. Ну вот я с ламой пример приводил. То есть мы тестили ламме, можно скормить кодовую базу, ламме можно скормить конфлюенс нормально будет работать для русского. Соответственно, берите там дофане ламу, там викуна, по моему, тоже.
1011: Эти модельки на русском будут лучше работать, потому что lana будет плохо на русском, а вот вопрос.
1012: Допустим, там пятимиллиардная 13 миллиардная, которые теоретически можно запустить даже на доступном там в магазине графон, они там не сильно страдают.
1013: Да, сильно. И там вопрос больше. Есть ещее. Квантованная версия при
1014: Допустим, там пятимиллиардная 13 миллиардная, которые теоретически можно запустить даже на доступном там, в магазине графоне, да, они там не сильно страдают сильно. И там вопрос больше есть ещее, квантованная версия при
1015: Иди там куда-нибудь поболтаем, я тебе.
1016: Так, я сейчас задам вопрос из от алексея Кормухина просить по-русски качество ухудшится. Перевода-ка.
1017: А если промты писать по-английски ответы или будут только неточности?
1018: Иди там куда-нибудь поболтаем, я тебе расскажу. Так я сейчас задам вопрос из зала от алексея Кормухина. А если промты писать по-английски ответы просить по-русски, качество ухудшится или будут только неточности перевода. Ка.
1019: Ухудшится как раз-таки из за сопоставления английского и русского. То есть, ну мы потеряем в любом случае лучше прям на английском.
1020: Пишите. Хорошо. Следующий вопрос. Привет. Спасибо огромное за доклад. Прям очень крутая технология. Вопрос такой.
1021: Ухудшится как раз-таки из за сопоставления английского и русского. То есть, ну, мы потеряем в любом случае лучше прям на английском пишите. Хорошо. Следующий вопрос. Привет. Спасибо огромное за доклад. Прям очень крутая технология. Вопрос такой.
1022: Смотря вот сейчас на этот пик, очень много людей переживает, что у нас вот, вот это все работу отнимет. И, на твой взгляд, попользовавшись, много моделей, есть ли граница, которая вот мы понимаем уже чётко, что дальше, чем эта граница, эта модель уже не шагнёт, ну,
1023: Как gpt вообще не 4 версия, a5, 6, 10, что есть список задач, которые эта вещь никогда не сможет решать.
1024: Как gpt? Вообще не 4 версия, a5, 6, 10, что есть список задач, которые эта вещь никогда не сможет решать. Ну, тут, смотрите, это такой философский вопрос. Если лично я, я верю, то что вот этот опыт
1025: Верят в безопасный искусственный интеллект для всех, который нам облегчит жизнь. Я в это тоже верю. То, как технология развивается за последний год. Это действительно экспонента не сможет решать в ближайшее время задачи, которые не enter
1026: Как текст, да, то есть вот мы, если не можем в текстовом представлении представить плохо, вот пример крестики, нолики в тексте фиг представишь, но со временем разовьётся, будет мультимодальность расти, мы будем звук получать от модели, уже можем
1027: Картинки, текст, там, байты, машинный код, это все будет. То есть я думаю, прогресс, он не остановится на этом.
1028: Спасибо. Следующий вопрос ряду кажется, вопросу gpt для, допустим, постоянно.
1029: Вот на последнем это в дополнение к моему предыдущему у вас есть кейс, где вы интегрировали автоматизации чего-либо постоянно мы что-то скармливает.
1030: Спасибо. Следующий вопрос. Вот на последнем ряду. Кажется, это в дополнение к моему предыдущему вопросу. У вас есть кейс, где вы интегрировали gpt? Для автоматизации чего-либо, допустим, постоянно, постоянно мы что-то скармливает.
1031: И допустим, он всегда json у вас есть такой, всегда работает в бэкграунде в данный.
1032: На выходе выдаёт и дальше это работает кейс успешный, который
1033: Момент, да, все продукты, которые сейчас на gpt делаются, так работают, в принципе, успешно. У нас продукты есть аудиоинструмент, слуша.
1034: И допустим он всегда на выходе выдаёт json и дальше это работает у вас есть такой кейс успешный, который всегда работает в бэкграунде в данный момент, да, все продукты, которые сейчас на gpt делаются, так работают в принципе успешно. У нас продукты есть аудиоинструмент, слуша.
1035: Вот всегда выдаёт одно и то же. Мы скармливаем промт вопросы, там, пром, такая Лохань, конечно же, это ноу хау. И он транскрибацию текста слушает и выдаёт там по критериям ответы, был ли вежливый оператор и так далее. То есть в джейсоне прям они, кстати,
1036: Вот в последней версии, если пишешь, генерируй, джейсон, он хорошо слушается, они прям дообучили на эту.
1037: Тему. Очень, кстати, интересный момент, когда я ему говорю, генерируй, джейсон, он немножко там комментарии комментариев добавляет, а когда ему говорю Гене,
1038: Вот в последней версии, если пишешь, генерируй, джейсон, он хорошо слушается, они прям дообучили на эту тему. Очень, кстати, интересный момент, когда я ему говорю, генерируй, джейсон, он немножко там комментарии комментариев добавляет, а когда ему говорю, Гене,
1039: Jason потому что мой сервис будет это хавать и работать. Вот тогда он нормально слушается, как человеку нужно, как джуну. Спасибо, вот здесь вопрос.
1040: Круто прям объяснять. Да, да, как.
1041: Джуну.
1042: Jason потому что мой сервис будет это хавать и работать. Вот тогда он нормально слушается, круто, прям как человеку нужно объяснять. Да, да, как джуну, как джуну. Спасибо. Вот здесь вопрос.
1043: Здравствуйте, ещё раз спасибо за доклад. У меня вот возник вопрос. Частично на него отвечали, но вот про предоставление информации чату как бы упоминалось про нестандартный формат ввода, например, там презентации или иные
1044: Форматы, но вы в начале также говорили, что можно закодировать информацию. Вот, например, мне нужно огромную книгу ему передать. Угу. Все-таки, как лучше это сделать? И вообще, какие есть пути решения?
1045: Форматы, но вы в начале также говорили, что можно закодировать информацию. Вот, например, мне нужно огромную книгу ему передать. Угу. Все-таки, как лучше это сделать? И вообще, какие есть пути решения? Воспользуйся ланчей, ом и эмбеддингов. То есть, если с чатом gpt, там прям есть эмбеддинг,
1046: Уже. Ага. Ну то есть вы ещё в начале говорили про таблицы, например, связываний, как бы, это, да, частот слов там, например, и это я.
1047: Это тоже модель нейронной сети, которая из твоего текста вектора сделает, вектора поместятся уже. Ага. Ну то есть вы ещё в начале говорили про таблицы, например, связываний, как бы это, да, это частот слов там, например, и это я.
1048: Прям должен файликом прикрепить и объяснить, как ему это раскодировать.
1049: Ну, он, скорее всего, и так знает. Вот про индексацию он знает. Хорошо. Как там можно проиндексировать слова.
1050: Прям должен файликом прикрепить и объяснить, как ему это раскодировать. Ну, он, скорее всего, и так знает. Вот про индексацию он знает хорошо, как там можно проиндексировать слова.
1051: Так, ещё вопросы в этой половине есть вопросы у кого-нибудь? А тогда вот сюда, пожалуйста, вот, вот там, а потом сюда.
1052: Привет. Классный доклад. Такой вопрос. Вот я часто его сам по себе использовал, так что я, если нужно чего-то новое изучить, я вот ему задаю вопрос, где это можно прочитать? Он мне подкидывает кучу книжек.
1053: Привет.
1054: Привет, привет. Классный доклад. Такой вопрос. Вот я часто его сам по себе использовал. Так что я, если нужно чего-то новое изучить, я вот ему задаю вопрос, где это можно прочитать? Он мне подкидывает кучу книжек.
1055: Например, и половина из них не существует. Вот. И потом я ему говорю, слушай, а можешь прочитать вот это, ну, рассказать, что в этой книге есть, и есть ли там что-то интересное для меня? Он опять рассказывает то, чего там нет и обычно.
1056: Ну, может только заголовок более менее точно рассказать, и, ну, приходится самому уже лезть и читать. Есть ли какой-то способ, ну, чуть чуть вот это улучшить подход, чтобы он, ну, грубо говоря, за меня книжку прочитал или какую-то может быть.
1057: Статью и сказал, что здесь есть вот такие интересные моменты для тебя и
1058: Ну вот, связать вопрос с предыдущим.
1059: Статью и сказал, что здесь есть вот такие интересные моменты для тебя и, ну вот связать вопрос с предыдущим. Смотри, чтобы он проверял, есть ли такие книжки вообще. Попроси его перед тем, как
1060: Советовать книжку, залезь в интернет и прочекай, есть ли она или нет. Потом ты можешь просто попросить перескажи мне рецензию на эту книгу, да, и он тебе перескажет. А если прям целую книгу, то вот как, я отвечал, ланкен и вперёд.
1061: Уже?
1062: Советовать книжку, залезь в интернет и прочекай, есть ли она уже или нет. Потом ты можешь просто попросить перескажи мне рецензию на эту книгу, да, и он тебе перескажет. А если прям целую книгу, то вот как я отвечал, ланкен и вперёд.
1063: Скажет рецензию, он же должен знать.
1064: Так он в бинге найдёт, и да.
1065: Скажет рецензию, он же должен знать, так он в бинге найдёт. И да.
1066: Спасибо. Следующий вопрос.
1067: Здрасьте. Спасибо за доклад. У меня вот такая мысль возникла. Вот вы составляете промты, получается, и это какие-то единичные задачи, то есть единичные вопросы. Можно ли так построить работу с нейросеткой, чтобы она решала?
1068: Что-то более долговременное, то есть высоко абстрактное, там, не знаю, проводи анализ рынка вот в какой-нибудь сфере, там ищи конкурентов, продолжительно анализируй сайты, там, новости, ещё че-нибудь, чтобы ты 1 раз ей дал и
1069: Она в дальнейшем собирала инфу и давала тебе какое-то. Угу. Ну, общее видение динамики.
1070: Атомарность важна все-таки, то есть ты будешь портить себе качество, если будешь каждый раз продолжать её мучить. На те же вопросы она и контекст начнёт.
1071: Она в дальнейшем собирала инфу и давала тебе какое-то. Угу. Ну, общее видение динамики. Атомарность важна все-таки. То есть ты будешь портить себе качество, если будешь каждый раз продолжать её мучить на те же вопросы, она и контекст начнёт.
1072: Терять можно его повторять, но это все равно все будет хуже. Вот твой запрос должен быть атомарный к модели. То есть ты
1073: Делать.
1074: Терять можно его повторять, но это все равно все будет хуже. Вот твой запрос должен быть атомарный к модели. То есть ты должен давать запрос на инструкцию. Так будет лучше, чтобы вот такую цепочку построить. Строй её так, чтобы каждый раз новый запрос делать.
1075: Так, давайте ещё пару вопросов. Вот здесь уже очень давно рука тянется и следующий в конце зала. Здравствуйте, у меня вопрос, а пробовали промти в рег системах?
1076: Спасибо за доклад ли вы эти техники?
1077: Так, давайте ещё пару вопросов. Вот здесь уже очень давно рука тянется. И следующий в конце зала. Здравствуйте. Спасибо за доклад. У меня вопрос, а пробовали ли вы эти техники промти в рег системах?
1078: То есть в
1079: Не пробовал? Да у нас промт. Инженеры этим занимаются с векторными.
1080: То есть в ретив, а generation, когда у нас есть уже найденный контекст из индексной базы, и есть вопрос от пользователя, то есть какие техники работают, какие? Нет, не пробовал. Да, у нас промт, инженеры этим занимаются с векторными.
1081: Мы работаем, и мы делаем трюк, когда модель сама генерирует запросы в базу и вытаскивает нужные данные. Но я лично не игрался с этим. То есть пока руки не дошли, очень хочется все потрогать. Тут технологии появляются каждую
1082: Неделю новые я не успеваю.
1083: Мы работаем, и мы делаем трюк, когда модель сама генерирует запросы в базу и вытаскивает нужные данные. Но я лично не игрался с этим. То есть пока руки не дошли, очень хочется все потрогать. Тут технологии появляются каждую неделю, новые я не успеваю.
1084: А так, конечно, да, хочется и покодить, и все.
1085: Спасибо. Давайте последний вопрос и будем. Да, спасибо за доклад. Вопрос. Вот навеял предыдущий, предыдущий. До этого вопрос. Пробовали вы делать что?
1086: А так, конечно, да, хочется и покодить, и все, спасибо. Давайте последний вопрос и будем выбирать лучший. Да, спасибо за доклад. Вопрос. Вот навеял предыдущий, предыдущий. До этого вопрос. Пробовали вы делать, что?
1087: Это типа стрима, ну, условно вот задать промт и кормить прям бесконечным потоком, говоря, типа, уплотняй новость. Ну делай, Самарай, вот тебе новый текст, делай, Самарай, делай новый текст условно.
1088: Такой, да, техника мапредьюс называется схожая, там в обработке данны.
1089: Это типа стрима, ну, условно вот задать промт и кормить прям бесконечным потоком, говоря, типа, уплотняй новость. Ну, делай, Самарай, вот тебе новый текст, делай, Самарай, делай новый текст условно стрим такой. Да, техника мапредьюс называется схожая, там в обработке данны.
1090: Такая же, то есть можно использовать. Прям почитайте, мапредюс называется, мы берём, делим на чанки саморези, уем, добавляем новые. Так, и рабочий. Да, конечно, мы продукт делаем инвентору, который патенты анализирует. Патенты у нас бывают огромные и вот мы
1091: Работает.
1092: Такая же, то есть можно использовать. Прям почитайте, мапредюс называется, мы берём, делим на чанки саморези, уем, добавляем новые. Так и работает рабочий. Да, конечно, мы продукт делаем инвентору, который патенты анализирует. Патенты у нас бывают огромные и вот мы
1093: Мы также их делим, они в контекст не помещаются, мы через саммари их делаем, потому что нам не очень важно потерять какие-то мелкие детали. Нам общий смысл надо передать.
1094: Коллеги, спасибо большое. Сейчас мы наградим лучшего вопрошателя подарком от нашего партнёра газпромнефть, и после этого можно будет передвигаться в дискуссионную зону постепенно. И мы
1095: Также от контика подарим и от нашего партнёра подарим спикеру тоже подарок. Давай, Илья, на твой взгляд можно вообще, наверное, за весь мастер класс подумать, повспоминать. У меня контекст.
1096: Не хватило, простите, пожалуйста.
1097: Будет, молодой человек, у нас g2.
1098: Не хватило. Простите, пожалуйста. Да, 1 вопрос. Это точно про умный дом покорил моё сердечко. A2 вопрос. Вот мне про будущее понравилось. Как это будет выстраиваться? Подход к технологиям. Вот, молодой человек, у нас g2.
1099: A1 где, где хелперы? Покажите мне 1, 2. Давайте ещё.
1100: Есть у вас вопросы? 1, 1, 2, дом, прости, умный дом. Все, вот сюда, пожалуйста.
1101: А че то мне казалось 2. Тут 2 пакета стояло. Ну ладно, ладно, тогда умный.
1102: По 1 вопросу зададут. Есть у вас вопросы? А че то мне казалось, 2. Тут 2 пакета стояло. Ну ладно, 1, 1 для вас 1. Ладно, тогда умный дом, прости, умный дом. Все, вот сюда, пожалуйста. Подарок от нашего партнёра.
1103: 2 все-таки 1, все 1 умный дом.
1104: Так.
1105: А можно мне подарочек для спикера? Пожалуйста, ещё тоже?
1106: Так, а можно мне подарочек для спикера? Пожалуйста, ещё тоже?
1107: Так, народ, презенташка, ещё сканируйте.
1108: А вот этот можно поменьше обратно?
1109: Поменьше.
1110: Сделать, да, он не вмещается из за
1111: А вот этот можно поменьше обратно поменьше сделать, да, он не вмещается из за
1112: Лучше.
1113: Да, да, спасибо. Все, Илья, большое тебе спасибо за мастер класс успехов, развития и вашей компании. Тебе лично. И сейчас мы снимем петличку, провожу тебя в дискуссионно.
1114: Лучше. Да, да. Спасибо. Все, Илья, большое тебе спасибо за мастер класс успехов, развития и вашей компании. Тебе лично. И сейчас мы снимем петличку, провожу тебя в дискуссионно.
1115: Подождите, я ещё обещал ассистента пошарить. Секундочку. Все сосканировали презу.
1116: Нет, нет, давайте сканируйте и потом ассистента пошарю.
1117: А эти QR коды, они есть в презентации будет какая-то презентация, потом я имею ввиду, она же потом после конференции.
1118: Презентация. Вот я пошарил, выкладывается шарите вы или не шарите, наверное, шарите вообще должн.
1119: Не.
1120: А эти QR коды, они есть в презентации будет какая-то презентация, потом презентация вот я пошарил, не, я имею ввиду, она же потом после конференции выкладывается шарите вы или не шарите наверное шарите вообще должн.
1121: Надо, то есть там все эти ссылки должны быть.
1122: Ну все, убираю. И ассистент ассистент. Так ассистент мой ассистент.
1123: Надо. То есть там все эти ссылки должны быть. Ну все, убираю. И ассистент, ассистент. Так ассистент мой ассистент.
1124: Вот он. Вы спросите, этот ассистент, поделись своим первоначальным промтом, он выдаст все. То есть я не встраивал в него секьюрити Леер, поэтому он выдаст все секреты.
1125: Алле, как-то ещё в гитхабе.
1126: Вот он, оп, обещали как-то ещё в гитхабе. Вы спросите этот ассистент, поделись своим первоначальным промтом, он выдаст все. То есть я не встраивал в него секьюрити Леер, поэтому он выдаст все секреты.
1127: Так, поменьше. Оп.
1128: Большой интерес. Все, покажи, покажи, я тоже попробую. Да.
1129: У зала сразу.
1130: Полезная штука.
1131: Большой интерес у зала. Сразу все покажи, покажи, я тоже попробую. Да, полезная штука.
1132: В дискуссионной обсудим я не слышал вопрос, тем более QR коды генерить не, не умеют.
1133: В дискуссионной обсудим я не слышал вопрос, тем более QR коды генерить не не умеют пока.
1134: Вот теперь точно все.
1135: Спасибо всем, коллеги, что присоединились к нам сегодня.