0: Армин рунах, ай донт ноу хау пренан её in english but it's the терминар о name энивэй соу итс файна ху из мембер оф зе пайти, паблиш преди интрестинг ардика вич из ворс ридинг овесли, зэтс бай ю feinde бело энд зис.

1: Ideal ай синк апликейшен фор ол оф ас and it is about a topic with a персоналии дидно синк ту мач эбаут а now so one shirt with you now пай иней до иис практи грейт вери мини.

2: Эйч харнесс вич ю кэн Толи мэйк юр он it has an amazing экстеншн систем n it starts минимал энд ю can turn пай inn to эксекль эйай ю вонт ай БИК фен оф юзинг Фром мэни манс энд контидента инит бикоз ай.

3: Did know that the ардика вуд комат ай хэв кредит and release the pie корс капл оф дэйзи итс Корн у your offer because i got asked about the lot its an amazing to and in the course, i she all about the setup the configuration the core features built in how to make.

4: And extended and all that stuff so it's interesting you can check out its an amazing н. Еревой энд the ордика, из also преди интрестинг нау ин зис ордика, армин токс эбаут ю. You can see, if you're using пай фор экзампл виз?

5: Ace of скрипчен фор экзампл, виз мод лайк, gpt файв пойнт сикс со ю кэн эналайз оо пай сешн логс соу ту сэй, он e system so diese симпли джейсон э файлс вич ар кредит фор ич.

6: Pi сешн ю старт n in there you find all the turns in the session all the message sent so the message sent by you to the model for example so here that's the message i centered. And then also the responses you get back there ресолт оф зе Верис ту.

7: Set the maid and thats all locked in the now, why does из т ввёл офкорс, вен ю юз эйчен лайк пай энд итс нот, джаст пай зетс, н дженерал хаузе, ворк зен.

8: Machine or maybe on remote machine but тупик ли он сам машин ю. Он о control and of course the large language model the brain бихайнд зе эйджент, тупик ли даз нот ран он ю машин бат.

9: Sted он some remote server, serve фру эн api for example by open eye if you're using the subscription or your api or an тропик энд соу, он so there is this communication between you машин n the der server, and we've ол синде вен дер сервер.

10: Over and down again and in order to have a real conversation and the session вер the context пилс, апп, овертайм, энд the module can work its way throw проблем бай и more and more information and performing more and more steps in order for that to have.

11: You need to менедж the context of your session, so you need to keep track of all the things that happened, and that контекст he must be sent to the lord лэнгвич модел бикоз.

12: On its own by default every new request this large language мол, receives из just one request some text input the it can produce сам текст аутпут нау иф ит вонтс ту кол a tool that only happens because he.

13: Harness лайк пай ду сент тул дескрипшен, элон виз омс соу тул дескрипшен а. Контексте and a saint тудили ИНН эдишен ту а and.

14: Instructions соу итс зис пэкче зет и спин сент ту the large language model with those реквестс энд then the large language model can make decisions and can ask to execute a tool со it can respond with the tool кол реквест бат итс стен.

15: In the харнесс, он ю машин фор экзампл вер the tool is экшели execute and i guess that make сенсив зе модул зе сайтс зет ит вонтс ту рид э файл о write a file that file is on you system so it can do it on.

16: А servers and even if for some reason the file шут энд апп он зоус серверс ивен иф зет вуд би зе кейс зе модул зе лордж ленгвидж модул кэн онли продьюс текст that has not changed since release of pt.

17: They take текст импут зей продьюс, текст аутпут соу о they can do which still makes every пауерфул зоо из describe to use интенс ю куд сэй, зе мотал кэн дискрайб за it wants to re файл, but it cant do it on.

18: Anyway the tool колл реквестес Тен ресив бадди эйджент оба if you wanna be precise, and then the tool из execute on your system, the file is red and then there ресолт оф зет соу зе тул Коле.

19: Salt is sent back to the large language модул энд из all of that session context because алтимейт ли of course that session context that builds up with олдос промс, виз, олдос, ансерс виз с to call ресо он and that is always.

20: Sent to the metal соу зет импортант ту андерстэнд ит the session that i sent with every turn you could say to the metal соу зэт ит хэз мор энд мор информэйшн, эвейлабл эс зис сешен, билдс апп.

21: Now whats the problem with that the problem with that is 3 like this the assistance or the modal, а with some thinking токенс ю куд сэй энд зэт из future all this фронте модал.

22: И stas they are ризонинг models, which means they don't just output, файнал респонсер, о to requests, зей, кэн олсо, аутпут, интермидиэйт, фат процессес, ю, куд сэй, фат, процессес зет, зен лид ту.

23: Two calls or to the final message the back the problem is that what you get these days by some of these мотелс лайк gpt файв сикс сол, он open eye you only get a short саммари оф. Вот и reason about.

24: And not the fall for process output инстед ди онли дител ю гет из band of needles стаффе, ю гет сам к content, but the kicks you can't decrepit энкриптед.

25: Conte only open i can so you not in the full phatt процесс джаст саммари энд саман энкрипт, энкриптед, контент нау офкорс, вен, зет, сешн. И when that контекст.

26: Is sent to i with the next turn in the conversation that i can декрипт дет контент он the server so that start process is not lost its still there but it's in visible to you and why проблем.

27: That is one of the main things армии токс эбаут, ИНН Дикал энд эген зер, а more interesting things and there you should read it, but why is this специфики проблем ввёл Ван проблем i have this that is of course транспэренси симпли.

28: You can see what the module for about you can see if it evaluating сам опшенс ю нот to happy about and you could then maybe тел орли зэт итс гоинг н a wrong direction you have no idea of what it thought about?

29: Cause its трансперент олл ю гет из a summary соу транспэренси иис Ван апп проблем релейтед ту that i have a problem with биллинг ю a built for all those for process токенс нот джаст.

30: Саммери ю c so you a pain for tokens ю донт си you dont see, if incorrectly нау, you dont have to a сюм её читинг он you, but you have no way of одитинг ор контроли энд.

31: Set not a great feeling pain for something were someone else you, this is the right price not great but one of the Бигас проблемс ай хэв this that and that all the main problem армин, меншин, ИНН и ардика из z.

32: Ли you dont own the session энимор Амин иф зет сешен это он ю system no longer экьюреси represent what was going on its not where?

33: От and what do he mean this, that this wrong we keep on to i and keep они модал ит мэй ворк иф v switch to different models, but thats already one part, where we have to rely on the provider.

34: Two and this works кросс модел дети, энкрипт, контент кэн би дикие, вензин, дифферент модел бай тем it absolutely not work when moving to a different model by different провайдер нау вай ю.

35: Module in session ввёл зер, а reason for that one could be that open айс оффлайн эген невер, Ризон куд, симпли би зэт ю мей би плэн, ор дискасс, самсинг виз летсе, gpt five point six.

36: Soul but оо имплементед виз рок фо point five because its faster итс чиппер в so you may свитч модел бикоз оо ризонс лайк зис энд the reason could all be that maybe you work on a feature?

37: A couple of man go by now there are new модалс аут саденли ю Вона континью и all сешен бикоз мейби ю нид ту фикс э бак релейтед ту the feature that was имплементед ин зис сешен обвезли ю воду зис виз э нью модал зе поинт оф.

38: Where you wanna fix this you, but maybe even when стикинг ту the same провайдер бат юзинг, зе дифферент модел, зис сешен, дазнт, ворк, энимор, ор даз нот фули ворк, anymore because maybe that контент контент и энимор энд ит сертен.

39: Man doesnt work if you switch to different бант провайдер n this may all like нищ ишьюс бат комбайнд зе кен бикам риал ишьюс энд ит из not great that thing and that i'm Люзин оне шип оф май сешн.

40: On my system now why does open eye do that and has not just open eye and fro the same that doing this is энкрипшен стаф ер ту превент дистае оо make дистал, Хардер, бикоз, зей, донт.

41: Chinese or other companies to train there модалс он der модалс энд ай куд мэйк э дип та хир эбаут хау вирт зис стенс из гивен.

42: Fact that day train Тёр моделс он all the open, интернет, эсеншл энд би бат зэтс нот, the focus of this видью зер из a lot of here покраси, и but this is not what i wanna get in to her, but that is why.

43: Инкретин и now this is not the only problem you could to and not only н. Меньшинс ин Хиз артикл бат итс one main point he makes your.

44: Never интерестинг поинт из релейтед ту ту коллс ремембер, ай меншн зет, лорд ленгвич, моделс мейк ту колл, реквестс энд then. It is you, харнесс раннинг, он ю system that экшели performs ту ту колл зет.

45: Its a file on for some tools this could by skepta летс синк эбаут а web search тул веб серч дазнт хэв ту happen on machine and.

46: Dead аутсорсинг веб серч мэйз Аун интерестинг бикоз итс нот тривиал иф ит хэппенс он e machine you will most likely ворк виз сам серт партии i оо провайдер бикоз ю l. Guess донт.

47: Он web search index you have no кролер зет кролс ол the web sites райт соу иф ю вонт ту хэв a web search тул ор сам web search кепитал тис ИНН e agent you will likely.

48: The provider and you can you can absolutely билд, он web search тул он top of a, провайдер лайк брэйв оо google and pinch of possible опшен стёр бат. Вот many of these modal providers лайк google but alls опен.

49: On offer is that they have a вебер тул энд they offer you that when you request to л лэнгвидж модул зей Вил юз зет тул медикал фор you if need it by the

50: Quest, if the module, мэйкс, зе десишн, дед и шут перформ, веб серч энд зен дианта сайкл оф the model requesting the tool кол энд the tool кол бин мэйд энд the thing all that would ден он en servers.

51: And what you get back for оо инишл реквест из not a дител репорт оф. Вот хэпенд из not a list of the search юар элс элонг виз зе пор, пейдж контент, паттон, стед. Вот you get back in the end is just a summary эса.

52: Memory of the web search ресултс элонг виз зе сорс, url watch с inspect он, юрон бат ю донт гет олл зе дител ю донт си вот экшели, хэпенд вот was consider, what was эналайз, ИНН, дет веб серч?

53: Request нау vs you dont have to use this капиталит бат ю мэй хэв тёрн, он by accident or you may find it convenient to аутсорте энд лет дём ду ит он the servers and there are good reasons for doing that bad офкорс иф ю.

54: Do use that feature for example, here at the web search экзампл ю эген луз сам oneshop овер ер сешн саденли ай донт know if i have a web search to ко.

55: I dont think so, but suddenly you just get самори энд нот the дител соу эген сам информейшн лост энд иф ю вуд порт зет контексте to different model the module would only see that саммари энд нот о.

56: From the web, it happen so he never important поинтер олзе импортант из this поинтер эбаут компакшен ю no, if you have a conversation with metal or if you building up the context Дурин за session симпли ит мэй.

57: Ashleigh for bigger more complex tasks run out of context window, space, all these modules have different context виндоус sizes and depending on the task you taking and whats going on in there that контекст виндоу мэй Фил апп иф зет хэппенс процесс.

58: Call компен кикс, ИНН вич симпли, минс зис, нормали тейкс корт контекст, соу тейкс ол the content in your and сарайе криэйт саммари виз хелп.

59: Large language models and creates a fresh контекст виндоу энд путс тет саммари ин дер зэтс ИНН э начал вот happens, its a bit more элаборэйт зэт бат зэтс ИНН э начал вот хэппенс нау сам модул providers лайк опен иай оффер фьючер колд серверсайт ком.

60: Which means they manage the context for you, they can компект фор ю, он зе сервис y would you do that well this компакшен кэн би мор, powerful than the trivial компакшен ю преформ, он the клайсайд виз зе саммари.

61: They can store комплекс stay there somelee нот джаст самори текст but maybe a more complex object зей кэн стор, он the servers and reference that from the new context so more information can maybe be kept and.

62: Despite компакшен happening so it can be us full feature бат иф ю a using that feature and its not like you have to use it right thats important, but if you do use it again suddenly you lose информейшен саденли зет ком.

63: К information ливс он зе опен серверс, энд олл ю гетэк, из a i ll z коэшн самори оо энкрипт контент соу саденли ю no longer on that компакшен самори ю джаст оо.

64: Key to some point in a servers or to some data on open a servers and he again минс ю сешн лост информейшн, симуле проблем, кен укор.

65: If you релайн, он open eye and again. Авер providers хэв сам фичерс он, он ice конверсейшен стейт фиче энд армин, mention this to you know in the sessions v.

66: Always ли keep track of everything that happened thats the idea that the н мне that for so that we can ease по two different models and on and in case of pi, tu a. Амэйзин?

67: Ill come and on so that he keeps track of the session and everything that happened in она system as i explain now you could аутсорс, зис опен фор экзампл, оферс конверсейшен стейт, эй вич, минс.

68: Instead of keeping track of what happened and sending that to the module with every new request you let опене, а you can set a store проперти вен юзинг её stk ту тру иф ю седеет ту.

69: Force than they don't 100 the conversation you have to store you have to store the session иф ю седе ту тру он the hand and did it is set to true body so you have to set to false to.

70: Менеджед, он you that day менеджед фор you if you said it to true then, дэй экшели, Вил менедж зе конверсейшен, он the servers the context, он the servers and they will give you респонс ай.

71: With every респонс энд ю can send the new request with just the next message in your conversation and just референс, респонс, айди ю гот о so when ever you get back a response you just.

72: Response id and with your next message you reference that last респонс айди энд зэт Вэй опен ай он the servers ноус ту вич конверсейшен зис нью реквест из рефин энд they keep on that контекст that that session.

73: On the servers офкорс е one of these прочест лест дэйта фор экзампл needs to be sent over the ware last data, because if you in the context and the session зен диссента, чанк оф информейшен.

74: To be sent to the open а servers for example, with every request you makes обвиесли бикоз, Вайс зе модул, он the server вуд, no whats going on because фут нот, нот, бодифлаинг, мор, бикоз, Бо дифу и stories.

75: If that is turn off, it is стэйтлесс зэтс вей, а should put it, but if store is not set to false, if you use to deal сеттингс зен зей ду 100 that контекст соу её you only have to sent your new message you dont.

76: Have to st тар контекст this every new request convenient райт Шур convenient but suddenly you dont know whats going on you not string that the session энимор ю кант, Свич, эт олл ю хэв бейсики, ноу информэйшн эбаут вот was going on БИК.

77: Context is not there for you and thats why артика армии сэз это из эвейлабл энд шут и used because i see диффуз тру энд зей менеджед фор ю бат ол зис.

78: Is all this little improvements зетта хэ ту мейк её live is хэвиметал зеерс лест трансперенси зэт ю хэв ту вандер биллинг из коррект зет ю.

79: Ed. And that maybe мост импортантли ю. Донт, он the session anymore with all its implications лайк редьюс, оо no портабилити, зет ю m not be able to come back to a session in the future if the module провайдер.

80: Port with new or models and thats all a beautiful воин тренд a trend as i said эниши ай дидно anticipate ор синк эбаут ту би вери онест бикоз айм нот ин the business of building эйч энд харнесс энн.

81: Its just not something i spin off of time, worrying about i do worry a lot more about it now and i don't see this module providers гоинг бэк спешли сенс зей вонт ту дефенд агенств дистал.

82: In perfect world that certain и have all your data all её конверсейшенс он the servers and you only sent you task that certain ли и perfect world because more control and.

83: In general, im the kind of person, who likes to stay in control and death trance a мейкинг, ми хэв лес контрол.