0: Всем привет. И сегодня я вам покажу, как сделать из дипси чата отдельный апи эндпоинт, который будет у нас локально работать, и мы сможем его подключить к нашим каким-либо чат ботам, нашим проектам для тестирования. Нашим и агентам, в том числе я буду

1: Показывать на примере гермеса. В общем, покажу, как это все установить и настроить. Ну, как мы знаем, у нас дипси чат работает абсолютно бесплатно. Нужно просто залогинить свой аккаунт, и нам доступны модели дипика, то есть быстрый режим здесь есть с поиском, с

2: Также ризонингом эксперт режим тоже с ризонингом. И это все мы будем сейчас переделывать в локальный апи. Для этого я написал вот такую вот создал. Точнее, репозиторий такой. Вы могли уже видеть мой предыдущий репозиторий такой на такую же тему только

3: С квн чатом прошлое видео у меня было, если что, сейчас подсказка всплывёт справа сверху, там мы уже сделали на основе другого репозитория. То есть work я немного там докинул, улучшил, актуализировал и работает по Такому же принципу. То есть

4: Чат у нас модели перебрасываются на локальный open eye апи поинт, соответственно, здесь тоже самое, и сразу давайте тогда перейдём к установке, че нам тормозить, и так нужен терминал, сразу говорю вам, хром, потому что будет авторизация через хром.

5: Для тестирования такой отдельный браузер открываться будет. Он нужен для добавления аккаунтов. Ну и в принципе все. А ну no jazz нам ещё понадобится, значит, 1 команда, которую мы копируем вот здесь, вот в быстром старте, это просто гид клоун, которая клонирует репозиторий нам на компьютер. Я описа.

6: Я не буду, потому что у меня уже установлен репозиторий на компьютере. Следующая нам команда нужна чу директории и 3d пси копии у меня. Она также уже выполнена. Так теперь прописываю npm run аутифика. Меня сейчас нету файла идентификации, потому что.

7: Его удалил. Нажимаю единичку, у нас всплывает отдельно хром фор тестинг это чистый браузер без каких-либо Логинов. И нам нужно сюда, соответственно, залогиниться через дипси. Сейчас я это сделаю и вернусь. Так я вошёл в аккаунт, теперь возвращаюсь в терминал, нажимаю

8: Enter все аккаунт добавлен, можно этот терминал закрывать, теперь можно, например, показать статус все окей. И теперь выходим и просто пишем npm start. Здесь нажимаем можно просто enter, чтобы запустить прокси.

9: Все, теперь прокси у нас висит для теста. Запущу ещё 1 окно терминала и можно тут пролистать ниже. Соответственно, проверка работы, например, запрос на модели. Соответственно, вот выводятся все модели с их возможностями. Ну можно ещё

10: Отдельно вот этот модул капабилити поинт вывести здесь, правда, плохое отображение немного некорректно, но если что, все это можно вот про возможности моделей прочитать здесь, то есть тут отдельно каждая модель в api расписана, что она может, то есть в том числе.

11: Там вот например, в 4 про, он там может в ризонинг и так далее. Какие модели там, например, вот с web search идут. Также тут такие у нас примеры запросов, ну обычный чат комплишен, давайте проверим соответственно, опять вставляю просто сирл в терминал привет.

12: То есть 1 фразой видно, что у нас здесь идут запросы, мы получаем, соответственно, ответ. И вот здесь вот контент привет, чем могу помочь. Также, кроме чат комплишен, соответственно, ну, здесь ещё есть стриминг, да, соответственно, веб серч это через модели, которые

13: В дипике отдельно идут именно как раз-таки с deep серчем, точнее обычным поиском вывод Ризин токенов также здесь сделал давайте покажу это заодно так видно, что запрос пошёл и все получаем у нас есть отдель.

14: Контент, который финальный ответ и reasoning контент, то есть сами размышления вот в таком вот формате. Дальше я бы сделал поддержку entropic месседжес апи, то есть для подключения к клод коду, но сразу говорю, не тестировал в теории это вот

15: Реализовано, но на практике не тестировал. Вот у нас ответ окей, ну и openai респонсе апи для подключения к кодексу также я сделал, но возможности пока протестировать не было сразу говорю если что все обновления по дипси апи по queen апи, я буду писать в

16: В телеграмме, когда делаю так, что переходите, кроме того, там куча другого полезного контента про нейросети, так что лучше подпишитесь, также ссылка на гитхаб будет в telegram, так что все, переходите туда в принципе, вот также здесь подробно расписал я эндпоинты какие что?

17: Делают возможность подключить open web ui здесь также есть ну и в принципе все, давайте покажу как нам теперь это быстренько подключить к гермесу, значит, возвращаюсь опять в терминал очищу, а то он какой-то грязный, пишу просто гермес модул нужно мне перейти в самый

18: И здесь выбираем кастом поинт ну вот у меня уже добавлен дипси чат, но заново добавлю кастом поинт апи бес url нам нужен быстрый старт переходим по умолчанию сервер слушает копируем просто вставляем enter апикей пустой

19: По дефолту его нету. Здесь также просто enter, чтобы добавить v 1 как бы посфикс и здесь автодетект и выбираем теперь какую-либо модель. Соответственно, доступны здесь у нас все, которые есть в чате, в том числе в 4 про

20: Но, учитывая дипси, часто бывает такое, что модель просто недоступна то, что они выдают, что сервера просто нагружены, и используйте быструю модельку. Поэтому я сейчас вот выберу именно дипси чат это в 4 flash модель без ризонинг.

21: Context, length, то есть длина контекста также оставляем пустой и display name. Ну, я дипси тесты пишу, потому что дипси чат у меня уже есть, и все. Теперь у нас выбрался наш провайдер, просто стартуем гермеса и дипси чат, соответственно, пише

22: Там, например, ему привет. Видим, что запрос у нас в консольку идёт, и он отвечает, ну и у меня есть такая заготовка на проверку использования инструментов, написать простой скрипт, который будет выводить текущую дату и время запустить его. И потом

23: Удалить. Соответственно, видим то, что он вызывает инструменты, пишет скрипт, нам его выполняет, соответственно, скрипт создан, выполнен, вывел такое-то вот значение, то есть дата, время и удалён. Ну, видно то, что он все эти инструменты использовал там

24: Знаю, можно проверить ещё, о чем мы говорили, что контекст как бы тоже передаётся. В принципе, думаю на остальное тут понятно, как это все работает, кто нуждался в бесплатном. Апи, вот, пожалуйста, можно подключать к вашим чат ботам, ну,

25: Теперь к минусам и нюансам, в принципе, которые касаются и прошлого моего квена, пи, который я там в videos забыл упомянуть. Ну во первых это все работает до того момента, как разработчики это пофиксят. То есть это реверс инженерии.

26: И по сути, это не приветствуется сервисами, они это могут пофиксить и метод перестанет работать, но делают это обычно редко, особенно китайцы обычно им все равно. То есть используйте они метод месяцами могут не фиксить спокойно. Во вторых,

27: Для агентных вот таких вот сценариев есть проблема в том-то, что у нас, например, гермес использует инструменты, да, но нативного пользования инструментов в апи этом нету, потому что мы используем ответы модели из чата, а в

28: В чате нету тул юза, как бы понятное дело, я это всегда исправляю в queen апи и в дипси апи этом я также это сделал, я сделал имитацию вызова инструментов, в том числе там с json аутпутом я это вот в дипси реализовал позже.

29: Добавлю, чтобы у нас могли инструменты спокойно вызываться, но опять же-таки нет гарантии, что это все работает постоянно стабильно на длительных контекстах, тем более, потому что в вебчатах, вероятно, контекст моделей сильно урезан. То есть, может быть

30: Такое, что не 256000 токенов, как у нас, гермес выбрал, а там, не знаю, тысяч 40, например, токенов контекста лишь потому, что у нас чат в дипси как бы урезает это контекстное окно. Такое тоже, может быть, я сам не тестировал, но это может меняться и со

31: Временем или от модели зависит вообще разное. Может быть. Ну и, конечно, ваши аккаунты могут забанить. То есть аккаунты, дипика, аккаунты там queen. Если вы их добавляете через такие методы, то их могут забанить. Думаю, это в принципе, все, о чем я могу сейчас сказать.

32: Если что, оба моих вот api, который queen, и дипси, про которые я сейчас вот показываю, они в разработке, так что я буду выпускать обновления с улучшениями, в том числе сделаю там улучшения с авторизацией, чтобы можно было использовать не только через браузер.

33: Как я сейчас показывал, а и другими методами для тех людей, у которых например, почему-то не работает хром или у кого гермес находится на удалённом сервере, так что подписывайтесь на telegram, там будут держать в курсе новостей по проектам этим, ну и поставь.