ym104432846
Вставьте ссылку на видео из Youtube, Rutube, VK видео
Задайте вопрос по видео
Что вас интересует?
00:00:06
Локальные нейросети:
  • Подбор нейросетей для слабых ПК
  • Обзор языковых моделей, генерации изображений, озвучки текста, распознавания речи
  • Советы по выбору оборудования и ПО
00:24:35
Дополнительные ресурсы:
  • Ссылки на GitHub и описание работы с платформой
  • Рекомендации по чистоте операционной системы
  • Предложение подписки на авторский канал
00:25:21
Бесплатные альтернативы:
  • Возможность самостоятельного поиска упомянутых инструментов
  • Призыв автора не бояться платных ресурсов
0: Нейросети для слабых компьютеров сегодня в blitz обзоре локальные системы, языковые модели, генерации изображений, апскейл изображений, озвучка текста и распознавание речи многие думают, что для установки работы локальных нейросетей.
1: Нужны суперкомпьютеры за несколько тысяч долларов. Ну это так, если говорить о трендах и больших всепожирающих моделях, но можно использовать аналоги, которые менее требовательны, их просто нужно грамотно подобрать. Смотри.
2: Видео до конца тогда, возможно, сегодня у вас на компьютере появится своя собственная локальная i система, пусть не самая мощная, но своя и бесплатная меня зовут Дмитрий, и, дабы не тянуть за член енота, приступим сразу к делу, ну а показывай.
3: Я вам буду прямо со своего блога на бусте, чтобы у вас все цифры, все было перед глазами, давайте даже чутка увеличим.
4: E. Поехали. Значит, 1 это у нас языковые модели. Вот для слабых компьютеров самый минимальный уровень у нас идёт сначала, значит, тини лама 1, 1 би, сверхлёгкая языковая.
5: Для общения простых текстовых задач и запуска даже на очень слабых компьютерах железо процессор любой 4 6 ядер, оперативка 6 8 гигабайт видяха вообще не нужна.
6: Лежит на Хагин. Фейс, свободно скачивается, устанавливается. Идём дальше. Смол лм 360 м. 1 из самых компактных современных языковых моделей, предназначенная для базовых диалогов и работы на
7: С минимальными ресурсами вот получается, что у нас процессор, даже старый i 3 risen, 3 оперативка 4 6 гигабайт видяха тоже не нужна.
8: Тоже лежит на Хаин фейс.
9: В свободном доступе берете, скачиваете, устанавливаете так, дальше у нас идёт тот был минимальный уровень. Сейчас средний уровень пошёл уже где 8 16 гигабайт, смотря сколько у вас есть. Значит, фитри мини компактная модель от microsoft.
10: Сильной логикой, хорошим качеством ответов при небольшом размере, что у нас по железу, значит процессор ай 5 райзен 5 оперативка 8 12 гигабайт и видяха не нужна.
11: Тоже лежит на Хабин фейс.
12: Идём дальше. Гвен гвен 2 5 3 би. Универсальная многоязычная модель для общения, анализа текста, перевода и программирования железо оперативка 8 12, гигабайт видяха. Желательно 4.
13: И 6 гигабайта.
14: Тоже лежит на хаггинг фейс.
15: Дальше Джемма 2 2 би, Лёгкая модель от google, обеспечивает высокое качество ответов при низких требованиях к оборудованию все это идут языковые модели, железо у нас оперативка, 8, гигабайт, процессор.
16: Корай 3, Корай 5, райзен 3 вот видяха не требуется.
17: И тоже на ханнес лежит. Вот она. Так, идём дальше. Ну, здесь уже компьютеры посильнее от 16 гигабайт. Значит, смотрите, мистрал 1 из самых популярных.
18: Открытых моделей для написания текстов помощи в работе повседневного общения model 7 bee значит, по железу идёт оперативка 16 видяха 6 8 гигабайт и процессор.
19: Вот минимум 7 райзен, 7 тоже.
20: Открытых моделей для написания текстов, помощи в работе повседневного общения вот model 7 bee значит, по железу идёт оперативка 16 минимум видяха 6 8 гигабайт и процессор 7 райзен 7 тоже.
21: Это очень лёгкие параметры и лежит тоже на
22: Так, хаггинфейс.
23: Это очень лёгкие параметры, так и лежит тоже на хаггинфейс.
24: В общем, хакинг фейс гитхаб маст хэв для тех, кто хочет локалками свободно управлять так llama 3 8 би мощная универсальная модель от мета для сложных запросов, анализа информации и создания контента по желе.
25: Значит, оперативка 16 гигабайт, видяха 8 плюс гигабайт. Ну и процессор, собственно, любой 6, 8 ядер и тоже на хакинг фейсон лежит.
26: Вот она забирать дальше переходим к генерации изображения для слабых компьютеров значит самый слабый компьютер 4 6 гигабайт стейбл дифьюжн 1 5 классическая модель для локальной генерации изображений по текстовому описанию с умеренным требование
27: Пк по железу видяха 4 6 гигабайт, оперативка 8 16 гигабайт и процессор, да любой современный тоже на Хавин.
28: Процессор, то есть фейс лежит.
29: Пк по железу видяха 4 6 гигабайт, оперативка 8 16 гигабайт и процессор, да любой современный процессор, то есть тоже на Хавин фейс лежит.
30: Вот она, родимая.
31: Так, теперь это был Лёгкий уровень. Теперь у нас средний, да, сдкл Бейс это улучшенная версия stable дифьюжн, создающая более детализированные. Качественное изображение по железу видяха 8 гигабайт оператив.
32: 16 и процессор ай 5, a7 вполне сдюжит.
33: И тоже на Холин фейс.
34: Так, дальше у нас это все у нас идёт, напоминаю, генерация изображений флюкс 1 Шнель так, быстрая модель генерации изображений ориентирована на высокое качество при минимальном времени создания картинки.
35: По железу у нас видяха 8 плюс гигабайт, оперативка 16 32 и процессор ай 5, кор ай 7 кор райзен 5.
36: Вот тоже лежит на хаггинфейс.
37: В свободном доступе так, теперь у нас озвучка текста, да, то есть tts Пипер tts Лёгкая система синтеза речи спокойно быстро озвучивать текст. Локально, без подключения к интернету она уже лежит на.
38: Гитхабе.
39: Тут, кстати, сверху написано, что модель заархивирована, это не значит, что она то есть не работает, это значит наоборот, что все доработки возможные уже сделаны, что она полноценный функционал.
40: Soft уже все там дальше доделывать нечего. То есть берите, используйте так по железу, значит, процессор любой, оперативка, 24 гигабайта, видяха вообще не нужна, свободно будет летать. Вот даже на таком, на таких параметрах.
41: Tts v 2 ну, в смысле 2 версия продвинутая модель синтеза и клонирования голоса с поддержкой множества Языков и естественного озвучивания вот она лежит на хаггинг фейс.
42: Так и по железу оперативка 8 16 видяха 6 плюс гигабайт Кокора титс очень хорошая вещь компактная современная модель озвучки текста, сочетающая хорошее качество речи и низкие требования к ресурсам.
43: Вот 1 из первых, кстати, ппользовался. Лежит на гитхабе, она у нас
44: Какора Какора, так и по железу. Значит, проц нужен l 3 либо i 5, либо risen 3, оперативки 4 8. Гигабайт тоже требования вполне минимальные распознава.
45: Речи виспер тини. Самая Лёгкая версия, да, или вайпер, кому как удобно для быстрого распознавания речи на слабых устройствах. Вот по железу у нас идёт процессор. Корай 3 6.
46: Поколение kara 5 райзен 3 вот оперативка 4 гигабайта лежит на хаггинг фейс.
47: Так, теперь васпер бес базовая версия васпер с более высокой точностью распознавания речи при умеренной нагрузке на систему. Вот по железу оперативка 6 8, гигабайт процессор ай 5.
48: 5 лежит на хакинг фейс.
49: Так, теперь дальше. Фастер вайпер оптимальная, ну, вернее, оптимизированная реализация васпера, обеспечивающая более быстрое распознавание речи при сохранении качества, причём хорошего.
50: Watch лежит она на гитхабе у нас.
51: Вот она так, значит, оперативка от 4 гигабайт, процессор, Корай 3 ай 5 райзен, 3 видяха не потребуется.
52: Так.
53: Переходим. Апскейл изображений. Популярная модель рил Эрсан, ссган. Блин, все время путаю эти буквы местами. Так вот, популярная.
54: Модель для увеличения разрешения изображения, восстановление детальных фотографий очень хорошая, тоже 1 из первых когда-то пользовался, вот и сейчас, в принципе она вполне себе watch лежит на гитхабе.
55: Мне все хочется сказать Эрсан почему-то, а не Серган. Так вот она так по железу, значит, видяха от 4 гигабайт, оперативка 8 16.
56: Тоже слабые параметры, и на них нормально работает дальше свинер, нейросеть для улучшения качества изображений, удаление Шумов, восстановление повреждённых участков лежит на гитхабе.
57: Так, так, да. Так, по железу. У нас оперативка от 8 гигабайт, процессор, Корай 5 кор 7 райзен, 5 видяха. Потянет даже 16 50 джитиикс нвидиа.
58: Переходим к локальным системам, которые нужны обязательно. 1 у нас, естественно, алама. Вот простая платформа для скачивания управления, локального запуска языковых моделей на компьютере. Вот, значит, ну,
59: Lana находится на сайте алама, хотя и на гитхабе она тоже есть, но проще, конечно, с официального сайта скачивать вот оперативка 8 16 процессор i 3 ай 5 райзен 3 вот видяха вообще не
60: Обязательно, но это имеется ввиду конкретно для lana модели, которые вы будете поверх ставить, они могут требовать видеокарту.
61: Так, лм. Студия удобная, тоже графическая оболочка для запуска локальных нейросетей без использования командной строки. Вот тоже официальный сайт сюда переходите и отсюда и скачиваете.
62: Так по железу 8 16 гигабайт, ну видяха желательно для скорости, вот, но можно и без неё, но лучше с ней вот open web ui это веб интерфейс уже для работы с luca.
63: Моделями через браузер, напоминающий chat gpt по удобству использования, лежит она у нас на гитхабе.
64: Вот она.
65: И, значит, по железу работает она поверх хлама, оперативка от 8 гигабайт.
66: Так, теперь смотрите, значит готовые конфигурации для пк. Если у вас прям супер слабый, значит можно запустить тини лама фитри мини аспертини и Пипер tts вот обычный п.
67: Уже где у вас если у вас 16 гигабайт уже есть уже вы можете поставить себе мистрал квен, стейбл дифьюжн, икс tts и open web ui так ну пк посильнее это 30 60 40 60, да?
68: Здесь ввёл это уже sdx флюкс, лама и полноценные локальные системы у вас тоже подтянутся, ну и вывод само собой напрашивается да, из вышесказанного все как обычно, быстро, без воды и по делу.
69: У меня вот, значит, слабый компьютер можно превратить в локальный gpt chat генератор изображений. Голосовой ассистент систему распознавания речи. Да пусть это говорю, что будут не самые такие.
70: Современные там самые трендовые версии моделей, но зато вы это будете делать бесплатно и без надобности покупать дорогое железо. То есть если у вас эти параметры есть, которые были озвучены выше,
71: Можете смело все это делать. Ну а теперь смотрите, кто на полном серьёзе хочет работать с локалками для вас дополнительные материалы, их найдёте у меня на бусте. Значит, 1, это обязательно после всего, что я вам показал. Посмотрите ещё.
72: Топ 10 самых быстрых моделей от 8 гигабайт. В этом списке собрано 10 самых быстрых оптимизированных моделей, которые реально можно использовать на компьютерах от 8 гигабайт. Вот эти модели позволяют превратить даже бюджетный н,
73: Букв полноценного локального эйай помощника для текста, кода, анализа и повседневных задач без подключения к облаку и без ожидания отклика от серверов.
74: Далее у нас идёт гайд, уже локальная i станция за 15 минут на слабом компьютере прошу заметить вот даже обычный компьютер либо ноутбук вы можете превратить в полноценную ии студию или ii станцию да, которая работает полностью автоном.
75: Без облака, без подписок и без постоянного подключения к интернету. Вот гайд показывает максимально простой способ запуска локального ии по принципу установил, запустил. Работает. Вот вместо Десятков сложных настроек используется минимальный набор компо.
76: Которые дают сразу несколько возможностей. Тоже gpt локально скачивание модели в 1 в 1 команду, генерация текста, картинки, голос все это тоже можно при желании поставить даже на слабом компьютере такая сборка позволяет получить
77: Универсального помощника, который работает стабильно. Дальше смотрите и слушайте меня особенно внимательно. Значит, это горячая штука. Промт, подбор локальных нерасти под ваше железо. Вот это специальный промт для
78: Нейросетей, которые я создал специально для вас. Он проанализирует параметры вашего компьютера, подберёт только совместимые локальные нейросети, покажет лучшие модели для каждой задачи. Ну, это общение, работа с документами, генерация изображений, видео.
79: Музыки, программирования, озвучки и многих других направлений. И в результате вы получите уже готовый список нейросети с официальными ссылками на скачивание, описанием возможностей, требованием к системе и оценкой совместимости с вашим компьютером.
80: То есть это полезная штука. Просто вбиваете параметры своего компьютера, закидываете в нейросеть и вам уже показывают, какие нейронки вам подходят. Вот это позволяет избежать лишних скачиваний, сэкономить время сразу.
81: Выбрать оптимальное решение для своей конфигурации. Вот. То есть там 12 уже в промке есть 12 самых популярных направлений в локальных моделях. Вбиваете, он по ним ищет. Вот давайте, наверное, сейчас покажу вам пример. Так.
82: Значит, вот он сам промт весь. Я сюда уже вбил. Ну, 1 попавшийся сейчас телефона посмотрел параметры ноутбука, который нашёл. Вот если, допустим, видеопамять, вы не знаете, пишите.
83: Прям не знаю, все. Главное вам вбить видеокарту, оперативку и процессор. Ну естественно операционная система, куда будете ставить это windows linux, либо macos. Так и давайте мы его сейчас загру.
84: Chat gpt.
85: И спросим.
86: И вот он пошёл выдавать, что именно как вот те, ну, вводные, которые я в него уже вбил.
87: Я сейчас забил просто так в chat gpt то есть я вам вообще то рекомендую использовать глубокое исследование в глубоком исследовании, он вам даст ещё больше информации хотя здесь все, все как есть он вам выдаст, но в глубоком исследо
88: Все равно я, как бы, я к нему отношусь более, так оно мне больше нравится. Вот. И, значит, он пишет, вот тоже приводит ту модель, которую я вам уже сегодня говорил, смол. Так, совместимость хорошо.
89: Вместимость допустима. Вот он проверяет текстовые модели квен. Вот выдал 3, 1, 7 б. Отлично, хорошо. И он пошёл. Вот улучшение изображений и по каждой категории он вам будет выдавать. Какие вам
90: Нужны параметры, то есть какие вам подходят конкретно локалки. И уже вы переходите по ссылкам и скачиваете необходимый вас, вам софт. Вот, и здесь таблица, ещё итоговая сводка, так что
91: Пром, прям на все случаи жизни. Если вы постоянно мучаетесь, выходит, допустим, какая-то локалка, да, или, допустим, вы в telegram у меня увидели, что вот такая-то вышла, да, вы скачиваете её сначала, там, эти 100 гигабайт, к примеру, да, или 50, или двадца.
92: Потом кое-как ставите, потом у вас все тормозит, короче, выключается, перезагружается. Вот, чтоб таких проблем не было. Для этого я сделал вот этот вот провод. Так что забирайте, кстати, на днях.
93: Я ещё сделаю промт по установке локальных моделей, вот или использование гитхаб репозиториев, там, в общем, будет windows linux Макс. То есть вы сможете просто тоже забивать ссылку на Хагин фейс или git.
94: Хаб, и вам будет полностью выдано все, что нужно сделать, чтобы у вас все это работало. И вот, кстати, в помощь к предыдущему промту, да, топ 100 самых популярных видов локальных моделей, если, к примеру, в
95: Промте, ну, не нашлось тех моделей, которые вам нужны, да, потому что там я вбил самые популярные, там генерация музыки, генерация изображений, там, озвучка, вот это вот все, что действительно, как бы, ну, что людям
96: Нужно, если у вас какая-то узкая спецификация, то вы можете вот здесь вот скопировать и вставить в тот промт модели, которые вам нужны. То есть вид модели именно это список из 100 наиболее популярных и востребованных типов локальных моделей.
97: Которые помогают понять, насколько разнообразным стал современный мир открытого искусственного интеллекта. Вот какие направления существуют за пределами привычных чат, Ботов и генераторов изображений. Тут очень много их вот вообще их, конечно же, больше 1000. Вот
98: Я анализировал, пробивал, короче, их вообще километр. Вот. Но это топ 100 самых таких популярных, кстати, в открытом доступе у меня на бусте можете забирать так, и ещё по этой теме тоже. Какие мощности?
99: Пк нужны для запуска локальных нейросетей. То есть здесь вы найдёте разбор 3 уровней конфигурации. Минимальный, стандартный, максимальный, если вы, допустим, собираетесь приобретать какое-то железо, да, и у вас есть в планах, что вы хотите обяза.
100: Работать на локалках. То есть вы можете посмотреть, здесь все данные есть, все они верны, вот все разобрано по деталям. Требования к железу сильно зависят от того, какие задачи вы хотите решать. Поэтому здесь именно 3 конфигу.
101: 1 дело запускать небольшие модели для общения, да, в стиле там, этого чат gpt, к примеру, и совсем другое работать с современными моделями. Тут я все это разобрал прям. И ещё 1 вспомогательный инструмент для вас боевой чек лист.
102: Да, это серия чек листов, которые еженедельно выкладываю. Вот правда, только начал, но теперь будет на постоянной основе. Тут, значит, проверка локальной нейросети перед установкой. То есть дополнительно вы можете
103: Ну, видите, каждую неделю появляются новые локальные модели и проекты, да, но далеко не каждая нейросеть стоит времени, которое придётся потратить на её установку, настройку, запуск, да, я об этом уже говорил. Вот. Поэтому перед тем, как скачивать, вы можете просто воспользоваться этим, чеклист.
104: И пробить, промониторить, что это за локалка и подходит ли она вам. Вот если вы новичок, то прохождение таких чек листов полезно для понимания происходящего. То есть потихоньку вы, проходя такие чек листы, сможете врубаться уже, что да.
105: Как вообще обстоит при скачивании того же репозитория какой-то модели? Да, вы уже будете понимать, куда смотреть, на что смотреть и стоит ли вообще оно того. А ещё я приглашаю вас в свою телегу, я там публикую много бесплатных
106: Инструментов каждый день отбираю и показываю самые интересные полезные решения на базе искусственного интеллекта. Так что залетайте инструменты, которые я здесь выкладываю, проходят отбор. То есть я от всякого, ну, много выходит, всякого шлака и
107: Вот это вот я все отбираю и самое лучшее бесплатное бюджетное, либо просто интересное все здесь. Ну и давайте дальше. Значит, смотрите все параметры, что я вам показал, они верны, но главное не за
108: Забывайте про засранность своей системы, к примеру, бардак на рабочем столе, в том числе хранение больших объёмов данных, это игры, сериалы там и тому подобное. Автозагрузка тоже, когда куча там всего. То есть, если у вас
109: Слабые, слабая конфигурация, да, компьютера либо ноутбука. Вот это обязательно учитывайте вот, потому что скорее всего у вас, ну возможно у вас, да, hdd бывает даже не разбитый на диски и вот недавно
110: Тоже у меня знакомый говорит, вот не работает, не может быть принёс. Ну вот я смотрю, у него там на рабочем столе все игры абсолютно каждая по 40, 50 гигабайт, все сериалы, фильмы, все прям засрано. Автозагрузка.
111: Вообще там даже майнеры были, поэтому я повторяюсь, все данные, все параметры, что я показал, они верны. Обращайте внимание, в каком виде у вас вообще операционная система это тоже влияет на скорость.
112: Работы моделей. Кстати, кому кажется, что да, я показывал гитхаб, кто в 1 раз меня видит, кому github кажется очень сложным ссылка на видео по работе с github и также на материалы.
113: По работе с github, они будут в описании. Вот они в открытом доступе, у меня свободно берете, скачиваете, изучаете, чтобы иметь понимание, как работать вообще с гитхабом. Все ссылки и материалы из этого видео забирайте на бусте подписка полтора бакса.
114: Даже ребёнок. Вот буду всем рад добро пожаловать там я разбираю, оцениваю, какие инструменты существуют, что они умеют, кому они пригодятся, какие у них ограничения, как их устанавливать, запускать, какое железо требуется на регулярной основе вы будете
115: Получать боевые чек, листы, релизы и тренды с github работ, разборы лучших и инструментов, тематические подборки, разборы веб сервисов, анализ громких новостей, релизов, мои личные исследования и многое другое. Ну а приверженцы?
116: Халявы те, кто считает, что любая платная подписка даже до обидного полезная даже за копейки. Это спецоперация по захвату и присвоению его денег. Ну или вымогательство. Ну у меня для вас хорошие новости, все инструменты уже засветились в этом видео.
117: Названия никто не скрывает, и они озвучены. Можете спокойно их отсюда срисовать, загуглить и провести собственную разведку. Главное это чтобы было у вас желание и наличие времени. Так или иначе, основная задача этого видео была именно показать вам инструмент.
118: Что они существуют. Кстати, привет джейсону из комментариев. Благодаря тебе мне закралась мысль сделать это видео. Вот. Ну, а на сегодня у меня все увидимся. На этом же месте у меня всегда есть, что вам показать.