В этом видео вы узнаете, как установить LLAMA 3.2 на свой локальный компьютер абсолютно бесплатно!
Видео идеально подходит как для новичков, так и для опытных пользователей, которые хотят работать с мощной ИИ-моделью на своём ПК без дополнительных затрат. Подключайтесь и узнайте, как начать работать с LLAMA 3.2 уже сегодня!
Что вы узнаете:
Где скачать OLLaMA и сопутствующие файлы.
Как правильно установить и настроить модель.
Какие системные требования нужны для оптимальной работы.
Примеры использования LLAMA 3.2 в реальных задачах.
Таймкоды
00:00 Введение и проблемы с ChatGPT
- Владимир рассказывает о своем опыте использования ChatGPT.
- Основные проблемы: необходимость постоянного подключения к интернету, платные функции и ограниченные возможности.
- Владимир делится своим разочарованием в ChatGPT и его ограничениях.
01:13 Новая платформа Lama
- Владимир рассказывает о новой платформе Lama, которая предлагает больше возможностей.
- Он делится своим опытом установки и использования Lama.
- Владимир упоминает, что Lama требует программирования, что ему не нравится.
01:43 Программа Olaama
- Владимир представляет программу Olaama, которая упрощает установку и запуск Lama.
- laama бесплатна и позволяет легко установить Lama на компьютер.
- Владимир показывает, как установить и запустить Olaama.
02:20 Установка и запуск моделей
- Владимир объясняет, как установить и запустить модели в Olaama.
- Он показывает, как загрузить и запустить модели, такие как 3.2 и Vision.
- Владимир подчеркивает важность выбора моделей, которые подходят для вашего компьютера.
04:51 Использование Docker
- Владимир рассказывает о программе Docker, которая позволяет запускать контейнеры.
- Docker создает изолированные среды для работы приложений.
- Владимир объясняет, как использовать Docker для запуска Olaama и других моделей.
06:20 Настройка и запуск контейнеров
- Владимир показывает, как создать и запустить контейнеры в Docker.
- Он объясняет, как копировать и запускать команды для создания и запуска контейнеров.
- Владимир демонстрирует, как настроить и запустить контейнеры для различных задач.
08:37 Веб-интерфейс и тестирование
- Владимир показывает, как настроить веб-интерфейс для работы с Olaama.
- Он демонстрирует, как создавать и запускать чаты и модели.
- Владимир тестирует модель, создавая и запуская код на разных языках.
10:37 Заключение
- Владимир подводит итоги и подчеркивает преимущества Olaama.
- Он благодарит зрителей и обещает продолжить эксперименты с моделью.
- Владимир прощается и желает всего наилучшего.
Таймкоды сделаны при помощи Нейросети YandexGPT – Ссылка на таймкоды https://300.ya.ru/v_ZNrPNigo
Расшифровка видео
Поиск по видео
0:00
Приветствую вас Меня зовут Владимир и в
0:02
этом видео Я хочу поделиться с вами Как
0:04
установить свой личный Chat
0:07
gpt В некоторых случаях чуть получше
0:10
даже чем чат gpt на своём компьютере я
0:13
лично использую чат gpt но три вещи меня
0:16
раздражают больше всего Первое это
0:19
постоянно надо быть на Интернете точнее
0:20
подключиться выходить туда тот всё-то
0:23
понимаете если у них что-то пропало то у
0:24
тебя вниз пошло так что это всё
0:27
получается номер два мне приходится
0:29
платить за это ну недорого но всё равно
0:32
понимаете Копеечка там Копеечка там и
0:34
всё Это выкатывается довольно хорошо
0:36
надо платить за это постоянно и номер
0:38
три то что они предлагают на линии здесь
0:41
только 88.000 токенов за оплату токен –
0:44
это как слова точнее примерно 0.75 слов
0:49
за один токен точнее где-то примерно
0:52
можно 6.000 слов это не так много в коде
0:54
если
0:56
программируй размер только столько можеш
0:59
запустить А если бесплатную версию
1:00
берёшь там всего 4.000 токенов это 3.000
1:04
слов это вообще кошмар по всего прочего
1:07
Это как-то зависит от них всё модели всё
1:09
прочее и Я был очень рад я та у вышло
1:14
новые Мета выпустила не Lama Lama ещё
1:17
лучше большой код хороший модель который
1:20
Главное вы можете запустить на своём
1:22
компьютере ну честно говоря я от радости
1:24
запрыгал пошёл Давайте делаем пошёл на
1:27
ихний вебсайт сюда и здесь говорит Вот
1:29
давайте там там по ступенькам всё это
1:30
ста делать Ну я пошёл я посмотрел как
1:33
работает по ступенькам стал стал делать
1:35
пока не дошёл до вещи когда
1:37
устанавливать и там у меня код стал
1:38
ломаться там выходит ошибка такая ошибка
1:40
такая я говорю блин говорю Ну что и
1:43
самому программировать что ли сидеть не
1:45
я человек ленивый Зачем мне само
1:47
программировать для этого я нашёл другую
1:49
версию и с вами сейчас её хочу
1:51
поделиться она называется Ома ома – это
1:55
как бы программа которая делает Всё для
1:57
Вас сама установ берёт эту устано ВС и
2:01
запускает её очень легко самое главное
2:03
всё то что вам сейчас показываю это ВС
2:05
бесплатно Вы можете установить у себя на
2:09
компьютере который будет работать
2:13
довольно хорошо будет с кодом Ну я
2:15
покажу вам примеры то что он может
2:17
делать И это всё абсолютно бесплатно это
2:20
вот самое главное так вот значит идёте
2:23
на э страничку там внизу линки будут
2:26
загружаете Я уже
2:28
загрузил Windows Linux Mac Я на виндоусе
2:32
работаю сеча Так что я загрузил и там
2:35
Прям просто там честно говорю ступенька
2:38
это ступенька Шаг за шагом ты делаешь
2:40
Один Да да да всё и она установилась
2:44
самое главное после того как
2:45
установилась Давайте проверим как
2:47
работает для этого мы пойдём туда где Вы
2:49
установили Я установил на D dri Лама
2:52
Лама директория Прямо туда сбросил и
2:55
напишем
2:57
Ома Lama Run
3:01
Лама и какую хотите загрузить 31 это вот
3:04
то что она по установке идётся так
3:07
запустили она вот она крутится
3:09
запускается всё
3:15
готово вот модель уже пошла работает ура
3:19
отлично но Давайте скажем что это хорошо
3:23
нам надо последние моде или моде тех
3:25
которых нет для этого я просто сечас
3:28
закро это не нужен и на этой же
3:31
страничке вот здесь видите модели идёте
3:32
туда нажимаете модели и вот они у нас
3:35
появились все эти модели нам то что
3:37
интересует это 3.2 последняя и Vision но
3:41
Vision – Это она большая модель она не
3:43
на всех компьютерах может идти Так что
3:46
там требуется слишком большой памяти и
3:48
всё прочее
3:50
поэтому загрузить знаете если в халяву
3:53
Почему её не загрузить но посмотрите она
3:56
может очень медленно она может ресурсы
3:58
там зависнуть всё прочее но маленькая
4:00
вот это вот 32 будет работать стабильно
4:02
вот что самое главное и вы идёте просто
4:04
сюда идёте вот у нас Ома Run Lama берёте
4:09
копируете
4:10
эту текст то же самое запускаете свой
4:14
Command
4:15
prompt Так давайте я к себе перейду
4:19
туда вот и его запускаете и она берёт и
4:23
загружает эту модель к вам отлично
4:26
модель загрузите загрузите все те модели
4:28
которые необходимы но опять же выходить
4:31
и делать это понимаете в этом в проте
4:34
как-то ругаться но нехорошо вот поэтому
4:39
есть другой вариант который мы можем
4:41
сделать также как и Chat gpt запустить
4:44
такой веб интерфейс но для этого нам
4:47
необходимо установить дополнительные
4:49
программки они опять же все бесплатные
4:52
первые которые нам необходима и она
4:54
будет идти это вот ялин опять сброшу
4:58
вниз туда Это программа которая идёт у
5:02
вас как бы на компьютере Работает Не не
5:06
не на заднике как это бэкграунд работает
5:09
в заднике в
5:12
бэкграундер контейнеры это как бы а
5:16
берёт программу и запускается в своей
5:18
оболочке Точнее они не будут у вас
5:20
контактировать с вами аппликациями они
5:22
как бы будут вот в своей оболочки там
5:24
сидеть тихо и работать очень удобно
5:26
Потому что если у вас этот контейнер
5:28
что-то там не то вы просто удалили и
5:31
новый запустили очень удобная программа
5:33
стабильная хорошая я ей пользуюсь 15-1
5:36
лет Я уже не помню сколько я с ней
5:38
работаю это вот мы программируем в
5:41
основном в Докера на контейнерах и есть
5:43
дополнительны там аппликация которая
5:45
можете когда контейнеры дополнительно
5:47
сдаётся на уже не будем туда влазить так
5:50
вот запустили Эту программку она соби
5:53
нормально это вот то что вас
5:55
позволяет для чего она нужна потому что
5:58
то что мы будем пользовать А И это у нас
6:03
Open webui опять же бесплатне она
6:05
запускается внутри докеров она создаёт
6:07
контейнер оно туда Всё скидывается и
6:10
запускается Кстати вы можете создавать
6:12
разные контейнеры как вот здесь одна для
6:14
GPU NVIDIA другая без этого и запускать
6:17
их отдельно смотря того как вам нравится
6:20
вот Давайте значит посмотрим как здесь
6:22
сделать тоже Элементарно допустим вы уже
6:25
запустили у вас докер и он радостный уже
6:28
работает кстати вот здесь если
6:30
посмотрите у меня есть несколько уже
6:32
имиджей и контейнер установлены у вас
6:34
скорее всего их не будет если вы его не
6:36
работали Точнее они будут пустые
6:39
Представьте что Представьте что они все
6:41
пустые так вот то что нам надо делать
6:44
это просто копировать с копируем одну
6:46
линию опять же идём в ваш в коман промт
6:49
идём сюда и вот здесь в команде проте
6:52
тоже
6:53
ректори запускаем сначала одну команду
6:56
она у вас я её запускать не буду потому
6:58
что я её сделал это вот создаёт у вас
7:00
имидж точнее
7:01
А помните как си дюки было да на CD вот
7:05
имидж делали на это вот то же самое Это
7:07
он просто его скопируют но для того
7:09
чтобы он скопировал его ещё контейнер он
7:11
не создал контейнер – это точнее
7:14
вытаскивать эти аппликации и как бы их
7:16
вместе создаёт в такой оболочке работать
7:19
и вот внизу степ два вот здесь два это
7:23
вот у нас два контейнера Вы можете
7:25
создавать первый контейнер – это просто
7:27
обыкновенный он на сипию будет у вас
7:29
работать а второй здесь уже видите он с
7:32
поддержкой GPU точнее если у вас стоит
7:35
NVIDIA карта то тогда запустить её я два
7:38
их установил как говор два контейнера
7:41
нормально Они идут и кстати вот два
7:44
имиджа у меня здесь сидят после того как
7:46
вы их запустите Подождите чтобы они у
7:49
вас установились вы узнаете как они
7:51
установились если у вас вот они появятся
7:53
понимаете имиджи появились после этого в
7:56
контейнерах когда Запусти вот у вас
7:59
тейнер уже появится и когда появится
8:02
контейнер это значит всё нормально
8:04
работает я уже записывал я вам честно
8:07
говорю я это видео делал сначала для
8:10
себя сам запускал несколько раз да
8:13
уничтожал заново потом писал это видео
8:15
для английском языке потом на русском
8:17
потом перезаписывать переустановил
8:20
несколько раз уже мучился и у меня
8:22
всегда без ошибок Вот по дереву
8:24
постучать понимаете всё нормально без
8:26
ошибок делать Вот после того как всё
8:28
установилось вот здесь идт видите где
8:30
порт написано нажимаете на этот порт и
8:32
он открывает у
8:34
вас страничку Где вы можете работать это
8:37
уже смотрится то же самое пример Да как
8:40
чат Пите Уже довольно удобно всё самое
8:42
главное самое главное Вот здесь наверху
8:44
видите у нас новый чат мы можем
8:46
создавать новый чат делать И вот заодно
8:50
мы можем вниз и вот те модельки которые
8:52
мы загрустили запустили мы можем кстати
8:55
пробовать эти все чаты отсюда запускать
8:58
очень удобно дополнительные модели
9:00
которые Если вы запустили которые
9:02
поддерживались только здесь здесь же
9:04
тоже будет показано потому удобно Я вот
9:06
сделал просто последнюю L latest вот
9:09
беру 32 это небольшая модель и давайте
9:12
сделаем
9:15
так
9:25
HTML неправильно по буков там сделал вот
9:29
нажал сказать напишите мне коды HTML Вот
9:32
видите как быстро фигачит довольно
9:34
удобно Вот даже CSS зафи JavaScript
9:37
смотри полностью программу заделал мне
9:39
да
9:42
Вот давайте одну вещь хочу про я я вот
9:45
это ещё не проверял хочу посмотреть
9:48
[музыка]
10:05
Так Ну когда я печатал у
10:08
меня пальцы жирные поэтому на кнопочки
10:11
нажимается вот здесь
10:12
кое-что
10:14
специально специально неправильно
10:17
по-английски написал Ну ладно я сказал
10:19
напиши поэму для меня про маленьких
10:22
птичек которые с этими как стами воюют и
10:27
напиши на русском языке Так давайте
10:29
Посмотрим есть ли языки подержаться
10:31
потому что
10:32
во красота какая смотри по-русски Прямо
10:36
зафи меня окно в небе пронизанные
10:39
звуками рыцарь лёгкого воздуха с мечам в
10:43
клюве лампы свечи и лазе применени
10:47
братство с с птицами в глупом
10:50
сражении великолепно У меня даже талант
10:54
появился
10:59
зафи гочи со своей кепкой соскочила с
11:02
пол Ну короче вот на русском даже делат
11:05
языки поддерживают великолепно Я говорю
11:07
это модель шикарная самое главное
11:10
абсолютно бесплатная но я поеду дальше
11:13
экспериментировать попробую э всякий
11:16
опыт посмотрим что из этого всего выйдет
11:18
но спасибо для того что вы посмотрели и
11:21
увидимся в следующий раз всего
11:23
наилучшего До встречи