Ollama и локальные LLM: настройка, развертывание и создание приложений ИИ на Python [Udemy] [Abdurrahman TEKIN]

Складчина: Ollama и локальные LLM: настройка, развертывание и создание приложений ИИ на Python [Udemy] [Abdurrahman TEKIN]

Build Private AI on Your PC: Unsloth QLoRA, Ship Models to Ollama, Streamlit RAG Apps, a Full Coding-Assistant Capstone
Язык английский + Озвучка на русском языке (ИИ)



Создайте ИИ на своем ПК: запуск QLoRA, отправка моделей в Ollama, приложения RAG на Streamlit, комплексный итоговый проект по программированию с использованием помощника

Вы научитесь:

• Используйте Ollama из Python: чат, потоковая обработка, генерация.
• Создавайте интерфейсы Streamlit на основе локальных моделей.
• Добавьте возможности обработки изображений: работа с изображениями с помощью мультимодальных моделей (например, рабочие процессы в стиле LLaVA).
• Работайте с видео: кадры, транскрипция с помощью Whisper, вопросы и ответы на основе аудио.
• Осуществляйте вопросы и ответы по PDF-файлам и используйте подсказки, основанные на документах.
• Используйте LangChain: интеграция с Ollama, шаблоны, LLMChain, подсказки с несколькими входами.
• Разделяйте длинный текст на фрагменты и создавайте резюме с помощью рабочих процессов в стиле «карты».
• Используйте вложения spaCy: сходство, семантический поиск, RAG для длинного текста.
• Создавайте приложения для личных знаний в стиле заметок или дневника.
• Запускать агенты CrewAI с Ollama (последовательные примеры и примеры по конкретным областям).
• Запускать трансформеры Hugging Face локально; управлять кэшем и использованием дискового пространства.
• Попробовать TTS и скрипты «текст-в-видео», если позволяет GPU.
• Запускать инференцию Unsloth (например, SmolLM2), анализировать поведение токенизатора и модели.
• Проводить фин-тюнинг с Unsloth + QLoRA; следить за валидацией на предмет забывания.
• Тестируйте базовые и тонко настроенные модели; объединяйте адаптеры LoRA.
• Экспортируйте в Ollama (Modelfile, компромиссы квантования).
• Заключительный проект: локальный помощник по программированию на основе LLM (редактор, чат, сравнение изменений, запуск кода, командная строка, опциональный веб-поиск, планирование, сохранение данных).

Для кого этот курс:

• Разработчики на Python, желающие интегрировать локальные LLM в свои проекты.
• Программисты от начинающего до среднего уровня, умеющие устанавливать пакеты и запускать скрипты.
• Разработчики, желающие создавать приложения Streamlit на базе Ollama, а не ограничиваться лишь чатом через командную строку.
• Учащиеся, заботящиеся о конфиденциальности и предпочитающие ИИ, работающий на устройстве, и локальные данные.
• Любители и профессионалы, изучающие RAG, LangChain, вложения и агенты без использования исключительно облачных стеков.
• Творцы, которым нужны мультимедийные потоки: изображения, видео, аудио с Whisper.
• Практики, готовые настроить небольшую модель (Unsloth, QLoRA) и развернуть её с помощью Ollama.
• Студенты, ориентированные на портфолио, которым нужен итоговый проект (приложение в стиле локального помощника по программированию).
• Пользователи Windows/Linux/macOS, готовые при необходимости устранять неполадки с GPU, Ollama и средами Python.

Материалы курса:

• Введение
• Не стесняйтесь задавать вопросы

Ollama
1 Загрузка и использование OLLAMA 7:11
2 Использование Ollama с Python 7:05
3 Использование Streamlit 5:53
4 Интеграция модели LLM в Streamlit 6:37
5 Использование функции Exac для запуска кода в строковом типе 5:41
6 Получение результата функции Exac в качестве переменной 4:25
7 Создание инструмента для изучения Python с помощью Ollama 21:31
8 Заставить Ollama описать изображение 5:58
9 Создать страницу с описанием изображений в Streamlit 7:19
10 Описать несколько изображений 6:06
11 Разбить видео на кадры 11:52
12 Создать инструмент для описания видео 14:31
13 Общаться с PDF-файлом с помощью LLM Ollama 10:35

Langchain
15 Использование локального LLM с Langchain 3:08
16 Использование PromptTemplate и LLMChain 5:19
17 Использование 4 входных переменных в шаблоне 6:00
18 Изучение фрагментации длинных текстов 20:48
19 Получение эмбедингов и оценка схожести двух текстов 13:04
20 Поиск наиболее похожего предложения в тексте 12:10
21 Получение ответов модели на вопросы по длинным рассказам 16:39
22 Общение с вашими заметками 16:33
23 Общение с вашим дневником

CrewAI
24 Создание виртуальной среды в PowerShell 9:38
25 Использование локальной модели Ollama LLM с CrewAI 6:48
26 Написание сценариев с помощью CrewAI и Ollama 8:43
27 Генератор рецептов и анализатор питательной ценности 6:38
28 Планировщик маршрутов путешествий 3:49
29 Консультант по личным финансам

HuggingFace
30 Введение в HuggingFace 5:33
31 Загрузка и удаление моделей HuggingFace 16:55
32 Разумение ключевых параметров моделей (temperature, top_k, top_p) 39:19
33 Использование модели «Текст в речь» 22:53
34 Использование модели «Текст в изображение» 17:59
35 Использование модели «Текст в видео» 46:44
36 Использование модели «Изображение в видео»

Тонкая настройка моделей большого языкового обучения (LLM)
37 Введение в Unsloth 7:29
38 Что такое параметры и как работает ИИ 31:43
39 Как параметры LLM хранятся в памяти 39:46
40 Как работает токенизатор 25:25
41 Встраивание входных данных 13:39
42 Что происходит в рамках сквозной модели и добавление позиции к векторам 13:24
43 Как модель выбирает токены с учётом вероятностей30:57
44 Изучение сквозной настройки53:55
45 Использование обученной модели7:56
46 Загрузка модели на сайт Ollama22:24
47 Делитесь своими настроенными моделями с другими на Udemy

Инструмент для программирования с локальной поддержкой LLM, похожий на Cursor
48 Введение в локальный инструмент для программирования с поддержкой LLM 17:53
49 Инструмент может объяснять код 9:31
50. Легко исправлять ошибки 6:27
51 Инструмент запоминает историю чата 11:28
52 Попробуем создать игру «Змейка» 11:53
53 Инструмент может заниматься планированием и поиском информации в Интернете 23:16
54 Сохраняем текущие файлы в виде фрагментов кода и вставляем в чат наиболее похожие фрагменты 33:45
55 Ссылаемся на существующий файл, добавляем изображение в чат, возвращаемся к предыдущему коду 17:38
56 Создайте генератор субтитров с помощью локального инструмента для программирования с поддержкой LLM 1:55:15
57 Жду ваших предложений по поводу этого инструмента 14:17
58 Приложение для языковой практики

Спойлер: Оригинальное описание

Introduction12:05
Do not Hesitate to Ask Questions1:59
1 Download and Use OLLAMA7:11
2 Use Ollama with Python7:05
3 Use Streamlit5:53
4 Integrate LLM Model to Streamlit6:37
5 Use Exac function to run a Code in String Type5:41
6 Get the output of the Exac function as a variable4:25
7 Do a Learning Python Tool with Ollama21:31
8 Make llava describe the image5:58
9 Make an Image Describer Page on Streamlit7:19
10 Describe multiple images6:06
11 Separate a video into frames11:52
12 Make a Video Describer14:31
13 Chat with PDF using Ollama LLM10:35
14 Chat with VIDEO using Ollama LLM and Whisper20:22
15 - Use Local LLM with Langchain3:08
16 Use PromptTemplate and LLMChain5:19
17 Use 4 input variables in the template6:00
18 Learn Chunking Long Texts20:48
19 Get embedding and similarity between two texts13:04
20 Find the most similiar sentence in the text12:10
21 Get model answer questions based on long stories16:39
22 - Chat with Your Note16:33
23 Chat with Your Diary17:06
24 Create Virtual Environment on Power Shell9:38
25 Use Local Ollama LLM with CrewAI6:48
26 Story Writing with CrewAI and Ollama8:43
27 Recipe Generator and Nutrition Analyzer6:38
28 Travel Itinerary Planner3:49
29 Personal Finance Advisor5:55
30 Introduction to HuggingFace5:33
31 Dowload and Delete HuggingFace Models16:55
32 Understand the critical parameters of the models (temperature, top_k, top_p)39:19
33 Using Text to Speech model22:53
34 Use Text to Image Model17:59
35 Use Text to Video Model.46:44
36 Use Image to Video Model15:30
37 Introduction to Unsloth7:29
38 What are the parameters and How AI works31:43
39 How LLM Parameters Are Stored in Memory39:46
40 How Tokenizer Works25:25
41 Embedding the Inputs13:39
42 What Happens End-to-End, and Adding Position to Vectors13:24
43 How the Model choose the Tokens with Probabilities30:57
44 Learn Fine-Tuning End to End53:55
45 Use the Trained Model7:56
46 Upload Your Model to Ollama Website22:24
47 Share Your Fine-Tuned Models on Udemy with Others3:32
48 Introduction to the Local LLM-Assisted Coding Tool17:53
49 The tool can explain the code9:31
50. Easily fix errors.6:27
51 The tool will remember the chat history11:28
52 Try to Create Snake Game11:53
53 The Tool can Do Planning and Web Research23:16
54 Save the current files in snippets and Inject top smiliar snippets into Chat33:45
55 Cite the existing file, add image in the chat, go back to previous code.17:38
56 Create a Subtitle Generator Using the Local LLM-Assisted Coding Tool1:55:15
57 I am waiting your suggestions about the tool14:17
58 Language Practice App

Цена 2000 руб. (20 долларов)
Скрытая ссылка