Открыто

AI Engineer на Python: RAG, агенты, MCP и дообучение LLM [Илья Перминов]

Тема в разделе "Нейросети и искусственный интеллект", создана пользователем Топикстартер, 19 ноя 2026 в 09:00.

Список пока что пуст. Запишитесь первым!

  1. 19 ноя 2026 в 09:00
    #1
    Топикстартер
    Топикстартер Член клуба

    Складчина: AI Engineer на Python: RAG, агенты, MCP и дообучение LLM [Илья Перминов]

    final.png

    При сбое одной языковой модели шлюз может переключить запрос на резервную. На курсе вы научитесь создавать такой сервис на Python и выбирать модели по качеству, скорости и стоимости. Для прохождения нужны навыки работы с Python, FastAPI и LLM API.

    Для кого этот курс:

    Курс подойдёт:
    • Python-разработчикам с опытом работы с LLM API, которые хотят перейти от отдельных AI-функций к полноценным системам
    • Backend-разработчикам, которые планируют добавить в продукты поиск по документам, анализ изображений и аудио или AI-агентов
    • AI-разработчикам, которые хотят освоить RAG, локальные модели, LangGraph, MCP и дообучение
    • Тем, кто хочет развиваться в направлении AI Engineering и собрать несколько самостоятельных проектов
    Чему вы научитесь:
    • Подключать внешние и локальные языковые модели через OpenAI, Anthropic, Ollama и vLLM
    • Создавать на FastAPI шлюз, который выбирает подходящую модель для запроса
    • Строить поиск по документам и помощника на RAG, PostgreSQL и pgvector
    • Обрабатывать сканы, изображения и аудио с помощью OCR, ASR и TTS
    • Разрабатывать AI-агентов с памятью и управляемыми действиями на LangGraph
    • Подключать внешние инструменты к агенту через MCP
    • Готовить данные и дообучать модели с помощью LoRA и QLoRA
    • Оценивать качество ответов, скорость работы и стоимость AI-систем
    • Защищать данные и проверять, как сервис ведёт себя при ошибках
    В этом курсе вы научитесь создавать AI-сервисы на Python: разработаете шлюз для OpenAI, Anthropic, Ollama и vLLM, соберёте помощника на RAG и pgvector для работы с документами, изображениями и аудио (OCR, ASR, TTS), создадите агента на LangGraph и MCP и дообучите классификатор с LoRA/QLoRA. И на практике разберётесь, как оценивать качество моделей, контролировать расходы и запускать сервисы на FastAPI.

    О курсе:

    AI Engineer на Python — это продолжение курса «AI Developer на Python: LLM в реальных приложениях». В первом курсе вы учились добавлять возможности языковых моделей в Python-приложения: работать с LLM API, получать структурированные ответы, подключать инструменты и создавать AI Backend.

    А здесь вы пойдёте еще дальше и научитесь проектировать системы, в которых несколько моделей, данные и внешние сервисы работают вместе.

    В этом курсе вы создадите четыре самостоятельных проекта, где каждый решает отдельную задачу, и каждый можно запустить и показать как результат своей работы.
    1. Model Gateway — единый шлюз для языковых моделей
      Разработаете сервис на FastAPI, через который приложение сможет обращаться к OpenAI, Anthropic и локальным моделям в Ollama и vLLM. Научитесь сравнивать модели по качеству, скорости и стоимости, выбирать подходящую для задачи и переключаться на резервную при сбое
    2. Knowledge Assistant — помощник по документам
      Создадите базу знаний с поиском на PostgreSQL и pgvector и ответами на основе найденных источников через RAG. Помощник будет работать не только с текстовыми файлами, но и со сканами, изображениями и аудио: извлекать текст через OCR и ASR, анализировать изображения и озвучивать ответы с помощью TTS
    3. Workflow Agent — агент для обработки заявок
      Построите на LangGraph процесс, в котором агент помнит состояние задачи, выполняет разрешённые действия и может продолжить работу после паузы или сбоя. Через MCP подключите к нему внешние инструменты и научитесь контролировать их использование
    4. Ticket Classifier Lab — классификатор обращений
      Подготовите набор данных, дообучите небольшую языковую модель с помощью LoRA и QLoRA и сравните её с исходной моделью на независимых примерах. Затем создадите API, через который классификатор можно использовать в приложении
    Работа над проектами сопровождается проверкой качества ответов, скорости, стоимости и надёжности решений. Вы будете писать и запускать код, проводить эксперименты и разбирать ошибки, которые возникают в реальных AI-сервисах.

    Курс построен вокруг практики: вы будете писать код, запускать сервисы, проверять ответы моделей и разбирать ошибки. Отдельное внимание уделяется качеству, скорости, стоимости и безопасности AI-систем.

    Перед началом желательно пройти курс «AI Developer на Python: LLM в реальных приложениях». Курс опирается на его материалы и не повторяет с нуля основы LLM API, FastAPI и разработки AI-функций. Если у вас уже есть сопоставимый опыт работы с Python и языковыми моделями, можно начать и без первого курса.

    Начальные требования:

    Для прохождения курса необходимо:
    • Уверенно писать на Python
    • Понимать HTTP и REST API, уметь создавать сервисы на FastAPI и Pydantic
    • Иметь опыт работы с LLM API: отправлять запросы и получать структурированные ответы
    Как проходит обучение:

    Курс состоит из десяти модулей. Каждый модуль включает:
    • Понятные теоретические уроки с объяснением технологий и их ограничений
    • Пошаговую практику на Python, вы пишете код, запускаете сервисы и проверяете результат
    • Работу над одним из четырёх самостоятельных проектов
    • Разбор архитектурных решений, типичных ошибок и способов их исправления
    • Эксперименты с моделями и проверку качества, скорости и стоимости
    • Задания и самостоятельные изменения для закрепления материала

    a04ec5d0cdde9d6b97c6.png

    Программа:

    Собираем единый шлюз к LLM:
    • От AI-разработчика к AI-инженеру
    • LLM Gateway и единый контракт
    • Подключаем двух LLM-провайдеров к одному сервису
    • Реестр моделей и проверка запросов
    • Версии промптов и базовая оценка моделей
    • Маршрутизация и безопасное резервное переключение
    Локальные LLM и сервер инференса:
    • Модель с открытыми весами глазами разработчика
    • Локальный запуск через Ollama
    • Квантование и измерение ресурсов
    • Сервер модели на vLLM
    • Внешний API, локальный запуск или GPU-сервер
    • LiteLLM как единый шлюз к моделям
    • Управление доступом и маршрутизацией в LiteLLM
    Embeddings и конвейер документов на практике:
    • Как AI находит похожие документы?
    • Метрики близости и поиск в памяти
    • Выбор и версии embedding-модели
    • Архитектура конвейера документов
    • Извлечение и разбиение документов
    • Метаданные, доступ и идемпотентность
    Поиск и RAG по базе знаний:
    • Модель базы знаний и pgvector
    • Точный и HNSW (приближённый векторный поиск)
    • Полнотекстовый и гибридный поиск
    • Как работает RAG? Поиск и подготовка контекста
    • Генерация ответа и ссылки на источники
    • Переписывание запроса (Query Rewriting)
    • Оценка и защита RAG
    AI-ассистент для сканов, изображений и речи:
    • OCR для сканов и сложных PDF
    • Изображения и vision-модель
    • Речь в текст и голосовой ответ
    AI-агент с памятью и контролем действий:
    • Запускаем Workflow Agent и разграничиваем доступ
    • Состояние диалога, контекст и постоянное хранение
    • История диалога и актуальные данные
    • Собираем агентный цикл с ограничениями
    • Инструменты агента: права и подтверждение
    LangGraph и фоновые задачи на практике:
    • Знакомство с LangGraph
    • Агентный граф и Tool Calling
    • Контрольные точки и возобновление
    • Прерывание, подтверждение и идемпотентность
    • Очереди и фоновые обработчики
    • Статусы фоновых задач через SSE
    • CrewAI/ Flow, Crew и границы мультиагентных систем
    MCP и взаимодействие AI-систем:
    • Архитектура MCP и первый сервер
    • Инструменты, ресурсы и промпты MCP
    • MCP-клиент и интеграция с Workflow Agent
    • Безопасность, удалённый транспорт и проверка MCP
    • Agent-to-Agent (A2A) Protocol
    Данные и основы дообучения:
    • Классификация обращений: выбираем подход
    • Сбор и подготовка данных для обучения
    • Разделение данных без утечек
    • Основы обучения модели в PyTorch
    LoRA и QLoRA, оценка и инференс:
    • SFT с Transformers и TRL
    • Параметроэффективное дообучение с LoRA
    • QLoRA и контроль ресурсов
    • Независимая оценка моделей и проверка регрессий
    • Версионирование адаптера, учёт экспериментов и API инференса
    Что входит в курс:
    • 55 уроков
    • 99 интерактивных задач
    Автор Илья Перминов
    • Занимаюсь веб-разработкой с 2006 года
    • Преподаватель месяца на Stepik — январь 2026
    • Автор курсов:
      • AI Developer на Python: LLM в реальных приложениях
      • AI Engineer на Python: RAG, агенты, MCP и production-системы
    Цена 2960 руб.
    Скрытая ссылка