Открыто

Локальные LLM на потребительской видеокарте. От квантизации до агентов: когда достаточно 16 ГБ VRAM [Андрей Ладыгин]

Тема в разделе "Электронные книги", создана пользователем Топикстартер, 16 ноя 2026 в 11:38.

Цена: 400р-90%
Взнос: 40р

Основной список: 4 участников

  1. 16 ноя 2026 в 11:38
    #1
    Топикстартер
    Топикстартер Член клуба

    Складчина: Локальные LLM на потребительской видеокарте. От квантизации до агентов: когда достаточно 16 ГБ VRAM [Андрей Ладыгин]

    8766554434.png

    Свой ИИ-стек на игровой видеокарте — без облака и апгрейда. Локальные LLM на 16 ГБ VRAM: квантизация, бюджет памяти, рантаймы, кодинг-агенты, RAG, OpenCode с tool calling. Воспроизводимые бенчмарки, диагностика, критерии апгрейда. 12 глав с упражнениями и конфигами.

    Содержание

    Часть i. Фундамент: почему 16 гб — это достаточно
    Глава 1. Анатомия vram: как модель, контекст и квантизация делят память
    Глава 2. Ландшафт рантаймов: ollama, lm studio, llama. Cpp
    Часть ii. Модели под задачи
    Глава 3. Кодинг-агенты: qwen3-coder, devstral и другие
    Глава 4. Агенты и rag: модели с большим контекстом
    Глава 5. Универсальные модели: чат, анализ, документация
    Часть iii. Opencode как центр управления
    Глава 6. Архитектура opencode и подключение локальных моделей
    Глава 7. Практика: автономное решение кодинг-задачи
    Глава 8. Продвинутые сценарии: mcp-серверы, мульти-модельные пайплайны
    Часть iv. Инженерия и измерения
    Глава 9. Тонкая настройка: kv-кэш, flash-attention, выгрузка слоёв
    Глава 10. Как измерять и сравнивать: методология бенчмарков
    Глава 11. Диагностика и типичные ошибки
    Глава 12. Взгляд вперёд: moe, новые квантизации, критерии апгрейда

    Форматы: epub, fb2, pdfRead, mobi
    Цена 400 руб.
    Скрытая ссылка
     
    Последнее редактирование модератором: 16 ноя 2026 в 11:43
    1 человеку нравится это.
  2. Последние события

    1. kaasnake
      kaasnake участвует в складчине.
      16 ноя 2026 в 22:05
    2. Dimon0014
      Dimon0014 участвует в складчине.
      16 ноя 2026 в 21:11
    3. JeBern
      JeBern участвует в складчине.
      16 ноя 2026 в 14:43
    4. Javaist
      Javaist участвует в складчине.
      16 ноя 2026 в 13:03

    Последние важные события

    1. skladchik.com
      Назначен организатор складчины.
      16 ноя 2026 в 11:38