[Deep School] LLM System Design (Денис Солдатов, Артём Бардаков)

​

Научитесь создавать LLM-системы: от поиска по базе знаний и саппорт-агентов до речевой аналитики и мультиагентных систем.

Курс для тех, кто планирует или уже строит LLM-системы

• DL-инженеры
  Научитесь строить системы целиком от распределения входной нагрузки до мониторинга ключевых метрик. Сможете говорить с разработчиками на одном языке и строить дорожную карту развития ваших сервисов.
• ML-инженеры и аналитики
  Научитесь строить LLM-приложения, которые решают востребованные задачи: поиск по базе знаний, чат-бот, автономные ИИ-сотрудники — поймёте, как устроены системы изнутри, чтобы с пониманием дела улучшать их работу.
• Backend-разработчики
  Разберётесь в специфике LLM-приложений: когда какую модель использовать и что есть кроме LLM, векторный поиск, метрики, трейсинг, агентские системы — сможете говорить с ML/DL командой на одном языке и строить дорожную карту развития ваших сервисов.

После курса вы сможете:

1. Вайбкодить Использовать кодинг-агентов
   Настроите окружение для эффективной работы кодинг-агентов над проектом. Узнаете, как сэкономить время на разработке.
2. Решать задачу customer support
   Разберёте архитектуру решения: балансировка нагрузки, классификация интента, генерация ответа, трейсинг, агентский подход — и реализуете каждый шаг в проекте.
3. Создавать мультиагентные системы
   Соберёте мультиагентную систему, используя современные подходы и инструменты как в популярных Hermes, OpenClaw, Claude Code, etc.
4. Поднимать self-host LLM
   Развернёте свою LLM на vLLM / SGLang с квантованием и автоскейлом. Соберёте офлайн-пайплайн анализа голосовых записей.
5. Строить поиск по базе знаний
   Соберёте RAG-сервис: от ванильной версии до гибридного поиска, способного держать нагрузку.
6. Настраивать observability
   Чтобы сделать систему прозрачной: следить за ключевыми метриками и прицельно улучшать приложение.

Программа
4 проекта; 11 лекций
Курс собран из четырёх проектов. Для каждого разбираем архитектуру и собираем работающий прототип — на лекциях и семинарах.

• Вводная встреча
  Знакомимся с группой, разбираем формат курса, проекты и домашние задания. Отвечаем на все вопросы перед стартом
  
• Поиск по базе знаний
  Собираем сервис семантического поиска по корпоративной базе: от ванильного RAG до гибридных схем и Page Index. Проходим путь от 1 до 100 RPS без переписывания с нуля.
• Клиентский саппорт
  Делаем мультиагентный саппорт: классифицируем интент, ищем в базе, отвечаем, эскалируем оператору. С observability, метриками качества и guardrails — чтобы выпускать в продакшн, а не только демо-стенд.
• Речевая аналитика и боты
  Self-host LLM под свою задачу + офлайн-аналитика звонков: ASR → диаризация → LLM-анализ. Структурированный JSON-выход, который ложится в дашборды и даёт инсайты бизнесу.
• Мультиагентный ИИ-разработчик
  Универсальный агент общего назначения: tools, MCP, ReAct, память и sandbox. Сравниваем с Cursor, Claude Code и Hermes и собираем своего на семинаре в конце курса.

Что нужно знать
Необходимы базовые знания Python и LLM.

• Уверенный Python
  Знакомы с async/await, классами, типизацией.
• Опыт работы с REST API
  Понимаете, как делать HTTP-запросы, обрабатывать ошибки, работать с JSON.
• Базовое понимание LLM
  Знаете, что такое токен, эмбеддинг, prompt. Пользовались агентами или LLM-чатом.
• DL/ML-знания — не обязательны
  Программа построена так, чтобы её могли пройти разработчики без ML-бэкграунда.