Чему вы научитесь
- Запускать модели в vLLM на CPU и Ollama Cloud и работать с ними через один OpenAI-совместимый клиент в FastAPI
- Строить продвинутый и мультимодальный RAG: переформулировка запроса, иерархический поиск, граф знаний, поиск по PDF и скриншотам в Qdrant
- Получать от модели ответ по JSON-схеме и проверять его через Pydantic
- Оценивать качество эталонными кейсами, метриками поиска и LLM-судьёй и ловить регрессии в CI через pytest
- Трассировать пайплайн в Phoenix, собирать метрики инференса и настраивать алерты
- Защищать сервис от инъекций в промпт и утечек, маскировать персональные данные по 152-ФЗ и вести модель угроз
- Проводить нагрузочный тест, настраивать очереди и кэш, считать стоимость запроса и переключаться на резервную модель
О курсе
Этот курс для бэкенд-разработчиков, которые уже собрали базовый LLM-сервис и теперь должны поддерживать его в продакшене. Он продолжает курс «LLM для Python-разработчиков: от RAG до агентов».
🎯 Цель — научить сопровождать LLM-сервис: проверять качество до релиза, находить по трейсу шаг, на котором сломался ответ, защищать данные клиентов и считать, во что обходится каждый запрос.
💡 Почему именно этот курс?
- Не нужны видеокарта и платные API: vLLM на CPU, Ollama Cloud Free, Qdrant и Phoenix в Docker
- Все примеры на Python и FastAPI, у каждого есть код и вывод запуска
- Акцент на эксплуатацию: тесты качества в CI, трейсы, безопасность, нагрузка и бюджет
- Нет академической математики, только то, что нужно для работы
📦 Что входит в курс:
- 10 тематических модулей: от инференса до производительности и стоимости
- Более 500 тестовых заданий
- 100 задач на программирование с автоматической проверкой
- Глоссарий и задания на закрепление по всему курсу
- Финальный проект: ассистент инженера, который отвечает по ранбукам, постмортемам и скриншотам. Код каждого урока лежит в репозитории на GitHub
Для кого этот курс
— Python-разработчики, которые уже писали RAG-сервис или прошли первую часть курса
— Бэкенд-инженеры, которым нужно запустить LLM-сервис в продакшене и сопровождать его
— Техлиды, которые отвечают за качество, безопасность и стоимость LLM-функций
— Те, у кого пилот уже работает, но нет тестов качества, мониторинга и расчёта нагрузки
— Бэкенд-инженеры, которым нужно запустить LLM-сервис в продакшене и сопровождать его
— Техлиды, которые отвечают за качество, безопасность и стоимость LLM-функций
— Те, у кого пилот уже работает, но нет тестов качества, мониторинга и расчёта нагрузки
Начальные требования
- ✅ Уверенное владение Python 3
- ✅ Опыт работы с FastAPI / aiohttp / аналогами
- ✅ Понимание RAG и эмбеддингов на уровне первой части курса
- ✅ Умение работать с Docker и Docker Compose
- ❌ Не требуется: видеокарта, платные API, знание ML и линейной алгебры
Как проходит обучение
- 📚 Конспекты с кодом, схемами и выводом запусков
- 💻 Задачи на программирование с автоматической проверкой
- 🧪 Тесты после каждого урока
- 🛠️ Финальный проект по шагам: код каждого урока лежит в отдельном теге на GitHub
- 💬 Форум поддержки: вопросы к автору, обсуждение архитектурных решений
Программа курса
В курс входят
- 68 уроков
- 519 тестов
- 100 интерактивных задач
загружаем...
Наши преподаватели
Сертификат
Сертификат Stepik
Входит в 1 программу
Что вы получаете
- 📂 Проект в портфолио: ассистент инженера на FastAPI, Qdrant, vLLM и Ollama Cloud
- 🧪 Набор эталонных кейсов и регрессионных тестов качества для CI
- 🛡️ Модель угроз и чек-лист red team для LLM-сервиса
- 📊 Мониторинг LLM-сервиса: трейсы в Phoenix, метрики инференса и алерты
Сколько стоит обучение
1 995 ₽
Вы попробовали и поняли, что вам сейчас не подходит этот курс? Ничего страшного, мы вернём вам деньги в течение 30-ти дней после покупки.