Чему вы научитесь
- Объяснять, как языковая модель разбивает текст на токены и выбирает следующий токен
- Составлять системный промпт, подбирать примеры и получать ответ в формате JSON по схеме
- Описывать устройство RAG-системы и находить причину неверного ответа
- Выбирать способ оценки модели, RAG-системы и агента
- Описывать инструменты для модели и подключать их через протокол MCP
- Определять, когда задаче нужен агент, и описывать его устройство: цикл, планирование, память
- Рассчитывать стоимость и задержку запросов и защищать систему от промпт-инъекций
- Отвечать на типовые вопросы с собеседований по LLM, RAG и агентам
О курсе
Языковые модели (LLM) лежат в основе чат-ботов, поиска по документам и агентов, которые сами вызывают инструменты. Курс разбирает, как устроены сама модель и системы на её основе: от токенов и механизма внимания до RAG, агентов и работы в продакшене. Каждый термин объясняется при первом упоминании.
Темы курса совпадают с темами, которые спрашивают на собеседованиях на позиции, связанные с LLM. После каждой части урока идут вопросы, к каждому варианту ответа есть пояснение. В конце урока собраны итоги и типовые вопросы с собеседований с краткими ответами.
Программа
- Введение: темы и формат курса.
- Как устроена языковая модель: токены, выбор следующего токена, трансформер и механизм внимания, контекстное окно и KV-кэш, обучение модели, дообучение с LoRA и QLoRA, галлюцинации.
- Промпты и структурированный вывод: системный промпт и роли сообщений, zero-shot и few-shot, рассуждение по шагам, ответ в формате JSON по схеме.
- Эмбеддинги и RAG: векторные базы, устройство RAG-системы, причины ошибок, продвинутые схемы.
- Оценка качества: модель в роли судьи, бенчмарки и рейтинги, оценка до запуска и в работе, оценка агентов.
- Вызов инструментов: как модель вызывает функции, описание инструментов и обработка ошибок, протокол MCP.
- Агенты: цикл ReAct, рабочие процессы и типовые схемы, планирование и самопроверка, память, системы из нескольких агентов.
- LLM в продакшене: стоимость запросов, задержка и потоковый ответ, свои модели и квантизация, безопасность и промпт-инъекции, мониторинг.
- Итоговый тест: разбор неисправностей и проектирование систем по материалам всего курса.
Курс теоретический: задач на программирование и практических заданий в нём нет. Практику по поисковой части RAG-систем на Python даёт отдельный курс автора «Погружаемся в RAG: практический курс на Python и NumPy».
Для кого этот курс
Начальные требования
Специальная подготовка не нужна: термины объясняются при первом упоминании. Опыт программирования и работы с API поможет быстрее разобраться в примерах с JSON и вызовами функций. Расчёты в курсе выполняются в одно действие на уровне школьной математики.
Как проходит обучение
Текстовый курс: уроки со схемами, тестовые вопросы после каждой части урока, итоги с вопросами с собеседований в конце урока и итоговый тест в последнем модуле.
По любому шагу можно задать вопрос автору в комментариях к шагу.
Программа курса
В курс входят
- 36 уроков
- 283 теста
Наши преподаватели
Что вы получаете
- Итоги каждого урока с типовыми вопросами с собеседований и краткими ответами
- Пояснение к каждому варианту ответа в тестовых вопросах
- Схемы устройства RAG-систем, агентов и вызова инструментов
- Подготовку к собеседованию на позиции, связанные с LLM, RAG и агентами