Станцуем
Бизнесмен
- Сообщения
- Монеты
- 0.0
- Оплачено
- 45
- Купоны
- 0
- Кешбэк
- 0
- Баллы
- 0
- @Skladchiki
- #1
Складчина: AI Engineer на Python: RAG, агенты, MCP и дообучение LLM (Илья Перминов)
- Ссылка на картинку
-
При сбое одной языковой модели шлюз может переключить запрос на резервную. На курсе вы научитесь создавать такой сервис на Python и выбирать модели по качеству, скорости и стоимости. Для прохождения нужны навыки работы с Python, FastAPI и LLM API.
Для кого этот курс:
Курс подойдёт:
О курсе:
AI Engineer на Python — это продолжение курса «AI Developer на Python: LLM в реальных приложениях». В первом курсе вы учились добавлять возможности языковых моделей в Python-приложения: работать с LLM API, получать структурированные ответы, подключать инструменты и создавать AI Backend.
А здесь вы пойдёте еще дальше и научитесь проектировать системы, в которых несколько моделей, данные и внешние сервисы работают вместе.
В этом курсе вы создадите четыре самостоятельных проекта, где каждый решает отдельную задачу, и каждый можно запустить и показать как результат своей работы.
Курс построен вокруг практики: вы будете писать код, запускать сервисы, проверять ответы моделей и разбирать ошибки. Отдельное внимание уделяется качеству, скорости, стоимости и безопасности AI-систем.
Перед началом желательно пройти курс «AI Developer на Python: LLM в реальных приложениях». Курс опирается на его материалы и не повторяет с нуля основы LLM API, FastAPI и разработки AI-функций. Если у вас уже есть сопоставимый опыт работы с Python и языковыми моделями, можно начать и без первого курса.
Начальные требования:
Для прохождения курса необходимо:
Курс состоит из десяти модулей. Каждый модуль включает:
Программа:
Собираем единый шлюз к LLM:
Для кого этот курс:
Курс подойдёт:
- Python-разработчикам с опытом работы с LLM API, которые хотят перейти от отдельных AI-функций к полноценным системам
- Backend-разработчикам, которые планируют добавить в продукты поиск по документам, анализ изображений и аудио или AI-агентов
- AI-разработчикам, которые хотят освоить RAG, локальные модели, LangGraph, MCP и дообучение
- Тем, кто хочет развиваться в направлении AI Engineering и собрать несколько самостоятельных проектов
- Подключать внешние и локальные языковые модели через OpenAI, Anthropic, Ollama и vLLM
- Создавать на FastAPI шлюз, который выбирает подходящую модель для запроса
- Строить поиск по документам и помощника на RAG, PostgreSQL и pgvector
- Обрабатывать сканы, изображения и аудио с помощью OCR, ASR и TTS
- Разрабатывать AI-агентов с памятью и управляемыми действиями на LangGraph
- Подключать внешние инструменты к агенту через MCP
- Готовить данные и дообучать модели с помощью LoRA и QLoRA
- Оценивать качество ответов, скорость работы и стоимость AI-систем
- Защищать данные и проверять, как сервис ведёт себя при ошибках
О курсе:
AI Engineer на Python — это продолжение курса «AI Developer на Python: LLM в реальных приложениях». В первом курсе вы учились добавлять возможности языковых моделей в Python-приложения: работать с LLM API, получать структурированные ответы, подключать инструменты и создавать AI Backend.
А здесь вы пойдёте еще дальше и научитесь проектировать системы, в которых несколько моделей, данные и внешние сервисы работают вместе.
В этом курсе вы создадите четыре самостоятельных проекта, где каждый решает отдельную задачу, и каждый можно запустить и показать как результат своей работы.
- Model Gateway — единый шлюз для языковых моделей
Разработаете сервис на FastAPI, через который приложение сможет обращаться к OpenAI, Anthropic и локальным моделям в Ollama и vLLM. Научитесь сравнивать модели по качеству, скорости и стоимости, выбирать подходящую для задачи и переключаться на резервную при сбое - Knowledge Assistant — помощник по документам
Создадите базу знаний с поиском на PostgreSQL и pgvector и ответами на основе найденных источников через RAG. Помощник будет работать не только с текстовыми файлами, но и со сканами, изображениями и аудио: извлекать текст через OCR и ASR, анализировать изображения и озвучивать ответы с помощью TTS - Workflow Agent — агент для обработки заявок
Построите на LangGraph процесс, в котором агент помнит состояние задачи, выполняет разрешённые действия и может продолжить работу после паузы или сбоя. Через MCP подключите к нему внешние инструменты и научитесь контролировать их использование - Ticket Classifier Lab — классификатор обращений
Подготовите набор данных, дообучите небольшую языковую модель с помощью LoRA и QLoRA и сравните её с исходной моделью на независимых примерах. Затем создадите API, через который классификатор можно использовать в приложении
Курс построен вокруг практики: вы будете писать код, запускать сервисы, проверять ответы моделей и разбирать ошибки. Отдельное внимание уделяется качеству, скорости, стоимости и безопасности AI-систем.
Перед началом желательно пройти курс «AI Developer на Python: LLM в реальных приложениях». Курс опирается на его материалы и не повторяет с нуля основы LLM API, FastAPI и разработки AI-функций. Если у вас уже есть сопоставимый опыт работы с Python и языковыми моделями, можно начать и без первого курса.
Начальные требования:
Для прохождения курса необходимо:
- Уверенно писать на Python
- Понимать HTTP и REST API, уметь создавать сервисы на FastAPI и Pydantic
- Иметь опыт работы с LLM API: отправлять запросы и получать структурированные ответы
Курс состоит из десяти модулей. Каждый модуль включает:
- Понятные теоретические уроки с объяснением технологий и их ограничений
- Пошаговую практику на Python, вы пишете код, запускаете сервисы и проверяете результат
- Работу над одним из четырёх самостоятельных проектов
- Разбор архитектурных решений, типичных ошибок и способов их исправления
- Эксперименты с моделями и проверку качества, скорости и стоимости
- Задания и самостоятельные изменения для закрепления материала
Программа:
Собираем единый шлюз к LLM:
- От AI-разработчика к AI-инженеру
- LLM Gateway и единый контракт
- Подключаем двух LLM-провайдеров к одному сервису
- Реестр моделей и проверка запросов
- Версии промптов и базовая оценка моделей
- Маршрутизация и безопасное резервное переключение
- Модель с открытыми весами глазами разработчика
- Локальный запуск через Ollama
- Квантование и измерение ресурсов
- Сервер модели на vLLM
- Внешний API, локальный запуск или GPU-сервер
- LiteLLM как единый шлюз к моделям
- Управление доступом и маршрутизацией в LiteLLM
- Как AI находит похожие документы?
- Метрики близости и поиск в памяти
- Выбор и версии embedding-модели
- Архитектура конвейера документов
- Извлечение и разбиение документов
- Метаданные, доступ и идемпотентность
- Модель базы знаний и pgvector
- Точный и HNSW (приближённый векторный поиск)
- Полнотекстовый и гибридный поиск
- Как работает RAG? Поиск и подготовка контекста
- Генерация ответа и ссылки на источники
- Переписывание запроса (Query Rewriting)
- Оценка и защита RAG
- OCR для сканов и сложных PDF
- Изображения и vision-модель
- Речь в текст и голосовой ответ
- Запускаем Workflow Agent и разграничиваем доступ
- Состояние диалога, контекст и постоянное хранение
- История диалога и актуальные данные
- Собираем агентный цикл с ограничениями
- Инструменты агента: права и подтверждение
- Знакомство с LangGraph
- Агентный граф и Tool Calling
- Контрольные точки и возобновление
- Прерывание, подтверждение и идемпотентность
- Очереди и фоновые обработчики
- Статусы фоновых задач через SSE
- CrewAI/ Flow, Crew и границы мультиагентных систем
- Архитектура MCP и первый сервер
- Инструменты, ресурсы и промпты MCP
- MCP-клиент и интеграция с Workflow Agent
- Безопасность, удалённый транспорт и проверка MCP
- Agent-to-Agent (A2A) Protocol
- Классификация обращений: выбираем подход
- Сбор и подготовка данных для обучения
- Разделение данных без утечек
- Основы обучения модели в PyTorch
- SFT с Transformers и TRL
- Параметроэффективное дообучение с LoRA
- QLoRA и контроль ресурсов
- Независимая оценка моделей и проверка регрессий
- Версионирование адаптера, учёт экспериментов и API инференса
- 55 уроков
- 99 интерактивных задач
- Занимаюсь веб-разработкой с 2006 года
- Преподаватель месяца на Stepik — январь 2026
- Автор курсов:
- AI Developer на Python: LLM в реальных приложениях
- AI Engineer на Python: RAG, агенты, MCP и production-системы
Показать больше
Зарегистрируйтесь
, чтобы посмотреть авторский контент.