Трек про AI как инженерную систему в проде. Нужны ML/AI-инженеры, которые вывели модели в прод и отвечают за последствия: за нагрузку, стоимость, качество, инциденты.
Инференс под нагрузкой и его экономика: latency/throughput, батчинг, KV-cache, квантование, дистилляция, утилизация GPU.
Свои модели против GPT/Claude и т. д. — с расчётом, где что выгоднее.
LLM-приложения: RAG, агенты, оркестрация инструментов, работа с контекстом и его ценой.
Инженерия недетерминированных систем: контракты, eval’ы, наблюдаемость LLM, гардрейлы.
Безопасность и контроль моделей.
Lakehouse, стриминг, data pipelines, фичесторы, векторные/семантические слои, data contracts.
Жизненный цикл и дообучение моделей: версионирование, воспроизводимость, дрейф, авто-ретрейн.
Инфраструктура инференса на масштабе: автоскейлинг GPU, мультитенантность, шедулинг, «своё железо vs облако».
Как снизили стоимость инференса LLM в N раз: квантование, батчинг и что сломалось.
Своя модель против GPT/Claude: где посчитали и вернулись обратно (и наоборот).
RAG на N млн документов: где деградирует качество и сколько стоит контекст.
Агенты в проде: контракты, eval’ы, наблюдаемость вероятностной системы.
Постмортем: как галлюцинации LLM положили бизнес-метрику и что поменяли.
Feature store под нагрузкой: архитектура, цена и грабли.
Дрейф данных и авто-ретрейн: как ловим деградацию раньше пользователей.
Экономика GPU-кластера: автоскейлинг, мультитенантность, FinOps инференса.
Экспертная система + LLM: где логический ИИ спасает там, где статистика не тянет.