Сетевые технологии на службе ML

AI/ML

Тезисы

Короткая вводная в нейронки

  • Как устроена нейронка, актуальное железо NVidia

Параллелизация

  • Что параллелится и как параллелится (DP, TP, PP, EP)
  • Методы синхронизации (scatter, reduce, all-gather итд)

Сеть

  • RDMA, NVLink + NVSwitch, InfiniBand, RoCE

И что нам с этим делать


Аудитория

Руководитель команды / Технический руководитель


Уровень сложности

Средний

Яндекс
Марат Сибгатулин

Ведущий подкаста, прославленный учитель «для самых маленьких» и просто крутой инженер.

Ищите его в докладах про сети в Яндексе, телеграме linkmeup, подкасте «До нас дошло».

Другие спикеры трека AI/ML