[CodeFest Russia] Валентин Мамедов. Куда катится железо для нейронок?
Тезисы Модели растут, требования к вычислениям — тоже. Пора разобраться, куда движется рынок AI-железа и что нас ждет дальше. GPU vs ASIC: сравним плюсы и минусы NVIDIA и специализированных чипов вроде TPU и Trainium. Почему GPU так популярны и в чём их ограничения. Где ASIC выигрывают, и смогут ли они всерьёз конкурировать с NVIDIA. Как может развиваться рынок: удержит ли NVIDIA лидерство или будет смещение в сторону специализированных решений. Что помогает снижать нагрузку на железо: разреженные модели, квантование и алгоритмическую оптимизацию. Если работаете с ML/AI — будет интересно. Аудитория Data-scientist, ML-engineer, engineers. Уровень сложности Middle. Сайт – https://codefest.ru Презентация – https://disk.yandex.ru/i/WcJaamvirVAXmA