Как мы обновляем MLOps инфраструктуру под LLM модели
Проблема - LLM модели в разы тяжелее класических моделей, нашли несколько узких мест.
Переработали инфраструктуру под решение с легким универсальным образом. Расскажем чуть детальнее
Более 3х лет внедряю и развиваю MLOps-платформы в ТОП-10 банках РФ.
Развиваю agile-команды в бурном мире MLOps
Альфабанк, Нижний Новгород
Руководитель центра развития MLOps практики