From Model Selection to Smart Routing: How to Use the Right LLM for Every Task
Viktoria Semaan · Databricks · 30 min
Chọn LLM theo cost per task chứ không theo benchmark: build eval set với MLflow, govern qua AI gateway với budget và traffic split, rồi để smart routing tự chọn model.
