Databricks

Nền tảng data và AI, AI Gateway. · 1 talks

From Model Selection to Smart Routing: How to Use the Right LLM for Every Task

Viktoria Semaan · Databricks · 30 min

Chọn LLM theo cost per task chứ không theo benchmark: build eval set với MLflow, govern qua AI gateway với budget và traffic split, rồi để smart routing tự chọn model.