Từ chọn model tới smart routing: dùng đúng LLM cho từng task
Viktoria Semaan · Databricks · 30 min
Chọn LLM theo cost per task chứ không theo benchmark: build eval set với MLflow, govern qua AI gateway với budget và traffic split, rồi để smart routing tự chọn model.
