Jev giúp Claude Code nhanh và rẻ hơn thế nào

1. Một model mới vừa nhanh vừa rẻ

Jay mở đầu bằng một tin mới: có một AI model mới xuất hiện, đến từ một đồng tác giả (co-inventor) của ChatGPT, và nó rẻ tới mức khó tin, nhanh tới mức khó tin. Model này tên là Jev. Để chứng minh tốc độ, Jay gửi ngay một prompt trước camera và nhấn mạnh rằng những gì người xem thấy là thời gian thật (real-time): Jev trả output về trong chưa tới một giây, với chi phí chỉ bằng một phần nhỏ so với các model khác.

Trên màn hình là một bảng so sánh hai cột, một bên là Jev ("one pass"), một bên là Claude Fable 5.1 ("effort low"). Prompt mẫu yêu cầu phân loại một email của khách hàng: cửa hàng của họ bị lỗi 500 ở trang checkout kể từ lần deploy lúc 9 giờ sáng của một agent đồng bộ đơn hàng, họ bán khoảng 40 nghìn đô mỗi ngày, mỗi đơn lỗi là doanh thu mất, và đây là lần sập thứ ba trong tháng.

Jay hứa video sẽ làm ba việc. Thứ nhất, giải thích Jev một cách đơn giản. Thứ hai, chỉ ra vài cách tốt nhất để tích hợp Jev với các agentic harness bạn đang dùng, ví dụ Claude Code, để setup của bạn nhanh hơn và hệ thống của bạn rẻ hơn. Thứ ba, cho thấy bạn có thể build những thứ mới và tự động hoá những phần trong việc kinh doanh mà trước đây không làm được.

2. Jev là gì: model mới từ một đồng tác giả ChatGPT

Jay nói anh sẽ không đi quá sâu, nhưng về cơ bản Jev là một AI model mới khá thú vị vì người công bố nó là một đồng tác giả của ChatGPT. Người này là Diogo Almeida. Anh ấy đăng một bài trên X mà lúc Jay quay video đã có khoảng 38 triệu lượt xem.

Trong bài đăng, Diogo viết rằng Jev là một kiểu frontier AI model mới, nhanh hơn từ 20 tới 200 lần và rẻ hơn từ 40 tới 400 lần. Dòng thứ ba trong danh sách nói Jev là "frontier composable intelligence" được tối ưu cho các quyết định, và câu kết của bài cho rằng, theo những gì anh thấy, đây là con đường ngắn nhất tới một cuộc cách mạng kinh tế dựa trên AI.

3. Bảng giá: output miễn phí, input 4 cent mỗi triệu token

Jay nói nếu nhìn vào bảng giá (rate card) của model này thì những con số trên đúng là như vậy. Jev rẻ hơn Haiku khoảng 24 lần và rẻ hơn Fable 5.1 khoảng 230 lần. Một phần lớn lý do là output token của Jev, tức câu trả lời mà nó gửi lại cho bạn với tư cách người dùng, luôn miễn phí. Họ chỉ tính tiền input token, về cơ bản là prompt của bạn, và mức giá đó cũng rất rẻ: chỉ khoảng 4 cent cho mỗi triệu token.

Như vậy con số Jay nói bằng lời là "khoảng 230 lần" so với Fable, còn trên bảng vẽ là 238 lần. Mức giá cụ thể trên bảng là 0,042 đô cho mỗi triệu token input, tức khoảng 4 cent.

4. Jev chỉ trả lời theo ba dạng

Một phần lớn lý do khiến Jev nhanh và rẻ như vậy là vì Jev chỉ có thể trả lời theo đúng ba dạng (three shapes). Khi bạn hỏi nó một câu:

• Nhị phân (true / false): nó cho bạn biết một nhận định là đúng hay sai.
• Chọn từ menu (options): nó chọn một lựa chọn trong danh sách các lựa chọn bạn đưa.
• Thang điểm (scale): nó cho một câu trả lời theo thang, ví dụ từ 0 tới 10.

Nghe thì có vẻ đây là một giới hạn lớn của model. Nhưng Jay nhấn mạnh rằng chính giới hạn này là điểm thiên tài, là lý do khiến Jev hiệu quả đến vậy trong các use case mà anh sẽ đi qua ở phần sau.

5. Jev không phải LLM: System 1 và System 2

Trước khi vào các use case, Jay muốn người xem nhớ một điều then chốt: Jev thật ra không phải là một large language model. Cách mà TypeSafe, công ty đứng sau Jev, mô tả chuyện này là: Jev là System 1 model đầu tiên, còn tất cả các AI model khác như Fable, Astra và những model còn lại là cái họ gọi là System 2 model.

Nếu bạn đã đọc cuốn Thinking, Fast and Slow, thì cặp đối lập System 1 và System 2 trong cách con người suy nghĩ có thể đã quen với bạn. Về cơ bản, khác biệt giữa hai hệ là: System 1 là suy nghĩ nhanh và ra quyết định tức thì (snap decision). Jev với tư cách một AI model chỉ tối ưu cho đúng việc đó. Nó chỉ xuất ra các phân loại (classification) và làm việc đó cực kỳ nhanh, cực kỳ rẻ.

Ngược lại, LLM và các model đa năng khác như Fable hay Astra xuất ra text, và chúng làm việc đó bằng cách viết từng chữ một. Cách đó rõ ràng cho chúng nhiều linh hoạt hơn về thứ có thể xuất ra, nhưng đi kèm nhược điểm là các System 2 model suy nghĩ chậm hơn so với bản đối ứng System 1.

Nếu chỉ rút ra một điều từ tất cả phần này, Jay cho rằng cách tốt nhất để dùng Jev lúc này là kết hợp cả hai: một System 1 model như Jev đi cùng một System 2 model như các model Claude. Anh sẽ đưa ra vài use case để bạn bắt đầu và thật sự có giá trị từ Jev ngay hôm nay, nhưng trước hết cần setup để bạn dùng được Jev.

6. Cách lấy Jev và nối vào Claude

Như mọi AI model khác, Jev có mặt trên nhiều nền tảng. Cách hiển nhiên là kết nối trực tiếp tới TypeSafe, công ty làm ra Jev. Theo bài đăng của họ trên X đúng lúc Jay quay video, họ vừa thông báo Jev nay đã mở cho mọi người dùng; trước đó, chỉ vài giờ trước, vẫn còn phải xếp hàng chờ (waitlist) mới được dùng. Bài đăng ghi "Jev is now available to everyone. No waitlist." kèm đường dẫn tới console của TypeSafe. Vào đó, bạn đăng ký và lấy API key để nối Jev vào Claude.

Riêng Jay, khi tự thử nghiệm và trong suốt các use case của video, anh kết nối tới Jev qua một dịch vụ API trung gian cho model, loại dịch vụ luôn được cập nhật các AI model mới nhất ngay khi chúng ra mắt. Trên bảng "how to get JEV" của anh, mọi cửa vào mà anh kiểm tra được đều cùng một giá, và output đều miễn phí.

Để setup Jev với Claude hay bất kỳ agentic harness nào bạn đang dùng, theo Jay thì như thường lệ "chỉ cách một prompt". Anh để prompt khởi đầu trên màn hình để người xem chụp lại. Khung prompt có tiêu đề "Wire Jev into your agent" và dòng giải thích: agent của bạn đọc tài liệu của Jev, giữ key của bạn an toàn, chạy một bài test thật để bạn xem Jev trả lời, rồi lưu tất cả thành một skill tái sử dụng được; sau đó bạn có thể nói "use Jev to sort these" về bất kỳ đống text nào. Nội dung prompt như sau (phần tên dịch vụ trung gian và các đường dẫn của nó được để trong ngoặc vuông):

i want to add a new kind of AI model called Jev to this workspace. Jev doesn't write anything. you hand it some text plus a few questions, and it answers them almost instantly, for almost nothing. it's made for sorting and deciding.
- Jev is brand new, so you won't know it yet. before anything else, read how it works: https://docs.typesafe.ai/llms.txt
- i'll use it through [model API service], where it's called typesafe/jev-1.13. how to call it there: [link to that service's API reference for the decisions route]. it's a brand new route, so follow those docs if anything has moved
- ask me for my [model API service] key (i get one at [that service's keys page]). keep it somewhere safe on my computer, never inside a file i might share, and never show it back to me
- Jev can only answer in 3 shapes: pick one option from a list, give a score on a scale, or say how likely something is true. most answers also come back with how sure it is
- do one real test so i can watch it work. make up a short sales email and ask Jev 3 things: how strong a lead is this, what kind of email is it, and does it need a personal reply. show me its answers, how long it took and what it cost. if the test fails, show me the exact error
- then save what you learned as a reusable skill (or whatever your setup calls a saved instruction), so next time i can say "use Jev to sort these" about any pile of text
the rule from here on: Jev decides, you write. when Jev isn't sure about something, you make the call yourself. anything you send to Jev leaves my computer, so ask me before sending anything private.

Nếu muốn có đủ các prompt và hướng dẫn setup cho mọi thứ trong bài này, Jay có làm một bản PDF guide "Jev + Claude: the setup guide" phát miễn phí, và bạn có thể gửi thẳng nó cho agent để lấy hết những "nugget" hay trong video. Khi đã setup xong và Claude xác nhận rằng bạn truy cập được Jev, như cảnh Jay hỏi Claude "do u have access to Jev?" và Claude trả lời "Yes, I can reach Jev": đã setup xong nhưng đang tắt, hook đã được nối (file .claude/settings.json chạy script router với mỗi tin nhắn), key đã có, và sáng hôm đó nó đã chạy thử hai quyết định, thì bạn có thể bắt đầu dùng thật.

7. Ba cấp độ dùng Jev

Jay chia phần còn lại thành ba cấp độ (three levels) dùng Jev.

Video có một đoạn quảng cáo cho cộng đồng trả phí của chính kênh, nơi có khoá học về Claude và về cách bán hệ thống AI cho doanh nghiệp.

Quay lại nội dung chính, cấp độ đầu tiên là tích hợp Jev vào agentic operating system của chính bạn, tức về cơ bản là cách bạn làm việc với các agent của mình, để có kết quả nhanh hơn và hệ thống rẻ hơn, nghĩa là bớt đốt token. Jay nói thêm: vì cách mỗi người dùng agent khác nhau tuỳ vào công việc, anh chắc rằng bạn sẽ tìm ra những cách dùng Jev ngoài những gì anh nói. Nhưng để có một hình dung, đây là hai use case anh đang thử với model này.

8. Cấp 1, ý thứ nhất: để Jev làm model routing

Use case đầu tiên là model routing, về cơ bản là để Jev tự động chọn model tuỳ theo nhiệm vụ bạn giao cho Claude. Chuyện này quan trọng vì, như Jay nhắc, dùng Fable mọi lúc là không thực tế: trong tất cả các model, Fable đắt nhất. Opus cũng vậy: nếu lúc nào cũng mặc định Opus, bạn có thể tiêu khá nhiều hạn mức sử dụng (usage). Với rất nhiều việc, Sonnet và Haiku, những model rẻ hơn, thật ra đã đủ.

Vấn đề là chuyện chuyển qua lại giữa các model và quyết định model nào hợp với từng việc thường nằm ở bạn, người dùng. Theo Jay, cho tới khi có Jev thì chưa có cách nào vừa nhanh vừa rẻ để tự động hoá model routing. Để setup, bạn có thể dùng prompt sau để bắt đầu. Khung prompt có tiêu đề "Send small jobs to a smaller model" và dòng mô tả: tạo một helper agent cho mỗi cỡ model, cộng một công tắc bật tắt có kiểm tra trạng thái; nó không bao giờ chặn tin nhắn và tự đứng ngoài nếu Jev chậm.

build me a model router that uses Jev. the idea: Jev sizes up every message i send, and small jobs go to a smaller, cheaper AI model instead of the biggest one. Jev is already set up in this workspace.
- for each message, ask Jev one question: what's the smallest model that can do this job well? give it 4 sizes to pick from: tiny (a lookup, a rename, a one-line answer), everyday (a normal email, post or short document), large (a multi-step build, research, a full report) and hardest (strategy, or anything where a wrong call is expensive)
- match each size to a model i actually have, smallest to biggest, and make one helper agent per size that runs on that model. if i have fewer models than sizes, use fewer sizes. each helper ends its reply with one line saying which model did the work
- when Jev is sure, hand the job to the matching helper and pass the result back to me. when Jev is less than 60% sure, or my message is a short reply that only makes sense inside our conversation, handle it yourself
- it must never slow me down or block a message. if Jev is slow, or anything at all goes wrong, carry on as if the router wasn't there
- give me a simple on and off switch, plus a status check that shows how many messages went to each size and what Jev has cost so far. keep it OFF until i turn it on
- be honest with me: if your setup can't switch models per message, say so, and build the closest thing that works
- test it for real with 8 sample messages, from tiny to hardest, plus 2 short replies like "yes do that but make it shorter". show me a table of what Jev picked and how sure it was
leave it OFF when you're done and tell me the exact words to turn it on. remind me that while it's on, my messages pass through [model API service] to the company that makes Jev, so it stays off for private work.

Rồi Jay cho xem một bản demo trực quan của bài test anh dựng. Anh nhờ Claude so sánh khoảng 12 prompt, một lượt chạy có Jev định tuyến và một lượt chạy Fable 5 cho mọi prompt. Theo lời Jay, nhờ Jev định tuyến đúng model theo từng việc, kết quả là tiết kiệm 70%, vì chín trên mười hai việc vốn không bao giờ cần tới model mạnh nhất.

Jay thấy kết quả này khá hữu ích, nhưng rõ ràng bạn phải tự thử với đúng loại công việc của mình, để xem output vẫn đủ tốt hay không so với lượng token tiết kiệm được. Dù vậy, theo anh, thật tuyệt khi giờ đã có một lớp AI model mới có thể làm những quyết định kiểu này thay chúng ta.

9. Lệnh /jev on và một helper chạy Haiku

Trong thực tế, nếu bạn thử routing này, Jay khuyên nên làm trước một skill command để bật hoặc tắt Jev. Ví dụ, trong một session Claude, anh gõ /jev on. Từ đó, suốt cả session, mỗi khi anh giao một việc, Claude sẽ dùng Jev để tìm model phù hợp cho việc đó.

Một ví dụ: anh yêu cầu Claude tìm đường dẫn file nơi script Jev router nằm. Với việc này, Jev giao cho một Haiku helper, model rẻ nhất, đi tìm đường dẫn đó, cách dùng token hiệu quả hơn hẳn. Bởi nếu không có Jev định tuyến sang Haiku, thì việc này đã chạy bằng Opus 5, model mặc định Jay đang dùng cho session đó.

10. Cấp 1, ý thứ hai: Jev chọn đúng skill

Use case thứ hai là làm cho Claude hiệu quả hơn khi tìm đúng skill. Một lần nữa, Jay cho xem bản demo trực quan của một bài test anh đã chạy, trên màn hình có tên "Jev picks the SKILL": một khung chat, Jev ở giữa, và một kệ sách tượng trưng cho kho skill.

Về cơ bản, bài test gồm 14 lần thử: mỗi lần gửi một prompt và yêu cầu tìm một skill cụ thể trong workspace của anh. Kết quả cho thấy Jev mất ít thời gian hơn nhiều để tìm đúng skill so với việc mặc định dùng một model như Opus 5. Tổng cộng cho 14 lần thử, Jev tìm ra đúng skill trong vòng năm giây, còn Opus 5 mất khoảng 30 giây.

Còn cách Jev được dùng trong use case này: về cơ bản, input là việc bạn đang muốn làm. Jev nhìn vào đó, và các lựa chọn để nó chọn chính là các skill của bạn. Riêng Jay có khoảng 145 skill trong workspace. Vì Jev rất nhanh, nó gần như ngay lập tức trả ra đúng skill trong danh sách đó, rồi Claude chỉ việc load skill ấy.

Định dạng danh sách lựa chọn trên màn hình trông như sau:

newsletter = <the first 220 characters of its description>
excalidraw = <the first 220 characters of its description>
last30days = <the first 220 characters of its description>
post = <the first 220 characters of its description>
... 141 more, one line each

Nếu muốn tự thử, theo Jay, bạn chỉ cần copy prompt anh đưa và gửi cho agent của mình.

11. Cấp 2: automation nhanh như chớp cho việc kinh doanh

Vượt qua cấp 1, tức có hệ thống nhanh hơn và rẻ hơn cho chính bạn, cấp 2 là cách dùng Jev cho các use case kinh doanh. Với Jev, bạn có thể làm những automation chạy gần như với tốc độ tia chớp mà không tốn nhiều như các AI model khác.

Jay dựng một demo: giả sử bạn có 100 email, và automation bạn đang build cần trả lời một câu hỏi kinh doanh. Trong ví dụ này, câu hỏi là email nào thật sự là lead có thể liên hệ. Nhưng rõ ràng có thể là câu hỏi khác: nếu đó là ticket hỗ trợ khách hàng, bạn có thể phân loại (triage) ticket nào cần hỗ trợ nhiều nhất.

Trong demo, Jev làm phân loại ở một cột, và Jay cũng cho Haiku và Fable chạy song song để thấy khác biệt về tốc độ và chi phí giữa các model. Khi bấm Run, các cột sẽ hiện thời gian mỗi model cần để phân loại hết số email. Kết quả: Jev gần như không tốn thời gian. Trong chưa đầy một giây, nó phân loại xong toàn bộ, email nào là lead ấm (warm), email nào không phải lead, email nào là lead nguội (cold), nhanh hơn và rẻ hơn nhiều so với hai model kia.

Vì vậy, với business automation, đó là chỗ Jev thật sự toả sáng. Nếu bạn có một khối lượng lớn thứ gì đó và có một câu hỏi kinh doanh gắn với những thứ đó, thì đó là ứng viên tốt để dùng Jev.

Ví dụ, trong mảng doanh nghiệp lớn (enterprise), cả một ngành tồn tại xoay quanh việc phát hiện gian lận hoá đơn. Phần mềm phát hiện spam cũng là một use case tốt. Kiểm duyệt cộng đồng (community moderation) là một ví dụ khác. Tương tự với những lượng lớn yêu cầu hoàn tiền, và cả việc phân loại khách hàng xem họ có sắp rời bỏ (churn) hay không, nếu bạn đang chạy một doanh nghiệp phần mềm thuê bao chẳng hạn.

Đó là khuôn mẫu Jay muốn bạn nghĩ tới trong công ty hay việc kinh doanh của mình: những thứ nào bạn đang nhận với số lượng lớn mà cần phân loại? Nếu đưa Jev vào đó, vì nó quá nhanh và quá rẻ, bạn có thể nâng cấp các automation của mình chỉ bằng vài prompt.

12. Cấp 3: app tìm ảnh theo nghĩa

Cuối cùng là cấp 3: build những app mà giờ mới trở nên khả thi và hợp lý về chi phí nhờ các System 1 model như Jev. Jay nói điều này cũng khác nhau tuỳ người, nhưng để có hình dung, anh kể thứ anh dùng ngay lập tức. Trong công việc của anh, như bạn có thể đoán, anh tạo rất nhiều ảnh và video, và anh để tất cả trong OS của mình, tên là Rubric.

Vì có hàng trăm ảnh trong đó, anh thường phải tìm những ảnh cụ thể. Nếu gõ "Claude" vào ô tìm kiếm, tiếc là kết quả chỉ là những ảnh có tên file chứa chữ Claude, kiểu Ctrl-F thông thường. Nhưng khi tích hợp Jev vào phần tìm ảnh, như trong bản demo đặt hai cách tìm cạnh nhau, gõ "Claude" thì cách tìm theo tên file chỉ ra vài kết quả, còn cách tìm có Jev cho phép tìm ảnh và video theo nghĩa thay vì chỉ theo tên file.

Vì vậy, nếu bạn có một ứng dụng mà người dùng cần tìm kiếm nhiều, Jay gợi ý thử Jev để xem nó có cải thiện trải nghiệm người dùng cho app của bạn không.

13. Unclutter và lời kết

Một ứng dụng khác chạy bằng Jev mà Jay tìm thấy là của Kitze, người làm ra app tên Unclutter. Về cơ bản đây là một Chrome extension: mỗi khi bạn bật nó lên, nó tự dọn trang web, gỡ mọi phần tử bị xếp vào loại "slop". Thứ làm việc phân loại đó, nằm bên dưới, chính là Jev. Nó nhìn toàn bộ các phần tử trên trang, ra quyết định nhanh xem đâu là quảng cáo, đâu là banner cookie, rồi xoá hết khi công tắc được bật.

Jay tóm lại: đó là Jev là gì, cùng vài use case và ý tưởng để bạn tận dụng mô hình mới này trong cách các AI model được tạo ra và được dùng. Anh hy vọng video hữu ích, cảm ơn người xem đã theo tới cuối, và tò mò muốn biết: bạn sẽ dùng Jev vào việc gì? Anh mời mọi người để lại bình luận bên dưới và hẹn gặp lại.