# Đọc hiểu tên model AI: số B, đuôi A, chữ Q

[Thanh Trần](https://homus.dev/speakers/thanh-tran) · [Thanh Trần - 5 Phút AI](https://homus.dev/orgs/thanh-tran-5-phut-ai)

> Bóc tên model AI ra ba phần (số B, đuôi A, chữ Q) để biết máy có chạy nổi không, kèm số đo thật ba hạng model trong LM Studio.

Topics: Model Routing, Dev Tools

Canonical: https://homus.dev/talks/doc-hieu-ten-model-ai-trong-5-phut-khoa-hoc-local-ai-asus-tuf-gaming-a14-3

## 1. Cái tên nói ba chuyện, và chuyện thứ tư

Video có sự đồng hành của ASUS.

Thanh Trần mở đầu ngay trong phần mềm LM Studio, ở trang tìm model. Trên đó có hàng nghìn con AI mà người xem có thể tải về, và tên con nào cũng lòng vòng, chữ với số lẫn lộn. Anh giới thiệu mình là Thanh Trần, founder kênh 5 Phút AI. Đây là tập 3 của khoá Local AI, và cũng như hai tập trước, mọi thứ đều chạy trên chiếc ASUS TUF Gaming A14 đặt trước mặt anh.

Lời hứa của tập này rất cụ thể: hết video, người xem chỉ cần nhìn tên một model là biết được ba chuyện. Một là nó to cỡ nào. Hai là nó chiếm bao nhiêu bộ nhớ. Ba là máy của mình có mở nổi nó hay không. Ngoài ba chuyện đó còn có một chuyện thứ tư mà cái tên sẽ không bao giờ nói cho bạn biết. Anh để dành chuyện thứ tư này cho phần chạy thử, để người xem được thấy tận mắt.

![Thẻ tiêu đề Cái tên nói ba chuyện bên cạnh Thanh Trần](https://homus.dev/photos/i5Kh6cpaJkA-0016.jpg)

Thẻ mở đầu "Đọc được tên là biết: Cái tên nói ba chuyện", tức là kích cỡ của model, dung lượng bộ nhớ nó chiếm, và máy bạn có mở nổi nó không.

## 2. Chuyện thật ở tập 2: tải 40 GB rồi ngồi chờ

Để giải thích vì sao phải học đọc tên, anh kể lại chuyện của chính mình ở tập 2. Lúc đó anh muốn đẩy chiếc máy này lên tới giới hạn. Anh mở danh sách model ra và chọn đúng theo cách mà anh nghĩ đa số người xem cũng sẽ chọn: lấy con có con số to nhất, 70 tỷ tham số. Nghe con số thôi đã thấy "ngon" rồi.

Kết quả là tải về mất mấy tiếng đồng hồ. File của nó gần 40 GB. Nạp vào máy mất hơn 70 giây, tức là ngồi nhìn thanh tiến trình chạy hơn một phút. Rồi tới lúc thử cho nó trả lời, tốc độ chỉ có 2,25 token mỗi giây (số đo của anh trong video đăng ngày 26/09/2026).

Anh nhắc lại cái mốc của tập 1: một người đọc bình thường đọc ở tốc độ khoảng 5 đến 8 token một giây. Nghĩa là con AI này viết ra còn chậm hơn tốc độ bạn đọc, và bạn phải ngồi đợi từng chữ một. Mất mấy tiếng tải về để nhận lại đúng cái đó.

![LM Studio hiển thị câu trả lời của meta/llama-3.3-70b với tốc độ 2.25 tok/sec](https://homus.dev/photos/i5Kh6cpaJkA-0103.jpg)

Câu trả lời của con 70 tỷ tham số meta/llama-3.3-70b trong LM Studio. Dòng thống kê dưới câu trả lời ghi 2.25 tok/sec, 161 tokens, 4.06s và lý do dừng "EOS Token Found": chữ ra chậm hơn tốc độ một người đọc.

Cái buồn cười, theo anh, nằm ở chỗ này. Ngay trong cùng buổi đo hôm ấy có một con nặng 20 GB chạy tới 62 token mỗi giây, nhanh gấp gần 30 lần con kia. Nó nằm sẵn trong danh sách ngay trước mắt anh, nhưng lúc đầu anh lại không chọn. Và việc chọn nhầm này không phải do máy yếu. Bản chất là vì chúng ta chưa biết cách đọc tên.

Anh thừa nhận lúc đầu mình cũng nghĩ như đa số mọi người: con số nào to hơn thì chắc là khôn hơn, chắc là ngon hơn. Nhưng con số đo thật đã dạy lại anh một bài học. Và cái giá phải trả không chỉ là mấy tiếng đồng hồ tải về. Tải xong, ổ cứng của bạn mất hơn 40 GB. Mỗi lần muốn thử lại thì lại mất hơn một phút để nạp nó vào. Thử hai ba lần là hết cả buổi tối mà chẳng làm được việc gì.

Tập này sẽ chỉ cách đọc tên. Đọc được rồi thì mấy tiếng tải về kiểu đó không cần mất nữa. Quan trọng hơn, bạn biết trước máy của mình chạy được tới đâu, nên không còn phải ngồi đoán.

## 3. Hết video này bạn làm được bốn việc

Anh liệt kê bốn việc người xem làm được sau tập này.

**Một**, nhìn tên một model bất kỳ và bóc nó ra thành từng phần có ý nghĩa.

**Hai**, hiểu vì sao file nặng không có nghĩa là chạy chậm. Điều này ngược với trực giác, và theo anh đó cũng chính là lý do anh chọn nhầm ở tập 2.

**Ba**, tự đối chiếu với máy của mình, biết con model nào mở nổi hay không trước khi tải, chứ không phải tải về rồi mới biết.

**Bốn**, và rất quan trọng: biết việc nào nên giao cho con nhỏ, việc nào nên nhờ con lớn.

Trong lúc chạy thử, người xem sẽ thấy thêm một thứ mà cái tên không hề nhắc tới. Anh hẹn tới lúc đó sẽ nói rõ, rồi bắt đầu vào bài.

## 4. Chiếc máy chạy cả khoá có gì

Trước khi vào bài, anh nói nhanh về chiếc máy đang chạy mọi thứ người xem sắp thấy. Con chip bên trong có tên đầy đủ là AMD Ryzen AI Max+ 392. Trong một con chip đó có ba thứ cùng làm việc. Phần CPU lo việc chung, với 12 nhân 24 luồng. Phần đồ hoạ là AMD Radeon 8060S, nằm luôn trong chip chứ không phải card rời gắn thêm. Phần thứ ba là NPU, phần chuyên chạy AI, đạt tới 50 TOPS. Đi kèm là 64 GB bộ nhớ hợp nhất, thứ mà tập 2 đã nói rất kỹ (cấu hình theo video đăng ngày 26/09/2026). Trên màn hình lúc này là cận cảnh miếng tem dán trên máy.

Ba phần cùng làm việc trong một con chip, dùng chung 64 GB bộ nhớ hợp nhất. Bộ nhớ là thứ quyết định bạn với tới được hạng model nào.

Vì sao lại nhắc cấu hình trong tập này? Vì cả bài hôm nay là chuyện chọn model cho vừa máy chạy, và thứ quyết định bạn chọn được tới đâu chính là bộ nhớ. Chiếc máy này cho phép anh chạy được cả ba hạng cân để đưa ra cho người xem xem và so sánh. Một chiếc máy bộ nhớ nhỏ chỉ với tới được hạng nhẹ nhất, và như vậy thì không có gì để so cả.

## 5. Số B: độ dày chồng sách

Phần thứ nhất của cái tên là chỗ có chữ B, và đây là phần dễ nhất. 7B nghĩa là 7 tỷ tham số, 8B là 8 tỷ, 70B là 70 tỷ.

Vậy tham số là gì? Con số nghe thì to vậy thôi, nhưng ý nghĩa rất đơn giản. Anh bảo cứ hình dung nó là số trang của một quyển sách. Sách càng dày thì chứa được càng nhiều thứ, nhưng bày lên bàn thì lại càng chiếm chỗ.

Anh nhắc lại ví dụ cái bàn học ở tập 1: model chính là chồng sách mà bạn phải bày hết lên bàn thì mới dùng được, còn bàn chính là bộ nhớ. Số B là độ dày của chồng sách đó. Nên quy tắc thứ nhất rất thực tế: số B càng to thì model càng chiếm bộ nhớ. Điều này chắc chắn đúng, không có ngoại lệ.

## 6. Đuôi A: to để chứa, nhỏ để chạy

Tới đây thì dễ rồi, nhưng anh thêm một chi tiết mà theo anh là chi tiết quan trọng nhất của tập. Anh đưa ra cái tên Qwen3.6 35B A3B.

Con số đầu thì người xem đã biết: 35 tỷ tham số. Còn cái đuôi A3B nghĩa là gì? Nó nghĩa như thế này: cuốn sách dày 35 tỷ, nhưng mỗi lần bạn hỏi một câu, nó chỉ mở ra đúng 3 tỷ để dùng thôi. Phần còn lại nằm im trên bàn.

Anh hỏi người xem có thấy chuyện gì vừa xảy ra không. Chỗ nó chiếm trên bàn vẫn là 35 tỷ, tức là bạn vẫn cần một cái bàn đủ rộng. Nhưng tốc độ nó chạy lại gần như tốc độ của một con chỉ có 3 tỷ. Nó to để chứa, nhưng nhỏ để chạy.

![Bảng so sánh Qwen3 VL 8B và Qwen3.6 35B A3B](https://homus.dev/photos/i5Kh6cpaJkA-0423.jpg)

Thẻ "Đuôi A nghĩa là gì: Cùng lên bàn, khác chỗ mở ra". Qwen3 VL 8B: 8 tỷ tham số, mỗi lượt dùng cả 8 tỷ, chiếm 5,76 GB, tốc độ 45,55 tok/s. Qwen3.6 35B A3B: 35 tỷ tham số, mỗi lượt chỉ dùng 3 tỷ, chiếm 20,55 GB, tốc độ 70,40 tok/s. Dòng chú thích ghi số đo trên ASUS TUF Gaming A14 ở mức 16G nhà máy, cùng một câu hỏi, mỗi con 3 lần, số do LM Studio tự báo, ngày 11/09/2026.

Đó chính là câu trả lời cho điều anh đã hứa ở cuối tập 2: vì sao trong bảng hôm đó, con 20 GB lại chạy nhanh hơn con 6 GB. Vì con to có đuôi A, còn con nhỏ thì không. Người ta có một cái tên kỹ thuật cho loại này, gọi là MoE (Mixture of Experts). Ai muốn hiểu thêm thì tra riêng từ đó. Còn trong video này, từ giờ anh gọi nó là "loại chỉ dùng một phần" cho dễ nhớ.

Quy tắc thứ hai: thấy chữ A kèm một con số nhỏ hơn trong tên, đó là loại chỉ dùng một phần. Nặng như con to, chạy nhanh như con nhỏ.

Anh nói thêm một câu cho công bằng: loại chỉ dùng một phần không phải lúc nào cũng hơn. Nó đòi bạn có bộ nhớ rộng, vì cả quyển sách vẫn phải nằm trên bàn. Đôi khi với máy nhỏ, một con 8 tỷ lại phù hợp hơn, vừa vặn hơn.

## 7. Chữ Q: mức nén, giống nén ảnh điện thoại

Phần thứ hai của cái tên là chỗ có chữ Q. Bạn sẽ thấy Q4, Q8, rồi Q4_K_M, đủ kiểu. Lúc đầu nhìn thì rối mắt, nhưng ý nghĩa rất đơn giản. Q là viết tắt của quantization, tức là nén: nén model lại cho nó nhẹ bớt để vừa với bộ nhớ của bạn.

Ví dụ ngoài đời thì chắc ai cũng quen. Tấm ảnh bạn vừa chụp bằng điện thoại nặng mấy chục MB. Gửi qua tin nhắn cho bạn bè thì nó chỉ còn vài trăm KB. Nhìn vẫn ra mặt người, vẫn dùng được, nhưng nhẹ hơn hàng chục lần. Phải zoom thật to thì mới thấy nhoè.

Nén model cũng y như vậy. Số càng nhỏ thì nén càng mạnh, file càng nhẹ, nhưng chất lượng trả lời sẽ bị hụt đi một chút. Q8 là nén nhẹ: file nặng hơn, chất lượng gần như giữ nguyên. Q4 là nén mạnh hơn: file nhẹ đi khoảng một nửa, nhưng chất lượng chỉ hụt một chút, và với đa số tác vụ thì bạn sẽ không nhận ra.

![Thẻ Q8 và Q4 khác nhau ở đâu](https://homus.dev/photos/i5Kh6cpaJkA-0543.jpg)

Thẻ "Số càng nhỏ, nén càng mạnh: Q8 và Q4 khác nhau ở đâu": Q8 nén nhẹ, file nặng hơn, chất lượng giữ gần như nguyên; Q4 nén mạnh, file nhẹ đi khoảng một nửa; hụt một chút mà đa số việc bạn sẽ không nhận ra; anh dùng bản Q4 cho gần hết khoá này.

Anh dùng bản Q4 cho gần hết khoá này. Không phải vì tiếc bộ nhớ, mà vì với việc học tập hằng ngày, Q4 là kiểu đổi hợp lý nhất: nhẹ đi hẳn một nửa, còn phần mất đi thì bạn gần như không thể nhận ra.

## 8. Cái đuôi Q4_K_M và các kiểu nén khác

Còn cái đuôi dài ngoằng phía sau, kiểu như Q4_K_M, thì đọc thế này. Q4 là mức nén. Chữ K là cách nén. Còn chữ cuối là cỡ trong cùng một mức nén: bạn sẽ thấy S, M, L, tức là nhỏ, vừa, lớn. Ví dụ cùng là Q4, bản L sẽ nặng hơn bản S một chút và giữ chất lượng tốt hơn một chút.

Cái đuôi Q4_K_M gồm ba mẩu: Q4 là mức nén, K là cách nén, M là cỡ vừa trong cùng mức nén đó. Không biết chọn gì thì chọn chữ M.

Người xem không cần học thuộc mấy chữ đó, chỉ cần nhớ một câu: thấy chữ M ở cuối thì đó là bản vừa, và bản vừa luôn là lựa chọn phù hợp với cài đặt mặc định. Không biết chọn gì thì cứ chọn chữ M.

Anh chỉ cách tự xem ngay trên máy. Anh bấm thử vào một con model ở trang tải của LM Studio (trên màn hình là trang của qwen/qwen3.8-27b, mục Download Options ghi bản GGUF Q4_K_M nặng 17.74 GB, kèm nhãn xanh "Full GPU Offload Possible"). Cùng một con model, phần mềm liệt kê ra một loạt bản nén khác nhau, mỗi bản một dung lượng. Nhìn cột bên phải là thấy chênh nhau rõ. Để ý thêm: phần mềm đã đánh dấu sẵn bản nào hợp với máy của bạn. Máy mạnh thì nó gợi ý bản nặng hơn, máy yếu thì gợi ý bản nhẹ. Cứ theo gợi ý mà chọn thì gần như sẽ không sai.

Từ đó ra quy tắc thứ ba: cùng một tên model, chữ Q quyết định file nặng bao nhiêu. Bản nào vừa với máy bạn thì chọn bản đó.

Còn hai cái đuôi nữa chắc chắn bạn sẽ gặp, anh kể luôn cho đủ. Có con ghi QAT, có con ghi MXFP4. Đó cũng là các kiểu nén khác, do chính người làm ra model chọn chứ không phải người dùng chọn. Bạn không cần nhớ chúng khác nhau ở đâu, chỉ cần biết: thấy những chữ đó là model đã được nén rồi, và con số dung lượng bạn nhìn thấy là con số sau khi nén.

## 9. Context length: trí nhớ ngắn hạn

Phần thứ ba không nằm trong tên, nhưng bạn sẽ gặp nó ngay lúc nạp model, nên anh nói luôn. Nó tên là context length. Nói nôm na, đó là lượng chữ mà con AI nhớ được trong cùng một cuộc trò chuyện.

Hãy hình dung nó như trí nhớ ngắn hạn. Bạn hỏi qua hỏi lại mười câu, tới câu thứ mười liệu nó còn nhớ câu đầu không? Câu trả lời nằm ở con số này.

Và đây là chỗ nó dính tới bài hôm nay. Anh kéo thanh context length lên, tức là cho nó nhớ nhiều hơn, thì bộ nhớ nó chiếm cũng tăng theo. Vẫn không có bữa trưa nào miễn phí, y hệt cái vạch chia bộ nhớ ở tập 2. Hôm nay bạn chỉ cần biết nó nằm ở đó và nó ăn bộ nhớ. Tới tập sau, khi anh đưa nguyên một quyển giáo trình cho AI đọc, cái thanh này sẽ trở thành chuyện sống còn, và lúc đó anh sẽ quay lại nói kỹ hơn.

Trên màn hình, thẻ "Hôm nay nhớ chừng này thôi: Kéo lên thì ăn thêm bộ nhớ" tóm lại bốn ý: vẫn không có bữa trưa miễn phí; y hệt cái vạch chia ở tập 2; tập sau đưa nguyên quyển giáo trình cho AI đọc; lúc đó thanh này thành chuyện sống còn.

## 10. Đọc tên sáu con model trên máy

Tiếp theo anh mở danh sách model đang có trên máy, mục My Models của LM Studio, và đọc tên từng con. Người xem có thể làm theo trên máy của mình. Phía dưới danh sách ghi máy anh có 6 model, chiếm 105.67 GB ổ đĩa.

Trước khi đọc, anh nói thêm một câu về cách đọc tên. Mấy cái tên này không phải người ta cố tình làm khó bạn. Nó ghép lại từ những thông tin cần thiết: ai làm ra, đời thứ mấy, to cỡ nào, nén kiểu gì. Ghép hết vào một dòng thì trông rối, nhưng tách ra thì phần nào cũng có ý nghĩa. Giống như biển số xe: lúc đầu nhìn thì rối, nhưng biết đọc rồi thì đọc ngay ra tỉnh nào, vùng nào.

**Con thứ nhất: qwen/qwen3-vl-8b.** Phần đầu là nhà làm ra nó, Qwen. Phần giữa là tên đời, qwen3-vl; chữ VL nghĩa là nó nhìn được ảnh, tập sau sẽ dùng tới. 8B là 8 tỷ tham số, và vì không có chữ A nào nên mỗi lượt nó dùng hết cả 8 tỷ. Máy ghi 5,76 GB. Đây là con anh đã hướng dẫn chạy ở tập 1.

![Danh sách My Models trong LM Studio với dòng qwen/qwen3-vl-8b được làm nổi bật](https://homus.dev/photos/i5Kh6cpaJkA-0843.jpg)

Mục My Models với sáu model: cột Params ghi 8B, 20B, 70B, 35B-A3B, 26B-A4B và 12B. Dòng qwen/qwen3-vl-8b được làm nổi bật, khung chú thích "Con thứ nhất" ghi 5,76 GB: qwen là nhà làm ra nó, qwen3-vl là tên đời và VL nghĩa là nhìn được ảnh, 8b là 8 tỷ, không có chữ A nên mỗi lượt dùng hết. Khung thông tin bên phải ghi file Qwen3-VL-8B-Instruct-Q4_K_M.gguf, quantization Q4_K_M.

**Con thứ hai: google/gemma-4-12b-qat.** Đuôi QAT là một kiểu nén vừa nói lúc nãy. Ở đây cũng không có chữ A, nên nó dùng hết cả 12 tỷ mỗi lượt. Dung lượng 7,15 GB.

**Con thứ ba: openai/gpt-oss-20b.** 20 tỷ tham số mà file chỉ có 12 GB, nhẹ hơn cái tỷ lệ chúng ta vừa quen. Lý do là nó dùng một kiểu nén rất mạnh tên là MXFP4.

**Con thứ tư: google/gemma-4-26b-a4b-qat.** "Đây rồi", anh nói: 26 tỷ tham số nhưng có đuôi A4B, tức là mỗi lượt chỉ dùng 4 tỷ. Đây là loại chỉ dùng một phần, nặng 15 GB.

**Con thứ năm: qwen/qwen3.6-35b-a3b.** 35 tỷ, mỗi lượt dùng 3 tỷ, cũng là loại chỉ dùng một phần, nặng 20,55 GB. Anh báo trước lát nữa sẽ chạy thử con này, và nghĩ nó sẽ làm người xem ngạc nhiên.

**Con thứ sáu: meta/llama-3.3-70b.** 70 tỷ tham số, không có chữ A, tức là dùng hết cả 70 tỷ mỗi lượt, nặng 39,6 GB. Đây chính là con anh chọn nhầm ở tập 2.

Vậy là sáu cái tên, mỗi tên ba phần: nhà làm ra, số tham số, và cái đuôi. Giờ nhìn lại cả sáu con một lượt: hai con có chữ A, bốn con không. Hai con có chữ A đều là con to, và lát nữa bạn sẽ thấy chúng chạy nhanh. Còn con to nhất, 70 tỷ, thì không có chữ A.

Qua phần vừa rồi, chỉ cần nhìn bảng này là bạn đã đoán được kết quả trước khi bấm chạy. Nếu chỉ xem tập 2 thì chắc chắn bạn chưa đoán được. Anh thú thật chính anh cũng vậy, nên lúc đầu mới mất mấy tiếng tải nhầm. Thẻ trên màn hình lúc này ghi: "Tới đây: Nhìn bảng này là đoán được kết quả. Đoán được trước khi bấm chạy. Chỉ xem tập 2 thì chưa đoán được."

## 11. Chạy thử con nhỏ: Qwen3 VL 8B

Lý thuyết vậy đủ rồi, giờ anh chạy thật. Anh lấy ba con đại diện cho ba hạng. Con nhỏ là con 8 tỷ dùng ở tập 1. Con trung bình là con 12 tỷ của Google. Con lớn là con 35 tỷ thuộc loại chỉ dùng một phần. Cả ba dùng cùng một câu hỏi, trên cùng chiếc máy này, và máy để nguyên mức nhà máy là 16 GB bộ nhớ đồ hoạ, đúng như lời khuyên anh đưa ra ở cuối tập 2.

Câu hỏi anh để nguyên văn trên màn hình cho người xem chép theo:

```
Giải thích trong đúng 3 câu, viết liền thành một đoạn văn, không gạch đầu dòng, không đánh số, không dùng biểu tượng cảm xúc: vì sao chạy AI trên máy cá nhân lại cần nhiều bộ nhớ?
```

Anh giải thích vì sao dặn thêm là viết liền một đoạn, đừng gạch đầu dòng, đừng chèn biểu tượng cảm xúc: để ba câu trả lời có cùng một khuôn, cho chúng ta dễ so sánh và so cho công bằng.

![Câu hỏi chung gửi cho qwen/qwen3-vl-8b trong LM Studio và câu trả lời](https://homus.dev/photos/i5Kh6cpaJkA-1043.jpg)

Câu hỏi chung cho cả ba con trong khung chat LM Studio, và câu trả lời của qwen/qwen3-vl-8b: chạy AI trên máy cá nhân cần nhiều bộ nhớ vì model thường lớn, phải lưu tạm dữ liệu đầu vào, trọng số và trạng thái xử lý; RAM không đủ thì hệ thống chạy chậm hoặc không xử lý được.

Con thứ nhất, 8 tỷ, nạp mất 5,5 giây. Anh gửi câu hỏi, và chữ gần như hiện ra ngay: 2,7 giây sau khi gửi. Tốc độ 45,55 token mỗi giây, nhanh hơn tốc độ đọc của người xem khoảng 6 lần, tức là chữ chạy nhanh hơn mắt bạn theo kịp. Câu trả lời đúng, gọn, dùng được. Đọc vào thấy nó nói về tham số phải nạp và bộ nhớ, khớp đúng với ví dụ chồng sách của anh.

## 12. Con hạng trung Gemma 4 12B và chuyện thứ tư

Con thứ hai là Gemma 12 tỷ với file 7,15 GB, chỉ nặng hơn con vừa rồi khoảng 1,4 GB. Theo lẽ thường thì nó sẽ chạy chậm hơn một chút, nhưng không khác gì nhiều, đúng không? Nạp mất 7 giây. Anh gửi đúng câu hỏi đó.

Và đây là thứ anh hứa để dành từ đầu video. Anh bảo người xem nhìn màn hình giúp mình: chữ đang chạy đấy, nhưng đó không phải câu trả lời, mà là nó đang nghĩ. Anh để im một lúc cho người xem đọc thử mấy dòng đang chạy. Nó đang tự ghi ra: câu hỏi này hỏi gì, nên trả lời theo hướng nào, cần mấy ý, ý nào bỏ đi. Nó đang viết nháp, và nháp xong mới viết bản chính.

![google/gemma-4-12b-qat đang ở trạng thái Thinking trong LM Studio](https://homus.dev/photos/i5Kh6cpaJkA-1141.jpg)

Cùng câu hỏi gửi cho google/gemma-4-12b-qat. Thay vì câu trả lời, khung "Thinking..." đang chạy chữ: model tự viết nháp bằng tiếng Anh, kiểu "running AI on personal computers requires a lot of memory because machine learning models often have billions of parameters...". Ô chọn model bên dưới có nút Think đang bật.

Chuyện này thì không sai: nghĩ trước khi nói thường cho câu trả lời chắc hơn. Nhưng bạn cần biết mình đang chờ cái gì, nếu không sẽ phải ngồi đoán già đoán non. Nó nghĩ khoảng 4.400 ký tự, dài gấp 9 lần câu trả lời cuối cùng nó đưa ra. 44 giây sau khi anh bấm gửi, chữ trả lời đầu mới xuất hiện. Trong khi con 8 tỷ lúc nãy chỉ mất chưa tới 3 giây. Chênh nhau hơn 15 lần cho cùng một câu hỏi.

Anh đo 3 lần: lần nhanh nhất là 38 giây, lâu nhất gần 60 giây, tức là có lần mất cả phút ngồi nhìn màn hình chạy chữ mà chưa có câu trả lời. (Thẻ tổng hợp trên màn hình ghi khoảng chờ 37,8 đến 65,8 giây, và ghi Gemma 4 12B nghĩ 3.100 đến 5.900 ký tự rồi mới viết chữ trả lời đầu.) Tốc độ viết của nó cũng chậm nhất bảng: 27,52 token mỗi giây, bằng khoảng 60% con 8 tỷ.

![Thẻ Chờ bao lâu mới thấy chữ trả lời của ba model](https://homus.dev/photos/i5Kh6cpaJkA-1203.jpg)

Thẻ "Cái tên không nói: Chờ bao lâu mới thấy chữ trả lời". Cột không nghĩ trước: Qwen3 VL 8B 2,7 giây. Cột nghĩ trước: Gemma 4 12B 37,8 đến 65,8 giây; Qwen3.6 35B A3B 6,6 đến 14,5 giây. Chú thích: Gemma 4 12B nghĩ 3.100 đến 5.900 ký tự rồi mới viết chữ trả lời đầu (số đo ngày 11/09/2026).

Và cái tên của nó không hề nói cho bạn biết chuyện này. Gemma 4, 12B, QAT: nhà Google, 12 tỷ tham số, đã nén. Hết. Không có chữ nào nói là nó biết nghĩ. Đây chính là chuyện thứ tư anh nhắc ở đầu video: cái tên nói cho bạn ba chuyện, còn chuyện thứ tư này bạn chỉ biết được khi chạy thử. Mà chạy thử thì đã phải có trên máy, tức là đã mất công tải về rồi.

## 13. Con lớn Qwen3.6 35B A3B

Giờ tới con thứ ba: 35 tỷ, loại chỉ dùng một phần, 20,55 GB. Nặng gấp gần 4 lần con 8 tỷ, gấp 3 lần con Gemma vừa rồi. Nạp mất 17 giây, lâu nhất trong ba con. Chuyện này thì đúng như bạn đoán: file to thì nạp lâu. Theo anh, đây là chỗ duy nhất trong bảng mà trực giác của chúng ta đúng.

Anh gửi câu hỏi. Con này cũng nghĩ giống con vừa rồi, nhưng hãy xem nó nghĩ nhanh cỡ nào. Chờ chữ trả lời, lần nhanh nhất khoảng 6,6 giây, lần lâu nhất 14,5 giây. Cùng là việc nghĩ mà nó xong nhanh hơn hẳn con nhẹ hơn nó 3 lần.

Tốc độ viết 70,4 token mỗi giây. Con nặng nhất bảng mà lại chạy nhanh nhất, nhanh hơn cả con 8 tỷ dù nó to gấp 4 lần con đó. Anh chạy thử 3 lần, ra 70,07, 70,55 và 70,59 token mỗi giây. Ba lần gần y hệt nhau, nên không phải ăn may một lần rồi lấy số đẹp (số đo trong video đăng ngày 26/09/2026). Thẻ trên màn hình "Chạy thử ba lần: Qwen3.6 35B A3B" ghi đúng ba con số này, kèm thời gian chờ chữ đầu 6,6 đến 14,5 giây.

## 14. Bảng số thật: con nặng nhất lại nhanh nhất

Đã thấy cả ba rồi, anh xếp các con số lại cho gọn: ba con, ba hạng, cùng một câu hỏi, cùng một chiếc máy, cùng một buổi đo.

- Con 8 tỷ: 5,76 GB, 45,55 token mỗi giây, chờ chữ đầu chưa tới 3 giây.

- Con 12 tỷ: 7,15 GB, 27,52 token mỗi giây, chờ chữ đầu từ 38 tới 66 giây.

- Con 35 tỷ: 20,55 GB, 70,4 token mỗi giây, chờ chữ đầu từ 6,6 tới 14,5 giây.

![Bảng Ba hạng, cùng một câu hỏi ở mức nhà máy 16G](https://homus.dev/photos/i5Kh6cpaJkA-1423.jpg)

Thẻ "Mức nhà máy 16G: Ba hạng, cùng một câu hỏi". Qwen3 VL 8B: 5,76 GB, nạp 5,5 s, 45,55 token/giây. Gemma 4 12B QAT (tô đỏ): 7,15 GB, 7,1 s, 27,52. Qwen3.6 35B A3B: 20,55 GB, 17,1 s, 70,40. Số đo ngày 11/09/2026, mỗi con 3 lần, số do LM Studio tự báo.

Đọc bảng từ trên xuống sẽ thấy ngay: cột dung lượng tăng đều, còn cột tốc độ thì nhảy lung tung, 45 tụt xuống 27 rồi vọt lên 70. Con nặng nhất chạy nhanh nhất, con ở giữa chậm nhất, còn con nhẹ nhất thì nằm ở giữa. Nếu chọn theo dung lượng thì bạn sẽ chọn sai, chắc chắn sai.

Còn nếu chọn theo cách đọc tên thì giải thích được hết. Con 35 tỷ có đuôi A3B, loại chỉ dùng một phần, nên nó nhanh. Con 12 tỷ không có đuôi đó, lại còn biết suy nghĩ, nên nó chậm nhất bảng. Nhưng anh nói rõ một câu để người xem khỏi hiểu nhầm: con 12 tỷ chậm không có nghĩa là nó dở. Nó nghĩ kỹ trước khi trả lời, và lát nữa bạn sẽ thấy cái nghĩ đó đổi lại được gì.

Trong bảng còn một cột anh muốn người xem để ý: cột thời gian nạp, 5 giây, 7 giây, 17 giây. Cột này tăng đều theo dung lượng, đúng như ta đoán ban đầu: file to thì nạp lâu, không có ngoại lệ. Nhưng nạp là việc chỉ làm một lần. Bạn có thể mở model lên một buổi sáng rồi dùng cả ngày. Còn tốc độ viết thì bạn phải chịu mỗi lần hỏi. Cho nên nếu phải chọn giữa nạp lâu hơn 10 giây và viết chậm gấp đôi, thì cứ chọn nạp lâu.

Anh cũng ghi rõ điều kiện đo, vì đây là quy định anh tuân theo suốt khoá: cả bảng đo trên cùng chiếc máy này, mức bộ nhớ đồ hoạ để nguyên 16 GB, cùng một câu hỏi, mỗi con đo 3 lần và lấy mức trung bình. Con số hiện trên màn hình là số phần mềm tự báo. Dòng chú thích nhỏ trên các thẻ số liệu ghi thêm ngày đo là 11/09/2026, và vì có phần mềm quay màn hình chạy kèm nên số hiện trong những cảnh quay màn hình thấp hơn 4 đến 9 phần trăm. Máy của bạn cấu hình khác thì con số sẽ khác, nhưng thứ tự trên dưới trong bảng thì sẽ không đổi.

## 15. Việc khó: ba thuật ngữ hẹp

Nãy giờ toàn nói tốc độ, giờ anh chuyển sang chất lượng. Anh lấy lại đúng việc của tập 1: dịch một đoạn tài liệu kinh tế học tiếng Anh, trong đó có ba thuật ngữ hẹp mà người trong ngành đọc phát là biết dịch đúng hay sai.

Ở tập 1, con 8 tỷ dịch sai cả ba từ. Hôm nay anh chạy lại thêm 3 lần, và kết quả vẫn sai cả ba, cả 3 lần luôn. Buồn cười ở chỗ nó sai 3 lần theo 3 kiểu khác nhau: lần thì gọi là "định mức khấu trừ", lần thì "chi phí khấu trừ", lần thì "chi phí chi trả". Cùng một câu hỏi mà ba câu trả lời khác nhau. Anh nói chuyện này bình thường thôi, AI nó vậy, chứ không phải máy bạn có vấn đề.

![Bản dịch thuật ngữ của qwen3-vl-8b trong LM Studio](https://homus.dev/photos/i5Kh6cpaJkA-1551.jpg)

Một bản dịch của qwen3-vl-8b: Deductible thành "hạn mức tự chịu", Copayment thành "cố định chi trả", Second-best thành "cân bằng thứ hai". Cả ba đều lệch so với từ chuẩn ngành, nhưng từ tiếng Anh vẫn được giữ trong bản dịch.

Giờ anh đưa đúng đoạn đó cho hai con lớn hơn, và theo anh đây mới là chỗ cái suy nghĩ của chúng đổi lại được gì.

**Copayment**: chuẩn ngành là "đồng chi trả". Con 12 tỷ dịch đúng, và đúng cả 3 lần. Con 35 tỷ cũng đúng, 2 trên 3 lần. Trong khi con 8 tỷ sai sạch: nó gọi là "cố góp", rồi "chi phí đồng góp", rồi "chi trả đồng hành". Rõ ràng con to dịch đúng hơn.

Nhưng anh nói thẳng luôn cho người xem đỡ hiểu nhầm, đỡ vỡ mộng: không con nào dịch đúng cả ba từ.

**Second best**: chuẩn ngành là "tối ưu bậc hai". Cả ba con đều dịch thành "cân bằng thứ hai". Con 35 tỷ có một lần ra "tối ưu thứ hai", gần nhất trong tất cả, nhưng vẫn chưa phải.

**Deductible**: ở từ này lại có một chuyện lạ. Từ chuẩn ngành là "mức miễn thường". Con duy nhất dịch đúng lại là con 12 tỷ, tức là con nhỏ hơn trong hai con lớn, và nó chỉ đúng ở lần đầu; hai lần sau nó quay về "mức khấu trừ". Con 35 tỷ to gấp 3 thì sai cả 3 lần.

![Bảng Ba thuật ngữ hẹp: to hơn thì đúng nhiều hơn, không phải đúng hết](https://homus.dev/photos/i5Kh6cpaJkA-1703.jpg)

Thẻ "Ba thuật ngữ hẹp: To hơn thì đúng nhiều hơn, không phải đúng hết". Mức miễn thường: hạng nhỏ 8B sai 3/3, hai con lớn đúng 1/6. Đồng chi trả: sai 3/3, đúng 5/6. Tối ưu bậc hai: sai 3/3, sai 6/6. Chú thích: mỗi con chạy 3 lần trên cùng đoạn văn; cả ba con đều để nguyên từ tiếng Anh trong ngoặc, nên soát lại được.

Kết luận thật sự, theo anh, là thế này: to hơn không có nghĩa là đúng hết, nó có nghĩa là đúng nhiều hơn. Và không có con nào ổn định tới mức bạn có thể tin tuyệt đối.

Nhưng anh nhờ người xem nhìn kỹ một chỗ: cả ba con, trong mọi lần chạy, đều để nguyên từ tiếng Anh trong ngoặc hoặc bên cạnh bản dịch. Anh nghĩ đó mới là cái được thật khi dùng AI. Như đã nói ở tập 1, chỗ nào nghi thì bạn có từ gốc để tra lại. Con AI chỉ làm bản nháp, còn người ký tên vào bài đó vẫn là bạn.

## 16. Nên chọn con nào cho việc nào

Vậy rốt cuộc nên chọn con nào? Anh trả lời bằng số đo.

Khi bạn hỏi bài, chat nhanh, cần câu trả lời ngay, hãy chọn con nhỏ không có phần suy nghĩ. Con 8 tỷ của tập 1 đúng là loại đó: gõ xong là chữ ra liền, hỏi 10 câu liên tiếp vẫn thoải mái, không phải ngồi chờ lần nào.

Còn những việc cần cân nhắc kỹ như dịch khó, viết dài hay phân tích, thì chọn con lớn loại chỉ dùng một phần. Trên máy này anh đã thử: nó vừa khoẻ vừa nhanh, chờ khoảng 10 giây thôi rồi chữ tuôn ra.

Còn con biết nghĩ mà không phải loại chỉ dùng một phần, như con 12 tỷ hôm nay, thì hợp với lúc bạn không vội. Kiểu bạn đặt một câu hỏi khó, đi pha ly nước, rồi quay lại đọc. Đừng dùng nó cho kiểu hỏi qua hỏi lại, vì bạn sẽ nản.

Còn con 70 tỷ thì tập 2 đã trả lời rồi: kể cả chiếc máy này mở được nó, nhưng chưa dùng hằng ngày được.

Anh dặn thêm cho những ai không dùng máy giống anh: cách tự tính rất đơn giản. Nhìn dung lượng file model, rồi nhìn bộ nhớ còn trống của máy bạn. File phải nhỏ hơn chỗ trống đó, và nên chừa lại vài GB cho Windows thở. Nếu không vừa thì hạ xuống bản nén mạnh hơn, tức là chọn con số Q nhỏ hơn. Vẫn không vừa thì buộc phải chọn con ít tham số hơn.

Anh lấy ví dụ cho dễ hình dung. Máy có 8 GB RAM thì nhắm những con 4 đến 5 GB, tức là cỡ khoảng 7 đến 8 tỷ tham số, bản nén Q4. Máy 16 GB thì với tới những con 7 đến 9 GB thoải mái. Còn muốn chạy những con 20 GB như con nhanh nhất hôm nay thì phải là máy có bộ nhớ lớn, và đó chính là chỗ sức mạnh của chiếc máy này được tận dụng.

Câu cuối của phần này là câu anh muốn người xem nhớ hơn cả mấy con số hôm nay: không có model nào tốt nhất, chỉ có những con hợp với việc bạn đang làm. Người biết chọn thì việc nào cũng nhanh. Người không biết chọn thì cứ tải con to nhất về rồi ngồi chờ, y như anh ở tập 2.

## 17. Bốn lỗi gặp thật

Anh kể luôn những lỗi chính anh đã dính, để người xem đỡ lọ mọ khi gặp phải.

![Thẻ Bốn lỗi gặp thật khi làm tập này](https://homus.dev/photos/i5Kh6cpaJkA-1923.jpg)

Thẻ "Lỗi thường gặp: Bốn lỗi gặp thật khi làm tập này": chọn theo số to nhất, mất mấy tiếng tải 40 GB về rồi chờ từng chữ; tưởng file nhẹ là chạy nhanh, con 7 GB chậm hơn con 20 GB gần ba lần; tưởng máy treo, thật ra nó đang nghĩ, chờ tới hơn một phút mới trả lời; siết ô giới hạn độ dài, con biết nghĩ dùng hết mức, không ra được chữ nào.

**Lỗi thứ nhất**, anh đã kể ở đầu video: chọn model theo con số to nhất. Mất mấy tiếng tải 40 GB về, để nhận lại một con mà chữ ra còn chậm hơn tốc độ mình đọc. Cách tránh: nhìn tên trước, đối chiếu với bộ nhớ máy, rồi mới bấm tải.

**Lỗi thứ hai**: cứ tưởng file nhẹ thì chạy nhanh. Bảng hôm nay đã cho thấy điều ngược lại: con 7 GB chậm hơn con 20 GB gần ba lần. Cách tránh: tìm chữ A trong tên. Con nào có chữ A kèm một con số nhỏ hơn thì đó là loại chỉ dùng một phần, và nó nhanh.

**Lỗi thứ ba**, lỗi anh đoán người xem sẽ gặp ngay hôm nay khi thử: tưởng máy treo. Bạn tải một con biết nghĩ về, gõ một câu hỏi đơn giản, rồi ngồi nhìn màn hình cả phút mà chưa thấy câu trả lời. Thực ra máy không hỏng, nó đang nghĩ. Cách tránh: cứ để nó nghĩ xong, đừng bấm dừng. Còn nếu cần câu trả lời nhanh thì đổi qua những con không có phần suy nghĩ, chứ đừng ngồi chờ.

**Lỗi thứ tư** là lỗi anh gặp trong lúc chuẩn bị bài, và nó đi kèm với lỗi vừa rồi. Trong phần mềm có một ô cho bạn giới hạn độ dài câu trả lời. Nghe thì hợp lý, vì bạn không muốn nó viết dài dòng. Nhưng với con biết suy nghĩ, giới hạn đó tính luôn cả phần nó nghĩ. Khi anh đặt giới hạn hơi chật, kết quả là nó vừa nghĩ xong thì cũng hết luôn mức cho phép, và dừng lại, không ra được một chữ trả lời nào. Màn hình chạy chữ cả phút rồi im, chẳng nhận lại được gì.

Cách tránh: nếu dùng những con biết suy nghĩ thì đừng siết chặt ô giới hạn đó, cứ nới rộng ra. Còn nếu bạn chưa bao giờ đụng tới ô đó thì cứ bỏ qua, để mặc định là được.

## 18. Tóm tắt, bài tập và tập sau

Anh tóm tắt nhanh tập này thành bốn điều.

Thứ nhất, chữ B là độ dày của quyển sách: càng to thì càng chiếm bộ nhớ, điều này đúng.

Thứ hai, chữ A kèm một số nhỏ hơn nghĩa là loại chỉ dùng một phần, nặng như con to nhưng chạy nhanh như con nhỏ. Anh nhấn mạnh đây là chỗ đáng nhớ nhất của tập.

Thứ ba, chữ Q là mức nén: số nhỏ thì file nhẹ, chất lượng hụt đi một chút.

Thứ tư, chỗ mà cái tên không nói: có những con suy nghĩ trước khi trả lời, và bạn chỉ biết được khi chạy thử.

Bài tập hôm nay anh muốn người xem làm trong khoảng nửa tiếng. Mở LM Studio, nhìn vào danh sách model của bạn, chọn 2 con, đọc tên của chúng và bóc ra 3 phần: nhà làm ra, số tham số và cái đuôi. Rồi hỏi cả 2 con một câu giống hệt nhau và ghi lại 2 thứ: một là số token mỗi giây, hai là sau bao lâu kể từ lúc bấm gửi thì chữ trả lời đầu mới hiện ra. Nếu bạn mới chỉ có đúng 1 con model từ tập 1, hãy tải thêm 1 con nhỏ hơn 8 GB, rồi làm bài tập như trên. Theo anh, lúc bạn ngồi tìm con để tải chính là lúc bạn dùng được bài học hôm nay.

Bài tập khoảng nửa tiếng: chọn hai model, bóc tên ra ba phần, hỏi cả hai cùng một câu, rồi ghi tốc độ token mỗi giây và thời gian chờ chữ trả lời đầu. Thẻ trên màn hình còn mời người xem comment tên hai con model và hai cặp số đó.

Qua 3 tập vừa rồi, người xem đã chạy được AI trên máy, chia được bộ nhớ cho nó, và giờ thì chọn được đúng con để tải. Ở tập sau, anh sẽ đưa nguyên một quyển tài liệu cho AI đọc. Tài liệu của bạn nằm trên máy bạn, không chạy đi đâu hết. Và lúc đó, cái thanh context length anh nói lướt qua hôm nay sẽ trở thành câu chuyện chính.

Anh mời người xem theo dõi kênh để không bỏ lỡ tập 4, nhắc rằng thông tin về chiếc ASUS TUF Gaming A14 dùng trong khoá nằm ở phần mô tả video, rồi hẹn gặp lại ở tập tiếp theo.

## Nguồn và liên kết

- Tên gốc: Đọc hiểu tên model AI trong 5 phút | Khóa học Local AI ASUS TUF Gaming A14 #3
- Sự kiện: [YouTube](https://homus.dev/events/youtube)
- Video gốc: [https://www.youtube.com/watch?v=i5Kh6cpaJkA](https://www.youtube.com/watch?v=i5Kh6cpaJkA)

- Kênh YouTube Thanh Trần - 5 Phút AI (Thanh Trần): [youtube.com/channel/UCTumIe5W_2OoKUEDAq3xsKQ](https://www.youtube.com/channel/UCTumIe5W_2OoKUEDAq3xsKQ)

- Tài liệu LM Studio về tải model (tìm model, chọn bản nén, quantization): [lmstudio.ai/docs/app/basics/download-model](https://lmstudio.ai/docs/app/basics/download-model)

- Model Qwen3 VL 8B trên trang model của LM Studio: [lmstudio.ai/models/qwen/qwen3-vl-8b](https://lmstudio.ai/models/qwen/qwen3-vl-8b)

- Model gpt-oss trên trang model của LM Studio (ghi MXFP4 cho phần MoE): [lmstudio.ai/models/openai/gpt-oss-20b](https://lmstudio.ai/models/openai/gpt-oss-20b)

- Model Llama 3.3 70B trên trang model của LM Studio: [lmstudio.ai/models/meta/llama-3.3-70b](https://lmstudio.ai/models/meta/llama-3.3-70b)

- Định dạng GGUF và các kiểu quantization như Q4_K (tài liệu Hugging Face): [huggingface.co/docs/hub/gguf](https://huggingface.co/docs/hub/gguf)

Nguồn: https://homus.dev/talks/doc-hieu-ten-model-ai-trong-5-phut-khoa-hoc-local-ai-asus-tuf-gaming-a14-3 · cập nhật 2026-10-20