# Khoá Generative AI trọn gói: từ token tới agent, eval và sự nghiệp

[Tejas AI](https://homus.dev/speakers/tejas-ai) · [Tejas AI](https://homus.dev/orgs/tejas-ai)

> Một lượt đi qua Gen AI: token, embedding, attention, training, sampling, RAG, agent, MCP, fine-tuning, eval, security và lộ trình chín project.

Topics: Retrieval, Agents, Context Engineering, Evals

Canonical: https://homus.dev/talks/complete-generative-ai-course-ai-basics-key-terms-context-fine-tunning-eval-career-in-gen-ai

## 1. Khoảng trống giữa gõ vào chat box và hiểu bên trong

Video mở đầu bằng một điều mà người dẫn nói "có thể hơi nhói": phần lớn những người nói mình biết generative AI thực ra mới chỉ học cách gõ vào một chat box. Họ có thể chép một tutorial, dán một API key và có một chatbot chạy được trong một buổi chiều. Rồi nó hỏng, và họ không biết vì sao. Model bịa ra một điều gì đó, câu trả lời tệ dần khi cuộc hội thoại dài ra, hoá đơn tăng gấp ba sau một đêm, và họ bị kẹt (theo video đăng ngày 19/11/2026).

![Hình vẽ tay: một người gõ vào laptop có khung AI CHAT, bên cạnh đám đông nghĩ We know GenAI](https://homus.dev/photos/qvTvXpz6gGc-0003.jpg)

Câu mở đầu trên màn hình: "Most people who say they know Generative AI have just learned how to type into a chat box"; ghi chú góc dưới: "Don't really know" dẫn tới "No idea what's happening inside" (video đăng ngày 19/11/2026).

Lý do được nói ngay sau đó: chưa ai từng nói cho họ biết điều gì thật sự diễn ra bên trong cái hộp. Đó là khoảng trống mà video này lấp. Trong nửa tiếng tới, người xem sẽ hiểu công nghệ này từ trong ra ngoài, không phải bản hype mà là bản engineering: một token thực chất là gì, vì sao model hallucinate, attention hoạt động thế nào, RAG thực sự làm gì, một AI agent là gì và khi nào tuyệt đối không nên build một agent, model được tuỳ biến ra sao, dân chuyên nghiệp chứng minh hệ thống của họ chạy đúng thế nào, và con đường nào để được trả tiền cho việc này. Mọi thuật ngữ quan trọng, bằng ngôn ngữ dễ hiểu (theo video đăng ngày 19/11/2026).

Rồi người dẫn muốn "giết" ngay một niềm tin: bạn không cần là chuyên gia machine learning để trở thành generative AI engineer. Không cần linear algebra, không cần PhD. Theo người dẫn (video đăng ngày 19/11/2026), niềm tin đó là lý do lớn nhất khiến người ta không bao giờ bắt đầu. Gen AI engineering gần với back-end engineering hơn nhiều so với data science: bạn đang build trên những model mà người khác đã train sẵn. Học ML trước giống như học luyện kim động cơ (engine metallurgy) trước khi học lái xe: rồi sẽ có ích, nhưng không phải thứ học đầu tiên.

## 2. Một câu mà cả lĩnh vực treo vào

Trước khi đi tiếp, người dẫn đưa ra một câu mà theo người dẫn cả lĩnh vực này treo vào (video đăng ngày 19/11/2026): một generative model là một function dự đoán mảnh nội dung tiếp theo dựa trên mọi thứ đứng trước nó. Chỉ vậy thôi, đó là toàn bộ câu chuyện.

Điều này quan trọng vì mọi kỹ thuật người xem sắp học, prompting, RAG, fine-tuning, agent, evaluation, tất cả, đều là những câu trả lời khác nhau cho cùng một câu hỏi: làm sao tôi kiểm soát được thứ đứng trước nó? Prompting kiểm soát thứ đứng trước nó. RAG chèn sự thật (fact) vào đó. Fine-tuning thay đổi chính cái function. Agent để model tự viết phần đứng trước của chính nó, từng bước một. Evaluation đo xem output có tốt hay không (theo video đăng ngày 19/11/2026).

![Sơ đồ Before it, Generative model, After it với câu hỏi How do I control what comes before it](https://homus.dev/photos/qvTvXpz6gGc-0147.jpg)

Câu hỏi trung tâm của video: "How do I control what comes before it?". Khung "Before it" (input / context) đi vào generative model rồi ra output; dòng chú thích: "Control the input, you control the output" (video đăng ngày 19/11/2026).

Cùng một câu hỏi, những câu trả lời khác nhau. Theo người dẫn (video đăng ngày 19/11/2026), giữ ý này trong đầu thì mọi thứ sẽ thôi giống như một trăm buzzword rời rạc.

## 3. Generative và discriminative, bản đồ thuật ngữ, ba bước mở khoá

Phần nền móng bắt đầu. Generative AI tạo ra nội dung mới thay vì chỉ đánh giá nội dung có sẵn: text, hình ảnh, audio, video, code. Cách dễ hiểu nhất, theo người dẫn (video đăng ngày 19/11/2026), là so sánh nó với thứ có trước nó.

AI truyền thống phần lớn là loại được gọi là discriminative. Nó học ranh giới giữa các nhóm. Email này có phải spam không? Ảnh này là mèo hay chó? Nó trả lời một câu hỏi về dữ liệu đã tồn tại. Generative AI học chính hình dạng của dữ liệu, rồi tạo ra dữ liệu mới khớp với hình dạng đó. Thay vì hỏi "đây có phải con mèo không?", bạn nói "cho tôi một con mèo đeo kính râm trong ánh sáng film noir", và nó tạo ra một con mèo chưa từng tồn tại. Câu dễ nhớ: discriminative model vẽ đường ranh, generative model vẽ tranh (theo video đăng ngày 19/11/2026).

Tiếp theo là bản đồ thuật ngữ, vì theo người dẫn chỗ này làm ai cũng vấp. Artificial intelligence là vòng ngoài cùng. Bên trong là machine learning. Bên trong nữa là deep learning, tức neural network. Trong deep learning, một bên là discriminative model, bên kia là generative. Và trong generative có foundation model, nghĩa đơn giản là những model rất lớn được pre-train trên dữ liệu rộng. Chúng tách thành large language model cho text, diffusion model cho hình ảnh và video, và multimodal model xử lý nhiều loại cùng lúc (theo video đăng ngày 19/11/2026).

![Các vòng tròn lồng nhau: Artificial Intelligence, Machine Learning, Deep Learning, Discriminative và Generative, Foundation Models tách thành LLM, Diffusion, Multimodal](https://homus.dev/photos/qvTvXpz6gGc-0316.jpg)

Bản đồ thuật ngữ: AI chứa machine learning, rồi deep learning; trong deep learning có discriminative models và generative models; foundation models ("very large models pretrained on broad data") tách thành large language models (text), diffusion models (images & video) và multimodal models (multiple types) (video đăng ngày 19/11/2026).

Vì sao mọi thứ bỗng bùng nổ? Theo người dẫn (video đăng ngày 19/11/2026), đó là ba bước mở khoá, không phải phép màu.

- **Một, kiến trúc transformer**, từ bài báo năm 2017 tên "Attention Is All You Need". Điều nó thực sự làm được là khiến việc training chạy song song được, nhờ đó model cuối cùng có thể scale (theo video đăng ngày 19/11/2026).

- **Hai, scaling laws.** Hiệu năng tăng một cách dự đoán được khi bạn thêm dữ liệu, thêm parameter và thêm compute. Điều đó biến chuyện này từ một canh bạc nghiên cứu thành một bài toán engineering: bỏ tiền vào, năng lực đi ra (theo video đăng ngày 19/11/2026).

- **Ba, instruction tuning và RLHF**, thứ mà theo người dẫn phần lớn mọi người chưa từng nghe tới. Đó là bước biến một cỗ máy autocomplete xịn thành một thứ làm theo yêu cầu của bạn, và theo người dẫn đó là lý do thật sự khiến ChatGPT cảm giác khác hẳn những gì có trước nó (video đăng ngày 19/11/2026).

## 4. Token và embedding

Người dẫn gọi đây là phần quan trọng nhất của video: điều gì thực sự xảy ra giữa lúc bấm Enter và lúc thấy chữ hiện ra? Nó bắt đầu từ token (theo video đăng ngày 19/11/2026).

Model không nhìn thấy từ. Text của bạn bị cắt thành token, đại khái là những mảnh của từ. "Unhappiness" có thể thành "un" cộng "happiness". Từ thông dụng là một token; từ lạ bị tách thành nhiều token. Toàn bộ tập token một model biết là vocabulary của nó, và thứ làm việc cắt là tokenizer (theo video đăng ngày 19/11/2026).

Vì sao phải quan tâm? Người dẫn đưa ba lý do thực tế (video đăng ngày 19/11/2026): bạn trả tiền theo token, không theo từ; giới hạn context được đo bằng token; và nhiều ngôn ngữ không phải tiếng Anh dùng gấp hai đến ba lần số token để nói đúng cùng một điều. Cùng ý nghĩa, hoá đơn gấp ba.

![So sánh English I love AI 4 tokens với một câu tiếng Trung, nhãn 2-3x và 10-12 tokens](https://homus.dev/photos/qvTvXpz6gGc-0443.jpg)

Ví dụ minh hoạ: "I love AI." là 4 tokens; câu cùng nghĩa bằng tiếng Trung được ghi 10-12 tokens, kèm nhãn "2-3x" ở giữa (video đăng ngày 19/11/2026).

Thêm một điểm: cái lỗi nổi tiếng khi bạn hỏi trong "strawberry" có bao nhiêu chữ R và model trả lời sai. Giờ bạn biết vì sao. Model có thể không bao giờ nhìn thấy từng chữ cái riêng lẻ; nó nhìn thấy các khúc (theo video đăng ngày 19/11/2026).

Tiếp theo là embedding. Mỗi token trở thành một vector, tức đơn giản là một danh sách số có thứ tự. Hãy nghĩ về nó như một toạ độ trong một không gian rất nhiều chiều. Và đây là phần đẹp: những thứ có nghĩa giống nhau nằm gần nhau trong không gian đó. Không ai lập trình điều đó; model tự học được (theo video đăng ngày 19/11/2026).

Phép so sánh người dẫn dùng là một tấm bản đồ, chỉ có điều các thành phố không được đặt theo địa lý mà theo ý nghĩa. King và queen là hàng xóm. Doctor và nurse là hàng xóm. Banana và photocopier ở hai bờ biển đối diện. Có một demo nổi tiếng: lấy king, trừ man, cộng woman, và kết quả rơi gần queen. Ý nghĩa đã trở thành toán học (theo video đăng ngày 19/11/2026).

Người dẫn dặn hãy khắc ghi điều này, vì embedding là toàn bộ nền móng của RAG về sau. Và cách đo hai embedding gần nhau đến đâu gọi là cosine similarity. Thuật ngữ nghe đáng sợ đó chỉ có vậy (theo video đăng ngày 19/11/2026).

## 5. Attention và cách lắp một transformer

Attention, theo người dẫn, là thứ khó giải thích cho tốt nhất, nên người dẫn làm cho đàng hoàng và bắt đầu từ vấn đề. "The trophy didn't fit in the suitcase because it was too big." "It" là cái gì? Bạn biết ngay lập tức. Các model cũ đọc từ theo thứ tự, và tới lúc gặp "it" thì chúng đã mất mạch. Attention sửa điều đó (theo video đăng ngày 19/11/2026).

Với mỗi từ, model hỏi mọi từ khác: "ngay lúc này bạn liên quan tới tôi đến mức nào?", rồi đặt trọng số tương ứng (theo video đăng ngày 19/11/2026).

![Câu The trophy didn't fit in the suitcase because it was too big, với điểm relevance cho từng từ so với it](https://homus.dev/photos/qvTvXpz6gGc-0603.jpg)

Minh hoạ attention cho từ "it": hàng "Relevance (example)" ghi 0.85 cho "trophy", 0.80 cho "suitcase", 0.70 cho "big", 1.00 cho chính "it", các từ khác từ 0.05 đến 0.40; cột weight cao thấp theo đó (video đăng ngày 19/11/2026).

Phép so sánh của người dẫn: một phòng họp, nơi trước khi ai lên tiếng, mỗi người nhìn quanh phòng và xác định ai thực sự quan trọng cho điều mình sắp nói. Và tất cả mọi người làm việc đó cùng một lúc. Theo người dẫn (video đăng ngày 19/11/2026), chính sự đồng thời đó là lý do transformer train nhanh; đó là bước đột phá.

Có vài biến thể. Self-attention là các từ nhìn vào các từ khác trong cùng một chuỗi. Cross-attention là một chuỗi nhìn vào một chuỗi khác, và đó là cách một model hình ảnh "attend" vào text prompt của bạn. Multi-head attention là nhiều cơ chế attention chạy song song, mỗi cái theo dõi một kiểu quan hệ khác nhau: một head có thể theo dõi ngữ pháp, head khác theo dõi chủ đề. Không ai giao những việc đó; các vai trò tự xuất hiện (theo video đăng ngày 19/11/2026).

Giờ lắp transformer lại. Input được tokenize. Token được embed. Rồi thêm positional encoding, và người dẫn nhấn mạnh cái này quan trọng: attention tự nó không biết thứ tự, nó thấy một túi từ. Không có positional encoding, "dog bites man" và "man bites dog" trông y hệt nhau với model. Nên ta chèn thẳng vào thông tin kiểu "từ này đứng thứ năm" (theo video đăng ngày 19/11/2026).

Dữ liệu chảy qua nhiều block lặp lại, mỗi block gồm attention cộng một feed-forward network. Theo người dẫn (video đăng ngày 19/11/2026), các lớp feed-forward có vẻ là nơi nhiều kiến thức về sự thật của model trú ngụ. Bao quanh tất cả là residual connection và layer normalization, phần plumbing giữ cho mạng sâu vẫn train được.

Thêm hai thuật ngữ. Parameter, còn gọi là weight, là những con số học được bên trong model; "70 billion parameters" mô tả năng lực chứa (capacity). Và mixture of experts, MoE, nghĩa là chỉ một phần của mạng được kích hoạt cho mỗi token: nhiều parameter hơn, ít compute hơn mỗi lần. Và một câu hỏi phỏng vấn kinh điển (interview staple): encoder đọc và biểu diễn, decoder sinh ra, và gần như mọi chat model hiện đại đều là decoder-only (theo video đăng ngày 19/11/2026).

## 6. Training là ba giai đoạn, cộng thêm reasoning model

Theo người dẫn (video đăng ngày 19/11/2026), phần lớn các bài giải thích làm ẩu ở đây. Người ta nói "train model" như thể đó là một bước; thực ra là ba bước, và chúng làm những việc hoàn toàn khác nhau.

**Giai đoạn 1, pre-training.** Model dự đoán token tiếp theo trên một đống text lớn không tưởng tượng nổi, với hàng tháng compute. Kết quả là một base model. Nó biết ngôn ngữ và sự thật, nhưng tất cả những gì nó làm được là autocomplete. Hỏi một base model một câu, nó có thể chỉ sinh ra thêm câu hỏi; đó không phải bug, đó đúng là việc nó được train để làm (theo video đăng ngày 19/11/2026).

**Giai đoạn 2, supervised fine-tuning**, còn gọi là instruction tuning. Bạn train trên những cặp được chọn lọc gồm một chỉ dẫn và một câu trả lời tốt. Bước này biến autocomplete thành một assistant trả lời bạn (theo video đăng ngày 19/11/2026).

**Giai đoạn 3, preference alignment.** Con người hoặc một AI khác xếp hạng các output, và model được tối ưu về phía những output được ưa hơn. Đó là RLHF, reinforcement learning from human feedback: bạn train một reward model riêng để bắt chước khẩu vị của con người, rồi tối ưu language model theo nó. Bạn cũng sẽ nghe tới DPO, direct preference optimization, một cách đơn giản hơn và theo người dẫn hiện rất phổ biến, bỏ qua reward model riêng. Kết quả là một model hữu ích, trung thực và từ chối các yêu cầu có hại. Mục tiêu đó có tên: alignment (theo video đăng ngày 19/11/2026).

Ba giai đoạn training theo cách người dẫn trình bày trong video đăng ngày 19/11/2026.

Bài học thực tế, theo người dẫn (video đăng ngày 19/11/2026): nếu bạn tải một base model từ Hugging Face và nó cư xử lạ, bạn đã lấy phải bản dừng sau giai đoạn một.

Một bổ sung hiện đại: reasoning model. Chúng được train để sinh ra một chuỗi các bước suy nghĩ trung gian trước khi trả lời, bằng reinforcement learning dựa trên việc câu trả lời cuối có đúng hay không. Theo người dẫn (video đăng ngày 19/11/2026), đó là lý do chúng chậm hơn, tốn hơn, và giỏi hơn hẳn ở toán và code. Kỹ năng thật không phải là biết chúng tồn tại, mà là biết khi nào nên dùng tới và khi nào nó chỉ là đốt tiền.

## 7. Output sinh ra thế nào và các núm sampling

Output được tạo ra theo kiểu auto-regressive, mỗi lần một token. Mỗi token mới được nối vào và đưa ngược lại vào model. Theo người dẫn (video đăng ngày 19/11/2026), đó là lý do text chảy dần lên màn hình và là lý do output dài thì chậm.

Nhưng đây là điều mà theo người dẫn gần như không ai giải thích: ở mỗi bước, model không xuất ra một từ. Nó xuất ra một phân phối xác suất trên toàn bộ vocabulary, khoảng 100.000 lựa chọn, mỗi lựa chọn một điểm số. Rồi một sampling strategy chọn lấy một. Sampling strategy đó là chỗ bạn có quyền kiểm soát (theo video đăng ngày 19/11/2026).

![Bảng Sampling strategy knobs: Temperature, Top P, Top K, Frequency penalty, Presence penalty](https://homus.dev/photos/qvTvXpz6gGc-1003.jpg)

"That sampling strategy is where you get control": bảng ví dụ các núm gồm temperature (lower = focused, higher = creative), top P (nucleus), top K, frequency penalty và presence penalty; dòng cuối "Different knob settings = Different outputs" (video đăng ngày 19/11/2026).

Đây là các núm của bạn, theo người dẫn (video đăng ngày 19/11/2026):

- **Temperature** làm phẳng hoặc làm nhọn phân phối. Gần 0 nghĩa là tập trung, nhất quán, đôi khi lặp lại. Cao hơn nghĩa là đa dạng, sáng tạo, và tới một lúc thì loạn. Với classification hay extraction, để thấp; với brainstorming, để cao hơn (theo video đăng ngày 19/11/2026).

- **Top K và Top P**, Top P còn gọi là nucleus sampling, giới hạn tập ứng viên trước khi sample. Top K là chỉ xét vài lựa chọn đứng đầu. Top P là chỉ xét những lựa chọn có khả năng cao nhất mà cộng lại đạt một khối lượng xác suất nhất định (theo video đăng ngày 19/11/2026).

- **Greedy decoding** là luôn lấy token có xác suất cao nhất (theo video đăng ngày 19/11/2026).

- Thêm **max tokens** cho độ dài, **stop sequences** để dừng việc sinh, **seed** để tái lập, và **penalty** để giảm lặp (theo video đăng ngày 19/11/2026).

Và một sự thật mà theo người dẫn sẽ tiết kiệm cho bạn hàng tuần: ngay cả ở temperature bằng 0, bạn không được đảm bảo output giống hệt nhau mọi lần khi chạy ở quy mô lớn. Nên nếu bạn không tái lập được một kết quả chính xác, bạn không bị điên đâu (theo video đăng ngày 19/11/2026).

## 8. Context window, model không có trí nhớ, và hallucination

Tiếp theo là context window, số token tối đa model nhìn thấy được trong một lần gọi. Người dẫn bảo hãy chính xác về những gì nằm trong đó, vì người ta liên tục đánh giá thấp nó: system prompt, user prompt, toàn bộ lịch sử hội thoại, các tài liệu được retrieve, tất cả tool definition, và cả output nó đang sinh ra. Tất cả. Một cái xô (theo video đăng ngày 19/11/2026).

![Một cái xô ghi One bucket, các mũi tên từ system prompt, user prompt, conversation history, retrieved documents, tool definitions, output being generated](https://homus.dev/photos/qvTvXpz6gGc-1122.jpg)

"All of it, one bucket": system prompt, user prompt, conversation history, retrieved documents, tool definitions và output being generated cùng đổ vào một xô, trên xô có biểu tượng đồng đô la (video đăng ngày 19/11/2026).

Đây là sự thật mà theo người dẫn khiến người ta phải ngồi thẳng dậy: model không có trí nhớ giữa các lần gọi. Bằng không. Mọi cuộc hội thoại bạn từng có với một AI đều là toàn bộ lịch sử được gửi lại từ đầu ở mỗi tin nhắn. Model không nhớ bạn. Ứng dụng của bạn đang đọc to lại toàn bộ bản ghi cuộc trò chuyện cho một người lạ nghe, mỗi một lần (theo video đăng ngày 19/11/2026).

Thêm hai thuật ngữ. Context rot: độ chính xác giảm dần về phía giữa của những context rất dài; theo người dẫn (video đăng ngày 19/11/2026), window lớn hơn không giải quyết được chuyện trí nhớ. Và KV cache, lý do token đầu tiên mất một lúc còn các token sau đến nhanh.

Điều đó dẫn tới quan niệm sai mà người dẫn muốn "giết" nhất: model không tra cứu gì cả. Mặc định không có gì được retrieve. Mọi mẩu kiến thức đã được nén vào weight trong lúc training, và nén thì mất mát. Nên khi nó không có đúng sự thật đó, nó tạo ra thứ nghe hợp lý nhất về mặt thống kê, một cách tự tin. Đó là hallucination (theo video đăng ngày 19/11/2026).

Theo người dẫn (video đăng ngày 19/11/2026), một khi đã hiểu điều đó, hallucination thôi bí ẩn và trở thành một bài toán engineering với những giải pháp đã biết, và đó là toàn bộ nửa sau của video.

## 9. Ngoài text: diffusion, audio, video, multimodal

Một vòng nhanh qua mọi thứ không phải text, vì theo người dẫn Gen AI không phải là cùng một thứ với LLM. Tạo ảnh phần lớn chạy trên diffusion model, và mẹo cốt lõi của nó rất gọn: bạn train một model để khử nhiễu khỏi một bức ảnh, rồi bắt đầu từ nhiễu ngẫu nhiên thuần tuý và chạy việc khử đó lặp đi lặp lại, và một bức ảnh hiện ra. Phép so sánh là một nhà điêu khắc đục đá cẩm thạch, chỉ có điều ở mỗi nhát đục, text prompt của bạn dẫn đường cho cái đục (theo video đăng ngày 19/11/2026).

Latent diffusion là mẹo hiệu quả đã đưa chuyện này lên phần cứng tiêu dùng: làm việc trong một biểu diễn nén gọi là latent space thay vì pixel thô. Text điều khiển nó thế nào? Prompt của bạn được embed, và cross-attention cho phép bộ khử nhiễu (denoiser) dựa vào nó. CFG scale là mức độ tuân theo prompt chặt đến đâu (theo video đăng ngày 19/11/2026).

Rồi tới bộ từ vựng mà theo người dẫn bạn sẽ thấy ở khắp nơi: seed, steps, sampler, negative prompt, inpainting, image-to-image, ControlNet, LoRA. Trong tài liệu cũ hơn, bạn sẽ gặp GAN, đặt một generator đấu với một discriminator, và VAE, encode vào một latent space xác suất rồi decode ngược lại. Người dẫn gọi đó là kiến thức lịch sử, không hơn (theo video đăng ngày 19/11/2026).

Với audio, có speech-to-text, text-to-speech, voice cloning và tạo nhạc. Với video, bài toán khó có tên: temporal coherence, giữ các vật thể nhất quán từ khung hình này sang khung hình khác. Theo người dẫn (video đăng ngày 19/11/2026), đó là lý do video khó hơn và đắt hơn hình ảnh nhiều bậc độ lớn.

Và multimodal. Khác biệt quan trọng là native multimodality so với một pipeline lắp ghép (bolted-on). Native nghĩa là model xử lý hình ảnh trong cùng không gian biểu diễn với text. Bolted-on nghĩa là ai đó chạy OCR rồi đưa text cho một language model. Theo người dẫn, native mạnh hơn nhiều. Vision language model, VLM, theo người dẫn hiện đã sẵn sàng cho production với việc hiểu tài liệu, tự động hoá qua screenshot và đọc biểu đồ. Nhưng lưu ý: multimodal input sẵn sàng cho production hơn nhiều so với multimodal output; phần lớn sản phẩm thật là vision vào, text ra (theo video đăng ngày 19/11/2026).

Và một ngộ nhận: model hình ảnh không cắt ghép những bức ảnh chúng đã thuộc lòng. Chúng không lưu ảnh training. Chúng học cấu trúc thống kê, ví dụ "golden hour lighting" nghĩa là gì như một pattern. Theo người dẫn (video đăng ngày 19/11/2026), đó cũng là trọng tâm của một cuộc tranh luận pháp lý đang diễn ra về dữ liệu training, thực sự vẫn chưa ngã ngũ. Phần nền móng tới đây là xong.

## 10. Prompting: cái gì đo được là có tác dụng, cái gì không

Giờ thì build. Prompting, và người dẫn muốn làm cho đàng hoàng vì theo người dẫn (video đăng ngày 19/11/2026) phần lớn lời khuyên về prompt trên mạng là mê tín. Một prompt tốt có các thành phần, không có từ thần chú: vai trò và bối cảnh, nhiệm vụ, ràng buộc, ví dụ, định dạng output, rồi tới dữ liệu input. Và trong hệ thống thật, bạn tách system prompt, thứ đặt hành vi lâu dài, khỏi user prompt, thứ mang yêu cầu.

Những kỹ thuật có tác dụng đo được, theo người dẫn (video đăng ngày 19/11/2026):

- **Zero-shot** là không có ví dụ; **few-shot** là đưa vào một nhúm ví dụ. Few-shot có tác dụng vì một lý do cụ thể: ví dụ trong context là tín hiệu mạnh nhất có thể về định dạng bạn muốn. Đừng mô tả hình dạng output, hãy cho nó xem (theo video đăng ngày 19/11/2026).

- **Chain of thought** là yêu cầu model suy luận từng bước trước khi trả lời. Vẫn đáng biết, dù các model được train để reasoning giờ tự làm việc này, nên việc prompt rõ ràng cho nó ít quan trọng hơn so với hai năm trước (theo video đăng ngày 19/11/2026).

- **Structured output.** Theo người dẫn, nếu bạn build bất cứ thứ gì thật, đây là kỹ thuật đòn bẩy cao nhất trong danh sách. Bạn ép câu trả lời vào một schema định sẵn, thường là JSON, bằng JSON mode hoặc schema enforcement. Trong Python, bạn định nghĩa schema đó bằng Pydantic, rồi cho câu trả lời đi qua một output parser kiểm tra nó tuân thủ trước khi bất cứ thứ gì chạm tới database. Vì sao điều này quan trọng đến vậy? Nó biến một bộ sinh text thành một thành phần phần mềm đáng tin cậy, và theo người dẫn đó là toàn bộ bước nhảy từ đồ chơi tới sản phẩm (video đăng ngày 19/11/2026).

- **Prompt chaining** là chia việc qua nhiều lần gọi nhỏ hơn theo trình tự. Theo người dẫn, nhiều lần gọi nhỏ và đáng tin thắng một lần gọi khổng lồ và mong manh gần như mọi lúc (video đăng ngày 19/11/2026).

- Rồi **self-consistency**, **role prompting**, và **delimiter** rõ ràng để tách chỉ dẫn khỏi dữ liệu (theo video đăng ngày 19/11/2026).

Giờ tới cái không có tác dụng, vì theo người dẫn bạn sẽ thấy tất cả chúng trên các thumbnail. Lịch sự, đe doạ, hối lộ, và những câu thần chú kiểu "you are a world-class expert" có tác dụng ít hơn nhiều so với người ta khẳng định. Chỉ dẫn phủ định như "đừng nhắc tới giá" nhất quán yếu hơn chỉ dẫn khẳng định như "chỉ nói về tính năng". Và những từ chỉ chất lượng mơ hồ là vô dụng: "làm cho tốt hơn", "chuyên nghiệp vào". Model không đọc được suy nghĩ của bạn về "tốt hơn" nghĩa là gì. Hãy cụ thể, hoặc đừng bận tâm (theo video đăng ngày 19/11/2026).

Và quan niệm sai: prompt engineering không phải là toàn bộ công việc. Nó từng là một chức danh hot vào năm 2023. Theo người dẫn (video đăng ngày 19/11/2026), giờ nó là một kỹ năng con bên trong một thứ lớn hơn gọi là context engineering: vẫn thiết yếu, nhưng không còn là đích đến.

## 11. Context engineering và pipeline RAG

Điều đó đưa tới phần mà người dẫn gọi là có giá trị thực tế nhất trong video: context engineering và RAG. Prompt engineering là viết một chỉ dẫn tốt. Context engineering là thiết kế toàn bộ pipeline quyết định token nào tới được model ở mỗi lần gọi. Theo người dẫn (video đăng ngày 19/11/2026), đó là một công việc lớn hơn nhiều, và đó là thứ người ta thực sự đang tuyển.

RAG là viết tắt của retrieval augmented generation: lấy dữ liệu liên quan, chèn nó vào context, rồi sinh ra câu trả lời. Theo người dẫn (video đăng ngày 19/11/2026), nó giải quyết ba vấn đề: model không biết dữ liệu riêng của bạn, kiến thức của nó có ngày cutoff, và bạn cần trích nguồn, vì "cứ tin tôi đi" không chấp nhận được trong kinh doanh.

Pipeline có hai nửa. Offline là indexing: lấy tài liệu, parse, chunk, embed các chunk, lưu vào một vector database. Online là retrieval: một query đến, bạn embed nó, chạy similarity search, xếp hạng kết quả, chèn những kết quả thắng vào prompt, sinh câu trả lời và trích nguồn. Người dẫn gọi đó là "happy path" (theo video đăng ngày 19/11/2026).

![Bảy bước: Query comes in, Embed the query, Run similarity search, Rank the results, Inject the winners into the prompt, Generate, Cite](https://homus.dev/photos/qvTvXpz6gGc-1803.jpg)

Nửa online của RAG theo bảy bước trên màn hình: query comes in, embed the query, run similarity search, rank the results (ví dụ điểm 0.92, 0.87, 0.71), inject the winners into the prompt, generate, cite (video đăng ngày 19/11/2026).

## 12. RAG hỏng ở đâu, lớp nâng cao, và quản lý context window

Giờ tới điều mà theo người dẫn gần như không ai dạy: mỗi giai đoạn hỏng ở đâu? (theo video đăng ngày 19/11/2026)

- **Parsing.** PDF, bảng và tài liệu scan thực sự khó. Rác vào, rác mãi mãi. Theo người dẫn, một phần rất lớn các lỗi RAG bắt đầu ngay ở đây rồi bị đổ cho model (video đăng ngày 19/11/2026).

- **Chunking.** Kích thước cố định, theo ngữ nghĩa, hay theo cấu trúc, cộng với overlap bao nhiêu. Làm sai thì bạn tách một câu khỏi chủ ngữ của nó, và chunk đó khi được retrieve là vô nghĩa (theo video đăng ngày 19/11/2026).

- **Embedding.** Model nào? Bao nhiêu chiều? Chi phí so với chất lượng. Và đây là "sát thủ thầm lặng": dùng một embedding model cho index và một model khác cho query, thế là mọi thứ hỏng hoàn toàn và lặng lẽ. Không báo lỗi, chỉ có câu trả lời tệ mãi mãi (theo video đăng ngày 19/11/2026).

- **Vector store.** Các lựa chọn chuyên dụng như Pinecone, Chroma, Weaviate, Milvus, và pgvector, thứ chỉ đơn giản là Postgres có hỗ trợ vector. Lời khuyên thật lòng của người dẫn: phần lớn project nên bắt đầu với pgvector; một vector database "lạ" ngay ngày đầu là tối ưu hoá quá sớm (theo video đăng ngày 19/11/2026).

- **Search**, phần lớn. Dense search là semantic search dùng embedding. Sparse search, như BM25, là khớp từ khoá. Và semantic search thuần tuý dở một cách bất ngờ ở các thuật ngữ chính xác: mã sản phẩm, mã lỗi, tên, số linh kiện. Hybrid search kết hợp cả hai và sửa được điều đó. Theo người dẫn, nếu chỉ lấy một điều mang tính chiến thuật từ phần này, hãy dùng hybrid search (video đăng ngày 19/11/2026).

- **Reranking.** Bạn retrieve khoảng 50 ứng viên, rồi một model thứ hai chính xác hơn gọi là cross-encoder chấm lại và lọc xuống năm cái tốt nhất. Theo người dẫn, bỏ qua bước này là lý do phổ biến nhất khiến người ta nói "retrieval trông ổn mà câu trả lời lại tệ" (video đăng ngày 19/11/2026).

- **Generation.** Chỉ dẫn grounding, định dạng trích nguồn, và cho phép rõ ràng việc từ chối khi context không đủ để trả lời. Theo người dẫn, thiếu những thứ đó thì model bỏ qua các tài liệu bạn retrieve và quay về những gì nó vốn tin (prior) (video đăng ngày 19/11/2026).

Rồi tới lớp nâng cao, theo người dẫn (video đăng ngày 19/11/2026). Query transformation, trong đó có HyDE: bạn sinh ra một câu trả lời giả định và embed nó thay cho câu hỏi. Agentic RAG, nơi model quyết định có retrieve không và retrieve bao nhiêu lần: độ chính xác cao hơn, latency cao hơn, chi phí cao hơn. GraphRAG cho những lúc quan hệ giữa các thực thể quan trọng hơn độ giống nhau của các đoạn văn. Và metadata filtering, theo người dẫn thường là một chiến thắng lớn hơn bất kỳ nâng cấp embedding cầu kỳ nào: lọc theo ngày hoặc phòng ban trước, rồi mới search.

Quản lý context window gói gọn trong bốn thao tác, theo người dẫn (video đăng ngày 19/11/2026): write, đẩy ra bộ nhớ ngoài; select, chỉ retrieve thứ cần; compress, tóm tắt các lượt cũ; isolate, chia việc cho các sub-agent. Với hội thoại dài, sliding window cộng tóm tắt là mặc định thực tế.

Quan niệm sai ở đây: context window dài đã khiến RAG lỗi thời. Không. Người dẫn đưa ba lý do: chi phí, vì bạn trả tiền cho mọi token ở mọi lần gọi; latency; và context rot. Retrieval là chuyện gửi đúng token, không phải gửi nhiều token nhất (theo video đăng ngày 19/11/2026).

## 13. Tool calling, định nghĩa agent, và cái thang độ phức tạp

Giờ tới agent. Theo người dẫn (video đăng ngày 19/11/2026), đó là từ được hype nhiều nhất trong ngành, nên phải chính xác. Trước hết là cơ chế bên dưới: tool calling, còn gọi là function calling. Năm bước:

- Bạn mô tả các tool có sẵn cho model dưới dạng schema có cấu trúc (theo video đăng ngày 19/11/2026).

- Model xuất ra một yêu cầu có cấu trúc để gọi một tool. Nó không thực thi gì cả (theo video đăng ngày 19/11/2026).

- Code của bạn thực thi function (theo video đăng ngày 19/11/2026).

- Bạn đưa kết quả ngược vào context (theo video đăng ngày 19/11/2026).

- Model tiếp tục từ đó (theo video đăng ngày 19/11/2026).

Người dẫn bảo hãy đọc lại bước hai, vì mọi thứ phụ thuộc vào nó. Model không bao giờ chạm vào database của bạn. Nó viết một yêu cầu; bạn quyết định có thực hiện hay không. Theo người dẫn (video đăng ngày 19/11/2026), mọi thuộc tính bảo mật trong hệ thống của bạn đều xuất phát từ một sự thật đó.

Vậy cái gì làm nên một agent? Định nghĩa gọn của người dẫn: một agent là một language model chạy trong một vòng lặp có tool, tự quyết định bước tiếp theo của mình cho tới khi đạt mục tiêu (theo video đăng ngày 19/11/2026).

Và có một cái thang cần thấm. Dưới cùng là một lần gọi đơn, rồi các lần gọi nối chuỗi, rồi một router, rồi một workflow có nhánh, rồi một autonomous agent, rồi một hệ multi-agent. Theo người dẫn (video đăng ngày 19/11/2026), mỗi bậc bạn leo lên mua thêm sự linh hoạt và trả giá bằng độ tin cậy, khả năng debug, latency và tiền. Nên chỉ leo cao đến mức bạn buộc phải leo.

![Cái thang sáu bậc: single call, chained calls, router, workflow with branches, autonomous agent, multi-agent system](https://homus.dev/photos/qvTvXpz6gGc-2202.jpg)

"A ladder of complexity" sáu bậc từ dưới lên: single call, chained calls, router, workflow with branches, autonomous agent, multi-agent system (video đăng ngày 19/11/2026).

Theo người dẫn (video đăng ngày 19/11/2026), phần lớn các bài toán được dán nhãn "agent" được giải tốt hơn bằng một workflow, khi bạn đã biết trước đường đi. Pattern nền tảng là ReAct: reason, act, observe, lặp lại. Ngoài ra có thiết kế lập kế hoạch trước so với thiết kế phản ứng, các vòng reflection nơi agent tự phê bình việc của mình, và hệ multi-agent với supervisor và worker. Người dẫn nói thẳng: hệ multi-agent trông tuyệt vời trong demo và thường xuyên là ác mộng debug trong production.

## 14. Memory, MCP, framework, và compounding error

Memory. Ngắn hạn chỉ là context window. Dài hạn là một kho bên ngoài, và có nhiều loại: lịch sử hội thoại; semantic memory, sự thật về người dùng; episodic, các tương tác trong quá khứ; procedural, các workflow đã học. Nhưng cách triển khai luôn là tóm tắt, lưu, retrieve, nghĩa là theo người dẫn memory là một bài toán RAG đội một chiếc mũ khác (video đăng ngày 19/11/2026).

Rồi MCP, Model Context Protocol, một chuẩn mở để kết nối model với tool và dữ liệu, để một integration được viết một lần thay vì mỗi framework một lần. Nhưng có một cái bẫy mà theo người dẫn không ai nhắc tới: tool schema của mọi server được kết nối đều ăn token context ở mỗi lần gọi, trước khi người dùng nói bất cứ điều gì. Kết nối 15 server "phòng khi cần" là tốn kém và chủ động làm giảm khả năng chọn đúng tool của model (theo video đăng ngày 19/11/2026).

Framework, theo người dẫn (video đăng ngày 19/11/2026): LangChain cho điều phối chung, LangGraph cho workflow có state dựa trên graph, LlamaIndex cho các app nặng về retrieval, cộng thêm CrewAI và n8n.

Lời khuyên mà người dẫn nói sẽ không lỗi thời (video đăng ngày 19/11/2026): build agent đầu tiên của bạn bằng API call thô và một vòng while. Hiểu vòng lặp trước khi trừu tượng hoá nó, rồi mới dùng framework cho những phần thực sự khổ, đó là quản lý state, checkpointing và observability.

Và quan niệm sai: agent tự chủ và đáng tin cậy. Vấn đề cốt lõi có tên: compounding error. Nếu mỗi bước đáng tin 95%, mười bước đưa bạn tới khoảng 60%. Người dẫn bảo hãy làm phép tính đó cho chính sản phẩm của bạn (theo video đăng ngày 19/11/2026).

![Mười bước mỗi bước 95%, tổng 60% overall reliability, công thức 0.95 mũ 10 xấp xỉ 0.598](https://homus.dev/photos/qvTvXpz6gGc-2413.jpg)

"If each step is 95% reliable, ten steps gets you to about 60%": mười ô 95% nối nhau, vòng tròn "60% overall reliability", dòng "Mathematically: 0.9510 ≈ 0.598 → 60%" và ghi chú "It's not a big failure in one step. It's the compounding." (video đăng ngày 19/11/2026).

Các cách giảm thiểu, theo người dẫn (video đăng ngày 19/11/2026): giới hạn bộ tool, đặt trần số vòng lặp, checkpoint state, giữ một người trong vòng lặp cho các hành động có hậu quả, và ưu tiên workflow bất cứ khi nào bạn đã biết đường đi.

## 15. Tuỳ biến model: khung quyết định, LoRA, dữ liệu

Tuỳ biến model. Theo người dẫn (video đăng ngày 19/11/2026), phần này tiết kiệm tiền cho bạn. Đây là khung quyết định:

- Cần model biết kiến thức khác? RAG (theo video đăng ngày 19/11/2026).

- Cần định dạng, văn phong hay giọng điệu khác? Prompting, rồi few-shot, rồi có thể fine-tuning (theo video đăng ngày 19/11/2026).

- Cần chi phí hoặc latency thấp hơn? Distill sang một model nhỏ hơn (theo video đăng ngày 19/11/2026).

- Cần một kỹ năng thực sự mới hoặc thuật ngữ chuyên ngành sâu? Lúc này fine-tuning mới hợp lý (theo video đăng ngày 19/11/2026).

- Không chắc? Prompting. Luôn bắt đầu ở đó (theo video đăng ngày 19/11/2026).

Quy tắc người dẫn nêu trong video đăng ngày 19/11/2026: làm cạn prompting, rồi few-shot, rồi RAG, trước khi cân nhắc fine-tuning.

Quy tắc là làm cạn prompting, rồi few-shot, rồi RAG, trước khi thậm chí cân nhắc fine-tuning. Theo người dẫn (video đăng ngày 19/11/2026), đó là lựa chọn đắt nhất và khó đảo ngược nhất, và cũng là lựa chọn người mới với tới đầu tiên.

Full fine-tuning cập nhật tất cả weight, đắt. PEFT, parameter-efficient fine-tuning, chỉ cập nhật một tập con nhỏ. Cái đáng biết là LoRA, low-rank adaptation: bạn đóng băng hoàn toàn weight gốc và train những ma trận adapter nhỏ bên cạnh. Theo người dẫn (video đăng ngày 19/11/2026), cách này rẻ hơn hẳn, và adapter thay được như ống kính trên máy ảnh. QLoRA thêm quantization lên trên để thu nhỏ bộ nhớ hơn nữa.

Và đây là phần người ta hay bỏ qua: bộ dữ liệu là tất cả. Trên màn hình, ô "Few hundred excellent examples" đứng trước dấu ">", đối diện ô "Tens of thousands of mediocre ones", tức vài trăm ví dụ xuất sắc hơn hàng chục nghìn ví dụ tầm thường. Người dẫn khuyên dồn công sức vào việc chọn lọc dữ liệu (data curation), không phải chỉnh hyperparameter (theo video đăng ngày 19/11/2026).

Thêm hai khái niệm, theo người dẫn (video đăng ngày 19/11/2026). Catastrophic forgetting: model của bạn giỏi hơn ở nhiệm vụ hẹp của bạn và tệ đi một cách đo được ở mọi thứ khác. Và distillation: dùng một model lớn để sinh dữ liệu training cho một model nhỏ, theo người dẫn ngày càng là kỹ thuật có lợi nhuận cao nhất để kiểm soát chi phí production.

Bạn cũng sẽ nghe tới quantization, cắt độ chính xác số xuống, ví dụ 4-bit, để thu nhỏ bộ nhớ, và pruning, loại bỏ các weight không cần thiết. Theo người dẫn (video đăng ngày 19/11/2026), cả hai đổi một chút chất lượng lấy nhiều hiệu quả.

Open so với closed model, theo người dẫn (video đăng ngày 19/11/2026): open weights cho bạn quyền kiểm soát, quyền riêng tư và chi phí tốt hơn khi ở quy mô lớn. Closed model cho năng lực đỉnh, không gánh bảo trì và ship nhanh hơn. Một reality check: weight miễn phí không có nghĩa là chạy miễn phí. GPU và thời gian vận hành là chi phí thật.

## 16. Evaluation: phần giúp người ta được tuyển

Người dẫn nói phần tiếp theo là phần giúp người ta được tuyển, và nói rằng mình có ý đó theo nghĩa đen: evaluation. Vấn đề là các hệ thống này non-deterministic, bạn không thể test chúng bằng một assert equals đơn giản. Theo người dẫn (video đăng ngày 19/11/2026), không có eval thì bạn đang ship cảm giác (vibes): mỗi lần đổi prompt là một lần tung đồng xu, và bạn không bao giờ biết việc cải thiện một thứ có lặng lẽ làm hỏng ba thứ khác không.

Bắt đầu thế nào? 20 ví dụ thật, không phải 2.000 ví dụ tổng hợp. Hai mươi. Người dẫn nói to con số đó vì nó xoá đi cái cớ để không bao giờ bắt đầu. Rồi liên tục đào các lỗi thật, để mỗi bug production trở thành một test case vĩnh viễn; phủ golden path, các edge case và các input mang tính tấn công (adversarial) (theo video đăng ngày 19/11/2026).

Các phương pháp, theo người dẫn (video đăng ngày 19/11/2026):

- **Exact match và kiểm tra deterministic** cho classification, extraction, JSON hợp lệ (theo video đăng ngày 19/11/2026).

- **LLM-as-judge** cho chất lượng mở, giọng điệu và mức hữu ích (theo video đăng ngày 19/11/2026).

- **Pairwise comparison**, hỏi "bản B có tốt hơn A không", theo người dẫn đáng tin hơn chấm điểm trên một thang tuyệt đối (video đăng ngày 19/11/2026).

- **Human review**, sự thật nền (ground truth) dùng để hiệu chỉnh mọi thứ khác (theo video đăng ngày 19/11/2026).

Nếu dùng LLM-as-judge, hãy biết các kiểu hỏng của nó: position bias, thiên về câu trả lời đến trước; verbosity bias, thiên về câu trả lời dài hơn; và self-preference, thiên về họ model của chính nó. Cách giảm thiểu là rubric rõ ràng, thứ tự ngẫu nhiên, và hiệu chỉnh theo nhãn của con người (theo video đăng ngày 19/11/2026).

Với RAG, theo dõi retrieval hit rate, context precision và recall, faithfulness, nghĩa là câu trả lời có thực sự được context retrieve hỗ trợ không, và answer relevance. Điểm then chốt, theo người dẫn (video đăng ngày 19/11/2026): đánh giá retrieval tách riêng khỏi generation, nếu không bạn sẽ không bao giờ biết nửa nào đang hỏng. Với agent, theo dõi tỷ lệ hoàn thành nhiệm vụ, chất lượng trajectory, độ đúng của tool call, số bước và chi phí mỗi nhiệm vụ.

Rồi trong production, bạn cần observability. Tracing nghĩa là ghi lại mọi model call, tool call và retrieval trong một request trace hoàn chỉnh; theo người dẫn, với việc debug agent thì không thể thiếu. Theo dõi latency, token usage, chi phí mỗi request, tỷ lệ lỗi và retry, và feedback người dùng. Rồi chạy regression test ở mỗi lần đổi prompt. Các tool như LangSmith và Promptfoo có mặt chính là cho việc này (theo video đăng ngày 19/11/2026).

Và quan niệm sai: "để sau tôi sẽ thêm eval". Theo người dẫn (video đăng ngày 19/11/2026), "để sau" nghĩa là không bao giờ, và tới lúc đó bạn không còn baseline nào để so sánh. 20 ví dụ trong một spreadsheet vào ngày đầu tiên thắng một eval framework hoàn hảo vào ngày thứ 90.

## 17. Safety, security và production engineering

Safety và security, người dẫn gọi là một phần ngắn nhưng rủi ro cao. Vấn đề định hình là prompt injection. Direct injection là người dùng tấn công prompt của bạn. Indirect là chỉ dẫn độc hại giấu trong một trang web, một tài liệu, hay một email mà agent của bạn đọc; theo người dẫn, indirect mới là loại đáng sợ (video đăng ngày 19/11/2026).

Vì sao chưa giải quyết được? Theo người dẫn (video đăng ngày 19/11/2026), vì model không có sự tách biệt về kiến trúc giữa chỉ dẫn và dữ liệu. Tất cả chỉ là token trong một context. Không có bản vá nào cho điều đó; hãy thiết kế xoay quanh nó.

Khung cần nhớ được gọi là lethal trifecta. Rủi ro trở nên nghiêm trọng khi một agent đồng thời có cả ba thứ: một, quyền truy cập dữ liệu riêng tư; hai, tiếp xúc với nội dung không đáng tin; ba, khả năng giao tiếp ra bên ngoài. Bẻ gãy bất kỳ một chân nào thì cuộc tấn công mất phần thu hoạch. Theo người dẫn (video đăng ngày 19/11/2026), đó là một nguyên tắc thiết kế, không phải một bộ lọc bạn cài vào.

![Ba ô: Access to private data, Exposure to untrusted content, The ability to communicate externally; dòng All three together = high risk](https://homus.dev/photos/qvTvXpz6gGc-2943.jpg)

"Risk becomes severe when an agent simultaneously has all three of these": access to private data, exposure to untrusted content, the ability to communicate externally; dòng cuối "All three together = high risk" (video đăng ngày 19/11/2026).

Các lớp phòng thủ, theo người dẫn (video đăng ngày 19/11/2026): least privilege với tool, con người phê duyệt mọi thứ có hậu quả, sandboxing, lọc input và output, và mặc định coi mọi output của tool là không đáng tin.

Các kiểu hỏng khác, theo người dẫn (video đăng ngày 19/11/2026): hallucination, giảm thiểu bằng grounding, trích nguồn và cho phép rõ ràng việc nói "tôi không biết"; jailbreaking, và biết rằng chỉ riêng bộ lọc thì không bao giờ đủ; rò rỉ dữ liệu, khi thông tin cá nhân lọt vào prompt, log hay dữ liệu training, điều khiến việc log mọi thứ thành một gánh nặng compliance; bias thừa hưởng từ dữ liệu training; sycophancy, khi model đồng ý với bạn thay vì nói chính xác; và cost attack dùng các vòng lặp không giới hạn. Guardrails là thuật ngữ bao trùm cho các ràng buộc bạn đặt lên input và output.

Một lời ngắn về production engineering, vì theo người dẫn đây là nơi demo đi vào chỗ chết. Một demo chạy được là khoảng 10% công việc (theo video đăng ngày 19/11/2026).

Chi phí trước, theo người dẫn (video đăng ngày 19/11/2026). Model routing, còn gọi là cascading, nghĩa là mọi thứ đi tới một model rẻ trước và chỉ những ca khó mới được đẩy lên; theo người dẫn đây thường là cách giảm chi phí lớn nhất có được. Prompt caching tái sử dụng phần tính toán trên một prefix lặp lại, rất lợi với system prompt dài. Semantic caching phục vụ các query gần trùng lặp từ cache. Gom batch mọi thứ không cần real-time, và tính chi phí mỗi request trước khi ship, không phải sau khi hoá đơn tới.

Latency, theo người dẫn (video đăng ngày 19/11/2026): stream output, vì time-to-first-token là thứ người dùng thực sự cảm nhận. Chạy song song các lần gọi độc lập, và chấp nhận tam giác đánh đổi: chất lượng, chi phí, tốc độ, chọn hai.

Độ tin cậy, theo người dẫn (video đăng ngày 19/11/2026): retry với exponential backoff, timeout, chuỗi model dự phòng (fallback) cho lúc một nhà cung cấp sập, "vì họ có sập thật", giảm cấp nhẹ nhàng (graceful degradation), và xử lý rate limit. Về kiến trúc, một app Gen AI production là client, rồi API gateway, rồi một orchestration layer nói chuyện với các nhà cung cấp model, vector store và các tool của bạn, mọi thứ đổ vào một observability sink. Và giữ một lớp trừu tượng nhà cung cấp (provider abstraction) để không bị khoá vào một vendor.

## 18. Lộ trình chín project, các vai trò, và lời khuyên cuối

Phần cuối: làm sao biến tất cả những điều này thành một sự nghiệp? Theo người dẫn (video đăng ngày 19/11/2026), hãy build theo thứ tự này và để mỗi project ép bạn học một kỹ năng cụ thể:

- Một tool gọi API thô không dùng framework, một bộ tóm tắt hoặc phân loại. Nó dạy cơ chế API, parameter, token, chi phí (theo video đăng ngày 19/11/2026).

- Một dịch vụ structured extraction biến tài liệu lộn xộn thành JSON đã được kiểm tra hợp lệ (theo video đăng ngày 19/11/2026).

- RAG trên chính tài liệu của bạn: chunking, embedding, vector search, trích nguồn (theo video đăng ngày 19/11/2026).

- Và theo người dẫn, đây là project giúp bạn có phỏng vấn: RAG phiên bản 2, được đo và cải thiện bằng hybrid search, reranking và một eval set thật (theo video đăng ngày 19/11/2026).

- Một agent dùng tool với vòng lặp tự viết tay (theo video đăng ngày 19/11/2026).

- Agent đó build lại trên một framework, có tracing đầy đủ (theo video đăng ngày 19/11/2026).

- Một app multimodal hiểu tài liệu hoặc screenshot (theo video đăng ngày 19/11/2026).

- Một model nhỏ được fine-tune đánh bại một model lớn ở một nhiệm vụ hẹp (theo video đăng ngày 19/11/2026).

- Một app production đầy đủ, có caching, monitoring và một cost dashboard (theo video đăng ngày 19/11/2026).

Các vai trò, theo người dẫn (video đăng ngày 19/11/2026): AI hay Gen AI engineer, build ứng dụng trên các model có sẵn, vai trò có số lượng tuyển nhiều nhất, và là thứ video này đào tạo bạn. ML engineer, train và deploy model. Research scientist, tạo ra phương pháp mới, thường là con đường PhD. Có một chuyên môn mới nổi gọi là context engineer, tập trung vào kiến trúc cấp đúng thông tin cho agent vào đúng lúc. Và đừng bỏ qua AI product manager, AI solutions architect, hay các vai trò applied AI trong những công ty không làm công nghệ; theo người dẫn đó thường là đường vào nhanh nhất và bị đánh giá thấp nặng.

Điều gì thực sự giúp bạn được tuyển? Theo người dẫn (video đăng ngày 19/11/2026): project đã ship với kết quả đo được thắng một portfolio toàn demo, thứ thắng chứng chỉ, thứ lại thắng việc hoàn thành khoá học. Khác biệt gói trong một dòng: "Tôi đã build một RAG chatbot" gần như không đáng gì, vì ai cũng đã build một cái. "Tôi đã cải thiện độ chính xác retrieval từ 61% lên 88% bằng cách thêm hybrid search và một reranker, đo trên một eval set 200 câu hỏi" thì đáng một buổi phỏng vấn. Luôn mang theo một con số.

![Câu trích I improved retrieval accuracy from 61% to 88% by adding hybrid search and a reranker, measured on a 200-question eval set; sơ đồ hybrid search, reranker, biểu đồ 61% lên 88%](https://homus.dev/photos/qvTvXpz6gGc-3344.jpg)

Câu mẫu cho CV trên màn hình: "I improved retrieval accuracy from 61% to 88% by adding hybrid search and a reranker, measured on a 200-question eval set", sơ đồ user query qua hybrid search (keyword và vector search), reranker, biểu đồ before 61% và after 88%, nhãn "Worth an interview" và "Always carry a number" (video đăng ngày 19/11/2026).

Làm sao cập nhật mà không bị chìm? Theo người dẫn (video đăng ngày 19/11/2026), những nền tảng trong video này, token, attention, retrieval, evaluation, thiết kế agent, thay đổi chậm. Tên model và thứ hạng trên leaderboard thay đổi hằng tuần và phần lớn không ảnh hưởng tới kiến trúc của bạn. Hãy đọc nguồn gốc, model card, tài liệu của nhà cung cấp, các bài báo thật, thay vì những bài listicle mâu thuẫn nhau. Và tự build benchmark của bạn: mười prompt từ đúng use case của bạn; khi một model mới ra, chạy chúng. Benchmark của bạn thắng leaderboard của bất kỳ ai vì nó đo bài toán của bạn.

Để khép lại, người dẫn quay lại câu ở đầu video: một generative model dự đoán mảnh nội dung tiếp theo dựa trên mọi thứ đứng trước nó, và mọi kỹ thuật chỉ là một câu trả lời khác cho câu hỏi "làm sao tôi kiểm soát được thứ đứng trước nó?". Nhìn lại những gì bạn giờ đã biết: prompting kiểm soát context trực tiếp. RAG chèn đúng sự thật vào đó. Context engineering thiết kế toàn bộ pipeline lấp đầy nó. Agent để model tự xây context của mình từng bước bằng tool. Fine-tuning thay đổi chính cái function. Evaluation cho bạn biết có cái nào trong đó chạy được không. Và production engineering giúp nó sống sót trước người dùng thật và một hoá đơn thật (theo video đăng ngày 19/11/2026).

Theo người dẫn (video đăng ngày 19/11/2026), đó không còn là 100 buzzword rời rạc nữa, mà là một ý tưởng nhìn từ bảy góc.

Lời khuyên cuối mà người dẫn gọi là thật lòng (video đăng ngày 19/11/2026): đừng cố học tất cả những thứ này cùng lúc. Tối nay mở editor, gọi một lần API, in câu trả lời ra và nhìn số token. Đó là ngày thứ nhất. Rồi làm project một trong tuần này. Những người thành công trong lĩnh vực này không phải những người xem nhiều video nhất; họ là những người đã ship phiên bản đầu tiên xấu xí nhất, đo nó, và làm nó tốt hơn. Giờ thì đi build một thứ gì đó.

## Nguồn và liên kết

- Tên gốc: Complete Generative AI Course - AI Basics & Key Terms, Context, Fine-Tunning, Eval, Career in Gen AI
- Sự kiện: [YouTube](https://homus.dev/events/youtube)
- Video gốc: [https://www.youtube.com/watch?v=qvTvXpz6gGc](https://www.youtube.com/watch?v=qvTvXpz6gGc)

- Kênh YouTube Tejas AI (Tejas AI): [youtube.com/channel/UCMbdQplFb-X4SyrCG4PLI7A](https://www.youtube.com/channel/UCMbdQplFb-X4SyrCG4PLI7A)

- Bài báo "Attention Is All You Need" trên arXiv (đọc ngày 19/11/2026): [arxiv.org/abs/1706.03762](https://arxiv.org/abs/1706.03762)

- Model Context Protocol, trang "What is the Model Context Protocol (MCP)?" (đọc ngày 19/11/2026): [modelcontextprotocol.io](https://modelcontextprotocol.io/)

- pgvector, repo mô tả "Open-source vector similarity search for Postgres" (đọc ngày 19/11/2026): [github.com/pgvector/pgvector](https://github.com/pgvector/pgvector)

- Pydantic Validation docs (đọc ngày 19/11/2026): [docs.pydantic.dev](https://docs.pydantic.dev/latest/)

- LangSmith, trang giới thiệu "Agent & LLM Observability Platform" (đọc ngày 19/11/2026): [langchain.com/langsmith](https://www.langchain.com/langsmith)

- Promptfoo, trang chủ (đọc ngày 19/11/2026): [promptfoo.dev](https://www.promptfoo.dev/)

Nguồn: https://homus.dev/talks/complete-generative-ai-course-ai-basics-key-terms-context-fine-tunning-eval-career-in-gen-ai · cập nhật 2026-11-19
