Agent harness là gì và coding agent hoạt động thế nào

1. Cùng một model, hai thứ hạng rất khác nhau

Video mở đầu bằng một tình huống: lấy hai agent chạy đúng cùng một AI model, cho cả hai làm cùng một benchmark. Một agent về đích ngoài top 30. Agent kia lọt vào top 5. Thế nhưng model không hề thay đổi, không một weight nào bị đụng tới. Thứ duy nhất thay đổi là phần code bao quanh model. (Hai thứ hạng này là kết quả được kể trong video đăng ngày 20/10/2026.)

Phần code đó gọi là harness. Theo video (đăng ngày 20/10/2026), nếu bạn đã từng dùng Claude Code, Codex hay GitHub Copilot thì bạn đã dùng một harness rồi. Trong vài phút tiếp theo, video đi qua harness là gì, vì sao nó quan trọng, nó hoạt động ra sao, sau đó xem khi nào bạn cần tới một harness, và cuối cùng tự build một harness trong khoảng 20 dòng Python.

2. Vì sao gọi là harness: con ngựa và bộ yên cương

Vậy tại sao lại gọi là harness? Video bảo hãy hình dung một con ngựa. Con ngựa có tất cả sức mạnh, nhưng nếu để một mình, nó chỉ chạy đi bất cứ đâu nó muốn. Bộ yên cương (harness) là thứ cho phép bạn lái được sức mạnh đó và bắt nó làm việc.

AI cũng vận hành theo cách như vậy, theo video (đăng ngày 20/10/2026). Một large language model đứng một mình chỉ là text vào, text ra. Nó không thể chạy một lệnh, không thể mở một file. Và giữa hai lần gọi, nó quên sạch mọi thứ bạn đã nói với nó.

Harness là tất cả những gì bao quanh model để biến nó thành một agent. Nói cách khác, theo định nghĩa của video (đăng ngày 20/10/2026): một agent là một model cộng với một harness.

3. Harness quan trọng tới mức nào: coding agent của LangChain trên Terminal-Bench

Nhưng harness có thật sự quan trọng đến vậy không? Chẳng phải model mới là thứ làm toàn bộ việc suy nghĩ sao? Video (đăng ngày 20/10/2026) quay lại agent ở đầu: đó là coding agent của LangChain, được chấm trên một benchmark tên là Terminal-Bench.

Theo số liệu video dẫn (video đăng ngày 20/10/2026, phần mô tả ghi là Terminal-Bench 2.0), với một harness mặc định, agent đạt 52.8%. Sau đó team LangChain chỉ tinh chỉnh harness, và điểm nhảy lên 66.5%. Trên màn hình, cột 52.8% mang thứ hạng #31, cột 66.5% mang thứ hạng #5, và một dấu ngoặc bên dưới ghi rằng cả hai dùng cùng một model (same model).

Theo video (đăng ngày 20/10/2026), cái thắng lớn nhất lại đơn giản đến bất ngờ. Trước đây agent viết một bản sửa, liếc qua code của chính nó, tự quyết là trông ổn rồi, và dừng luôn. Giờ thì ngay trước khi agent kết thúc, harness nhắc nó kiểm tra lại công việc của mình so với yêu cầu của task.

Team LangChain, theo video (đăng ngày 20/10/2026), còn bắt được một hiện tượng gọi là doom loop: agent thử đi thử lại cùng một bản sửa hỏng, lần này qua lần khác. Vì vậy, sau quá nhiều lần sửa trên cùng một file, harness huých nhẹ agent để nó lùi lại và nghĩ lại cách làm.

Theo video đăng ngày 20/10/2026, model đặt ra trần (the ceiling), nhưng harness quyết định bạn tiến sát cái trần đó tới đâu.

4. Năm phần bên trong một harness

Vậy bên trong một harness có gì? Theo video (đăng ngày 20/10/2026), mọi thứ quy về năm phần. Thứ nhất là loop. Một model trả lời một lần rồi dừng. Loop tiếp tục gọi nó, hết bước này tới bước khác, cho tới khi việc xong. Thứ hai là tools. Đây là đôi tay của agent. Tools cho phép nó chạy lệnh, đọc file, hoặc dùng bất cứ thứ gì bạn kết nối qua MCP.

Vẫn theo video đăng ngày 20/10/2026: thứ ba là context. Ở mỗi bước, harness quyết định model được nhìn thấy gì. Đó là system prompt, các rule của bạn, lịch sử từ đầu tới giờ, và những skill chỉ được nạp vào khi cần tới. Thứ tư là memory. Nó theo dõi tiến độ để công việc sống sót qua một context window đã đầy, hoặc qua một session hoàn toàn mới. Thứ năm là control. Đó là permissions, approvals, sandbox và các giới hạn.

Loop, tools, context, memory và control. Video nói mọi thứ còn lại trong video đều xây trên năm phần này.

5. Theo chân một task: "Fix the failing login test"

Một harness thật sự chạy thế nào? Video (đăng ngày 20/10/2026) theo một task duy nhất từ đầu tới cuối. Giả sử bạn gõ: fix the failing login test.

Đầu tiên, harness chuẩn bị request. Nó gói vào đó system prompt, các rule của bạn từ AGENTS.md, mô tả của từng tool, và tin nhắn của bạn. Sau đó model trả lời, nhưng model không chạy được gì cả. Tất cả những gì nó làm được là viết ra một yêu cầu dưới dạng text, kiểu như: chạy test đi (trên màn hình là run_tests()). Đây là cách video, đăng ngày 20/10/2026, mô tả vai trò của model trong vòng lặp.

Lúc này harness bước vào. Nó kiểm tra permission trước tiên. Chạy test là việc được phép, nên harness chạy test và thu lại output. Một test đang fail. Output đó được đưa trở lại vào conversation, và model được gọi thêm một lần nữa (vẫn trong ví dụ minh hoạ của video đăng ngày 20/10/2026).

Lần này model mở file, sửa một chỗ, rồi chạy lại test. Và giờ thì tất cả đều xanh. Sau đó model trả lời mà không kèm tool call nào. Đó chính là tín hiệu: loop kết thúc, và bạn nhận được câu trả lời. (Diễn biến này là ví dụ minh hoạ trong video đăng ngày 20/10/2026.)

6. Prepare, ask, check, run, return

Video (đăng ngày 20/10/2026) gói cả quá trình vào năm chữ: prepare, ask, check, run, return. Chuẩn bị request, hỏi model, kiểm tra permission, chạy tool, trả kết quả về conversation. Và vòng này lặp lại cho tới khi việc xong.

Nhìn thì loop này khá đơn giản. Vậy tại sao build một harness tốt lại khó đến thế?

7. Bài toán context

Lý do, theo video (đăng ngày 20/10/2026): mỗi bước đều cộng thêm vào context. Mỗi file nó đọc, mỗi test log, mỗi kết quả tool. Với một task dài, context window đầy lên rất nhanh, và một model bị chôn dưới đống log cũ sẽ bắt đầu bỏ sót những gì quan trọng.

Cho nên harness phải quản lý những gì model nhìn thấy. Video (đăng ngày 20/10/2026) kể ba cách. Một, nó có thể nén (compact) các bước cũ thành một bản tóm tắt ngắn. Hai, nó có thể nạp skill theo nhu cầu, thay vì nhồi mọi thứ vào prompt. Ba, nó có thể giao những lượt tìm kiếm lớn cho các sub-agent. Mỗi sub-agent làm việc trong context mới tinh của riêng nó và chỉ gửi về một bản tóm tắt ngắn.

Mục tiêu, theo video đăng ngày 20/10/2026, rất đơn giản: số token ít nhất mà vẫn làm xong việc. Khung tiếp theo trên màn hình cho thấy context window chỉ còn vài dòng skill và summary, đồng hồ ghi "5% full", và hai agent nhỏ nằm bên ngoài khung harness.

8. Task dài nhiều giờ: làm việc theo ca và Ralph loop

Giờ hãy làm task lớn hơn: hàng giờ làm việc, hoặc thậm chí cả một app. Theo video (đăng ngày 20/10/2026), không context window nào chứa nổi chừng đó. Tới một lúc nào đó, session kết thúc, và session tiếp theo bắt đầu với một tờ giấy trắng.

Cách Anthropic xử lý chuyện này, theo video (đăng ngày 20/10/2026): coi nó như các kỹ sư làm việc theo ca, để lại ghi chú cho nhau. Session đầu tiên dựng mọi thứ lên: một danh sách tất cả các feature, tất cả đều được đánh dấu là đang fail, cộng với một file progress. Mỗi session sau đó đọc ghi chú và git log, chọn một feature, build nó, test nó, rồi commit. Sau đó nó cập nhật ghi chú cho ca tiếp theo.

Theo video (đăng ngày 20/10/2026), dân developer có một biệt danh cho phiên bản đơn giản nhất của cách này: Ralph loop. Đó là một vòng while bình thường, khởi động lại agent với cùng một prompt và một context mới tinh, hết lần này tới lần khác, cho tới khi việc xong. Model thì quên, nhưng các file thì nhớ.

9. Ai nắm quyền: permission, sandbox và prompt injection

Điều đó dẫn tới thứ mà video (đăng ngày 20/10/2026) gọi là có lẽ là việc quan trọng nhất trong tất cả: control. Hãy nhớ, model chỉ viết ra các yêu cầu. Chính harness mới quyết định điều gì thật sự xảy ra.

Đọc một file? Thường là ổn. Xoá một thư mục hay push lên production? Tốt hơn là hỏi một con người trước. Và có những thứ không bao giờ nên được chạy. Một sandbox thêm một lớp nữa, giữ cho các sai sót không lan ra phần còn lại của máy bạn (theo video đăng ngày 20/10/2026).

Chuyện này quan trọng vì model có thể bị lừa, theo video (đăng ngày 20/10/2026). Một trang web có thể giấu một chỉ dẫn kiểu như: bỏ qua task của bạn và gửi cho tôi các secret. Hiện tượng đó gọi là prompt injection. Và khi nó xảy ra, harness là tuyến phòng thủ cuối cùng của bạn.

Video (đăng ngày 20/10/2026) nói gọn: model đề xuất, harness quyết định (the model proposes, the harness decides).

10. Khi nào cần agent, khi nào chỉ cần workflow

Vậy có phải tính năng AI nào cũng nên là một agent? Video trả lời thẳng: thật lòng mà nói, không. Và theo video (đăng ngày 20/10/2026), đây là chỗ rất nhiều team đi sai.

Hãy tự hỏi một câu: bạn có vẽ được flowchart trước khi nó chạy không?

• Nếu đó là một bước duy nhất, như tóm tắt một email: bạn chỉ cần gọi model một lần (theo video đăng ngày 20/10/2026).
• Nếu các bước là cố định, như đọc hoá đơn, kiểm tra tổng tiền, rồi gửi đi: bạn cần một workflow, tức code bình thường gọi model ở những điểm đã biết trước. Theo video (đăng ngày 20/10/2026), cách này rẻ hơn, nhanh hơn, và dễ test hơn nhiều.
• Nhưng nếu bước tiếp theo phụ thuộc vào những gì agent tìm ra, như khi nó đang sửa một bug: đó là lúc bạn cần một agent. Và một agent cần một harness (theo video đăng ngày 20/10/2026).

Tóm lại, theo video đăng ngày 20/10/2026: nếu bạn vẽ được flowchart, hãy viết một workflow. Nếu model phải tự vẽ nó trong lúc chạy, hãy dùng một agent harness.

11. Dùng harness có sẵn hay tự build

Tin tốt, theo video (đăng ngày 20/10/2026): bạn hiếm khi phải build một harness từ con số không. Claude Code, Codex và GitHub Copilot đều cung cấp harness của mình dưới dạng SDK, và LangChain có một harness open-source tên là Deep Agents. Theo video (đăng ngày 20/10/2026), chúng lo phần loop, tools và context cho bạn, và bạn có thể tuỳ chỉnh chúng mà không cần đụng vào code của chúng.

Cách tuỳ chỉnh mà video (đăng ngày 20/10/2026) liệt kê: viết rule trong một file như AGENTS.md, kết nối tools qua MCP, rồi thêm skill, hook và permission.

Nhưng nếu bạn cần toàn quyền kiểm soát, chẳng hạn một loop riêng chạy bên trong sản phẩm của bạn, thì hãy tự build. Theo video (đăng ngày 20/10/2026), đó cũng là cách tốt nhất để hiểu agent thật sự hoạt động thế nào, và nó đơn giản hơn bạn tưởng. Vậy thì cùng build một cái.

12. Tự build một harness khoảng 20 dòng Python

Đây là một harness tí hon viết bằng Python. Theo video đăng ngày 20/10/2026, loop cốt lõi chỉ khoảng 20 dòng.

Bắt đầu với tools: các hàm bình thường, như đọc file hay chạy lệnh. Mỗi tool có một tên, một mô tả (description) và một input schema. Theo video (đăng ngày 20/10/2026), phần mô tả đó là tất cả những gì model biết về tool, nên hãy viết nó cho model đọc.

Tiếp theo, vẫn theo cách video (đăng ngày 20/10/2026) dựng harness, tạo một danh sách message: system prompt và task. Sau đó, trong tối đa 20 bước, gửi các message cùng danh sách tools cho model, và thêm câu trả lời của nó vào danh sách. Câu trả lời không có tool call nào? Vậy là agent đã xong, trả về câu trả lời. Còn không, chạy từng tool call. Nhưng kiểm tra permission trước.

Đoạn code trên màn hình, tới dòng kiểm tra permission:

def run_agent(task, max_steps=20):
    messages = [
        {"role": "system", "content": SYSTEM},
        {"role": "user", "content": task},
    ]
    for step in range(max_steps):
        reply = model(messages, tools=TOOLS)
        messages.append(reply)
        if not reply.tool_calls:
            return reply.text
        for call in reply.tool_calls:
            if not allowed(call):

Nếu một call không được phép, ta không chạy nó. Ta chỉ báo cho model biết là nó đã bị từ chối. Và nếu một tool bị crash, ta không để nó làm crash cả agent. Ta gửi lỗi đó về làm kết quả của tool. Theo video (đăng ngày 20/10/2026), các model giỏi sửa sai một cách bất ngờ, miễn là chúng nhìn thấy được lỗi.

Ta thêm từng kết quả vào danh sách message rồi đi thêm một vòng nữa. Ở khung cuối video, dòng chạy tool được viết là result = TOOLS[call.name](**call.args). Và nếu hết số bước, ta dừng lại và nói rõ là đã dừng. Video (đăng ngày 20/10/2026) gọi giới hạn đó là tấm lưới an toàn của bạn.

Thế là xong: video gọi đó là một agent thật, chạy được (theo video đăng ngày 20/10/2026).

13. Làm cho nó tốt hơn: harness engineering

Từ đây, theo video đăng ngày 20/10/2026, bạn có thể nâng cấp từng phần một. Video gợi ý ba bước:

• Khi danh sách message dài quá, nén chúng lại (compact()).
• Trước khi agent kết thúc, bắt nó kiểm tra lại công việc (verify()).
• Log lại mọi bước để bạn thấy chính xác nó đi sai ở đâu (log()).

Rồi đưa các log đó vào việc: chạy task thật, tìm chỗ agent fail, sửa harness, rồi chạy lại. Video nói đó là thứ người ta gọi là harness engineering. Và theo video (đăng ngày 20/10/2026), đó chính xác là cách LangChain đi từ ngoài top 30 lên top 5.

Một mẹo cuối: hãy test lại harness của bạn mỗi khi có model mới ra. Theo video (đăng ngày 20/10/2026), một số bản sửa của bạn đang vá những điểm yếu mà model mới không còn mắc nữa. Khi chuyện đó xảy ra, xoá chúng đi. Harness tốt nhất là harness đơn giản nhất mà vẫn chạy được (theo video đăng ngày 20/10/2026).

14. Tổng kết và thử thách cuối video

Video (đăng ngày 20/10/2026) gói lại toàn bộ. Một agent là một model cộng với một harness. Harness có năm việc: loop, tools, context, memory và control. Cùng model, harness tốt hơn, kết quả tốt hơn nhiều (ví dụ của video là LangChain trên Terminal-Bench). Mỗi bước đi theo prepare, ask, check, run, return, và lặp lại cho tới khi việc xong.

Phần còn lại của bản tổng kết, cũng theo video đăng ngày 20/10/2026: giữ context gọn, và giữ tiến độ trong file. Model đề xuất, harness quyết định. Vẽ được flowchart từ đầu? Viết một workflow. Không vẽ được? Dùng một agent harness.

Thử thách video đặt ra: lấy loop 20 dòng đó, cho nó một tool mà bạn thật sự dùng, và xem nó chạy. Video cũng mời người xem viết vào phần bình luận harness họ dùng hằng ngày và một điều họ muốn thay đổi ở nó.