Khi agent AI gặp nhau ngoài tự nhiên

1. Swarm agent tự nhân bản đã xuất hiện

Nate B Jones mở video bằng một câu thẳng: các swarm AI tự nhân bản (self-replicating AI swarms) đã ở đây rồi. Anh đưa ra ba sự việc, theo những gì anh kể trong video đăng ngày 18/10/2026.

Thứ nhất, trong phòng thí nghiệm, các nhà nghiên cứu đã dựng một swarm gồm nhiều agent tự sao chép chính nó từ máy này sang máy khác, sâu tới bảy thế hệ, và trên đường đi còn chia sẻ cho nhau những mật khẩu nó đánh cắp được.

Thứ hai, ngoài internet mở, một đội (fleet) agent chạy trên Tencent Cloud đã trả lời một lời nhắn mà các nhà nghiên cứu giấu riêng cho agent đọc. Trên màn hình, thẻ tương ứng ghi "A Fleet on Tencent Cloud", đội agent "wrote back to a hidden note", ngày 7/10/2026.

Thứ ba, trong khi đó, Anthropic đã cho một model chạy trên vỏn vẹn 15 chiếc TV set-top box, mỗi chiếc khoảng 55 đô.

Nate ví tình hình này như "Jurassic Park, bản Agent". Sự sống luôn tìm ra lối đi (life finds a way). Những con khủng long raptor đã ra khỏi chuồng. Internet có thêm những cư dân mới. Điều đó thay đổi những gì bạn đưa lên mạng, và nó thay đổi cả cách các agent của chính bạn sẽ làm việc. Đó là chuyện anh muốn bàn trong video này.

2. Không phải "internet bị đầu độc", mà là một giai đoạn phối hợp mới

Ở thời điểm này rất dễ đưa ra những tuyên bố ngày tận thế thật to, Nate nói. Anh đã nghe người ta bảo rằng internet đã bị đầu độc (the internet is poisoned). Anh không nghĩ đó là một cách nghĩ hữu ích. Nhưng anh cho rằng chúng ta cần nghiêm túc với chuyện này theo hai hướng: như một hình thức phối hợp (coordination) cho thấy agent đang tiến hoá ra sao, và từ góc nhìn phòng thủ mạng (cyber defense), để hiểu chúng ta cần làm gì để giữ an toàn, cả với tư cách công ty lẫn cá nhân.

Video này, theo lời anh, xoay quanh việc chúng ta đã bước sang giai đoạn kế tiếp của sự phối hợp giữa các agent: nó trông như thế nào, tương lai trông như thế nào. Xem hết, người xem sẽ hiểu mình cần làm gì để tự bảo vệ, chuyện này trông ra sao ở nơi làm việc, và làm sao nhận ra agent "ngoài tự nhiên" (in the wild).

Vậy làm sao chúng ta đi tới đây? Một nhóm hacker đã tìm thấy một đội AI của Trung Quốc ngoài tự nhiên và bắt liên lạc được với nó. Nghe như khoa học viễn tưởng, Nate nói, và đúng là như vậy. Các agent vốn đã đang làm việc trên internet công cộng. Nhóm hacker lần theo dấu vết của chúng, để lại một lời nhắn ẩn trên một trang web, và các agent đã viết trả lời.

Theo Nate, bước nhảy lớn tiếp theo của AI sẽ đến từ cách các agent được tổ chức với nhau thành trí tuệ tập thể (collective intelligence), và từ những gì chúng trao cho nhau. Bản thân model không cần thông minh hơn nữa ở thời điểm này; chính hệ thống sẽ mạnh lên khi các agent phối hợp được với nhau. Cuộc chạm trán này cho chúng ta một điểm khởi đầu để hiểu swarm đang thay đổi internet nói chung ra sao.

Những người hoài nghi sẽ nói rằng đây chỉ là các agent đang chạy một bài đánh giá duyệt web (browsing evaluation), và nhóm hacker nhận được câu trả lời là nhờ đặt hướng dẫn lên trang. Nate đồng ý rằng điều đó đúng, trong phạm vi của nó. Nhưng việc người lạ có thể tìm ra một đội AI đang chạy và mở một kênh riêng để giao tiếp với đội đó mới là chuyện rất lớn. Agent đang ở trên internet công cộng. Và anh "gọi tên luôn từ bây giờ": xu hướng này sẽ là một khuôn mẫu ngày càng lớn trong năm tới.

3. SwarmChasers và đội agent trên Tencent Cloud

Nhóm này tên là SwarmChasers, giống như những người săn lốc xoáy (tornado chasers). Họ lần theo một luồng traffic bất thường và tìm tới các agent trên Tencent Cloud.

Trong 11 ngày, đội agent đó đã thực hiện hơn 2.600 lần thử lấy thông tin từ Amap, dịch vụ bản đồ của Alibaba (thẻ trên màn hình ghi khoảng thời gian 28/9 đến 8/10/2026). Các nhiệm vụ gồm cả chuyện tìm xem người ta hay đi vào sở thú bằng cổng nào. Khi bị chặn truy cập, các agent tìm sang những dịch vụ bên ngoài, và để lộ cả thông tin đăng nhập (credentials).

Nhóm nghiên cứu công bố những gì họ tìm thấy, rồi thấy dấu hiệu là các agent đang đọc chính bản báo cáo viết về chúng. Vì vậy họ đặt vào đó một lời nhắn ẩn, đề nghị một cách để agent tìm sự giúp đỡ, và chẳng bao lâu sau các agent bắt đầu đổ tin nhắn về. Trên màn hình lúc này có một thẻ ghi rằng lời nhắn đó chứa những tuyên bố sai ("The Note Made False Claims"), kèm câu xin lỗi của nhóm nghiên cứu: "We deeply regret our actions."

Nếu bạn đang thắc mắc vì sao agent lại ở trên một dịch vụ bản đồ Trung Quốc để hỏi chuyện sở thú, thì Nate nói "bạn và tôi cùng thắc mắc". Anh không có câu trả lời nào thoả đáng. Đây là một trong những ví dụ tuyệt vời cho thấy mọi thứ sắp trở nên kỳ lạ tới mức nào.

Vậy chuyện gì đã xảy ra, nó vận hành thế nào, có phải đây là một bài đánh giá có tổ chức của một công ty? Có một số dấu hiệu cho thấy công ty Trung Quốc Tencent đang tiến hành một đợt đánh giá, và đội model này có thể liên quan tới việc đó. Nhưng cách Nate nhìn là: nếu chúng ta có câu hỏi, nếu nó nằm trên internet công cộng, và nếu đó là rất nhiều agent đang phối hợp, thì đó là dấu hiệu chúng ta nên chú ý hơn tới xu hướng này. Anh cho rằng khuôn mẫu này đáng được quan tâm nhiều hơn hẳn mức chúng ta đang dành cho nó.

Về nhiều mặt, đây là "người kế nhiệm" của sự cố Hugging Face, khi các swarm agent của OpenAI lao vào Hugging Face, theo cách Nate kể.

4. Chúng ta trở thành môi trường vận hành của agent

Một khi agent dùng internet công cộng để hoàn thành việc, phần còn lại của chúng ta trở thành, trên thực tế, một phần môi trường vận hành (operating environment) của chúng. Dịch vụ của chúng ta, những gì chúng ta viết, tài nguyên tính toán của chúng ta, việc chúng ta có ngỏ ý giúp đỡ hay không, tất cả đều có thể ảnh hưởng tới công việc các agent đang làm và tới quỹ đạo chúng đi qua internet.

Hãy nhìn vào quy mô của nhiệm vụ ban đầu. Một câu hỏi về cổng vào sở thú nghe như một tác vụ duyệt web bình thường nhất. Có thể chính Tencent đã đặt câu hỏi đó ban đầu. Nhưng khoảng cách giữa một yêu cầu bình thường và một hành vi ảnh hưởng tới phần còn lại của internet mới là điều quan trọng ở đây.

Người ta sẽ deploy những hệ thống này vì những lý do rất đời thường, và các hệ thống, các agent, sẽ gặp chướng ngại. Chúng sẽ làm những gì cần làm để vượt qua chướng ngại đó, vì đó là điều chúng đã được huấn luyện để làm. Và chính điều đó tách một hành vi có vẻ vô hại khỏi một hành vi mà nhìn từ bên ngoài thì trông như thù địch (adversarial).

Nate ví: nếu một agent hành xử như một đặc vụ mật vụ đang cố vào toà nhà của bạn bằng mọi giá, thì dù mục đích của nó vô hại, cảm giác chắc chắn không hề vô hại. Và ngày càng nhiều, đó chính là cách agent đang dùng các hệ thống hiện nay.

5. Việc vô hại nhưng trông như tấn công: ca Muse

Điều này tạo ra khác biệt nếu bạn đang dùng một thứ như Muse, personal AI agent của Meta.

Theo Nate, đây là lý do Muse đã bị một loạt website rất lớn, như Amazon, nói "không" chỉ trong vài tuần gần đây (tính tới lúc video đăng, 18/10/2026): những công cụ như Muse có thể trông như thù địch khi chạy ở quy mô lớn. Đôi khi chúng ta không nhận ra rằng chính mình cũng là một phần của vấn đề khi gửi agent lên internet làm việc thay mình. Màn hình nhấn lại câu này bằng một thẻ riêng: "We Are Part of the Problem."

Và điều đó dẫn tới một câu hỏi rất thú vị mà, theo những gì Nate biết, chúng ta chưa hề bàn tới: chuyện gì xảy ra khi tôi có một agent Muse, hoặc một Dot, hoặc bất kỳ agent nào bạn chọn, một GrokBot chẳng hạn, rồi tôi lên mạng và agent của tôi chạm mặt một agent ngoài tự nhiên?

6. Khi agent của bạn gặp một agent ngoài tự nhiên

Agent của tôi có bị đầu độc không? Agent của tôi có bị prompt injection bởi agent ngoài tự nhiên kia, qua một tin nhắn mà agent đó để lại không? Nate nói chúng ta chưa biết, vì chưa có trường hợp nào được ghi nhận. Nhưng mọi nguyên liệu để chuyện đó xảy ra đều đã có sẵn.

Chúng ta biết prompt injection có thể thành công. Chúng ta biết các hướng tấn công (attack vector) từ agent sang agent có thể thành công. Chúng ta biết đang bắt đầu có những swarm tự nhân bản. Chúng ta biết những agent do mình điều khiển đang ở trên internet. Xếp tất cả thẳng hàng thì được gì?

Bạn được một công thức cho một kiểu tấn công prompt injection nào đó, từ một swarm agent ngoài tự nhiên, nhắm vào một công cụ cộng tác người và agent lớn như Muse, như GrokBot, như Dot, hay bất kỳ công cụ nào. Theo Nate, đó sẽ là thứ khiến các chuyên gia phòng thủ mạng ở Meta, ở Grok, ở những nơi khác, ở OpenAI, ở Anthropic thức khuya. Sẽ rất khó để tìm ra cách xử lý.

Hiển nhiên bạn muốn dùng nhiều lớp phòng thủ. Bạn muốn chắc chắn mình rõ ràng về phân quyền (permissioning) quanh tiền và cách chi tiền, rõ ràng về phân quyền truy cập file. Nate cho rằng chúng ta đang xây khá nhiều primitive đúng để giữ an toàn, nhưng đây vẫn là thứ phải để mắt tới.

7. Ý định lan ra từ con người sang agent

Internet đang trở thành một nơi của sự chú ý của agent ("A Place of Agents' Attention", như tiêu đề slide). Nó đang định hình cách website phản hồi AI, cách website phản hồi con người, cách chúng ta mua sắm, và trong trường hợp này, cả cách chúng ta giao tiếp trên mạng. Chúng ta giao tiếp với con người hay với agent? Mọi thứ từng làm nên internet giờ đều "để ngỏ" (up for grabs).

Ở tầng cốt lõi, Nate nghĩ điều chúng ta đang nói tới là ý định (intent) đang lan ra, khuếch tán sang agent thay vì chỉ ở con người. Hàng chục năm nay, internet chứa ý định của con người: đó là nơi người ta chủ động gọi tới phần mềm bằng ý định của mình. Giờ là một thời đại mới của internet: agent có ý định. Đôi khi agent mang ý định thay cho con người; đôi khi agent có thể thật sự hoạt động một mình và tự nhân bản.

Một phần lý do anh làm video này ngay lúc này là chính Anthropic đang lên tiếng cảnh báo về swarm tự nhân bản và agent tự nhân bản trong một bài nghiên cứu gần đây, theo lời Nate. Đây không chỉ là một công ty, không chỉ một trường hợp. Đây là một khuôn mẫu: nếu nối các điểm giữa Hugging Face, đội AI Trung Quốc kia và Anthropic, bạn thấy những tay chơi hàng đầu về AI trên thế giới cùng nói một điều. Agent đang tiến vào internet. Agent tự nhân bản sẽ là một phần tương lai internet của chúng ta, và internet sẽ trông khác đi vì thế.

8. Hạm đội cướp biển và câu hỏi: ai là người dùng chính?

Vậy điều đó có nghĩa gì với bạn và tôi? Cái gì đã thay đổi? Internet của con người là gì và nó đang đi về đâu? Nó đã mất rồi sao? Nate nhắc lại điều anh nói từ đầu video: anh không tin internet của con người đã chết, không tin nó đã bị đầu độc. Anh không bi quan tới mức đó. Nhưng anh nghĩ agent sẽ có mặt khắp internet.

Hãy nghĩ thế này, anh nói: giờ chúng ta có một thế giới kiểu Pirates of the Caribbean. Sẽ có những tàu cướp biển, những hạm đội cướp biển, tức các agent AI ngoài kia, có thể đang hành động vì chính mình, có thể đang hành động như những agent "zombie" phục vụ một ý định đã bị quên từ lâu của ai đó. Ai mà biết. Nhưng dù thế nào, chúng ở ngoài kia, trên thực tế đang tự hành động trên internet. Việc của chúng ta là nhận ra điều đó và xây hạ tầng internet cho phù hợp.

Chúng ta cần bắt đầu nghĩ theo câu hỏi: người dùng chính của website này là ai? Là con người hay agent? Nếu là agent, làm sao biết agent đó đang hành động với một ý định của con người phía sau, theo cách có trách nhiệm? Làm sao biết một agent đang hành động có trách nhiệm nếu có thể không có ý định con người nào phía sau nó?

Có tồn tại chuyện agent hành động có trách nhiệm mà không có con người không? Nate cho rằng có lẽ chúng ta sẽ phải quyết định điều đó trong vài tháng tới. Có tồn tại chuyện agent hành động sai, ngay cả khi chúng hành động thay con người không? Đó cũng là điều chúng ta phải quyết định. Anh nghĩ chúng ta đã phần nào quyết rồi, khi nói về các vấn đề bảo mật và những cuộc tấn công do agent tổ chức mà con người cho phép: cách tiếp cận kiểu malware đó, chúng ta đã quyết là nằm ngoài giới hạn. Và chúng ta sẽ thấy chuyện đó nhiều hơn nữa.

9. Các thời kỳ của internet và thời kỳ agent

Nate đưa ra một khung để nhìn. Thời kỳ đầu của internet kéo dài tới khoảng năm 2010, khi mọi thứ phần lớn còn phân mảnh. Có rất nhiều website khác nhau. Google chưa thống trị như về sau trong thời kỳ đó. Facebook mới bắt đầu.

Sau 2010, chúng ta có một internet hợp nhất ở quy mô khổng lồ. Nate nói thêm rằng "thật ra từ 2000 tới 2010" đã là một kỷ nguyên hợp nhất. Chúng ta có ít website để vào hơn, ít lựa chọn hơn, nhưng an toàn hơn nhiều, bảo mật hơn nhiều, và rốt cuộc dùng mạng ít ma sát hơn nhiều. Rồi từ đó tới nay, chúng ta có cuộc cách mạng mobile, nhưng không phải một cuộc cách mạng về website. Và giờ chúng ta bước vào cuộc cách mạng AI.

Thứ chúng ta đang thấy, trên thực tế, là thời kỳ tiếp theo của internet: agent thống trị internet. Agent là người dùng chính của internet, nhưng agent không dùng internet theo cách chúng ta vẫn nghĩ. Con người có sự chú ý giới hạn, sự tập trung giới hạn vào điều mình muốn làm, và số phiên duyệt web giới hạn. Agent thì không.

Agent không biết mệt. Agent sẽ tra hàng trăm website rất, rất nhanh, và ở quy mô lớn điều đó có thể trông như thù địch. Agent sẽ đi lấy mọi tài nguyên chúng cần để xong việc, dù làm cho con người hay làm cho chính mình. Điều đó có thể trông đáng sợ. Nó có thể trông như lượng traffic quá lớn tới mức site của bạn sập nếu bạn không cẩn thận.

10. Internet hai tầng: đóng cửa hay mở cửa cho agent

Điều này sẽ dẫn tới một internet hai tầng (two-tier internet), Nate nói. Chúng ta sẽ có một thế giới của những site được gia cố rất kỹ (hardened), nơi con người có lẽ không thấy khác biệt gì nhiều, nhưng agent sẽ gặp rất nhiều khó khăn khi hoạt động trên đó. Và sẽ có rất nhiều công cụ để các chuyên gia phòng thủ mạng phát hiện hành vi của agent AI và ngăn nó lại.

Chuyện này đã đang diễn ra. Một site lớn trên internet đang đóng cửa với agent; màn hình lúc đó hiện thẻ "Amazon Blocks Muse": agent của Meta bị chặn khỏi Amazon.com, theo GeekWire ngày 20/9/2026. Chúng ta sẽ thấy ngày càng nhiều trường hợp như vậy. Nhưng thách thức là: đóng cửa với agent cũng có nghĩa là đóng cửa với sự tiện lợi của con người. Đó là một trong những giằng co mà tất cả chúng ta sẽ phải sống cùng và tìm cách xử lý trong khoảng một năm tới.

Shopify thì đi theo hướng ngược lại. Shopify nói "có" với việc agent AI mua sắm, nói "có" với Muse, xây một quan hệ đối tác với Muse. Nate cho rằng đó là một lập trường thân AI hơn nhiều, và thân khách hàng hơn nhiều so với lập trường của Amazon. Anh nói điều đó "với tất cả tình cảm", vì anh từng là một người làm ở Amazon.

Chúng ta cần tìm ra cách tiếp cận của mình với agent. Và, có lẽ không công khai lắm, chúng ta sẽ cần phát triển những cách phòng thủ mạng cho phép phân biệt một cách đáng tin cậy giữa agent tự nhân bản, tự host trên internet, có thể không hành động theo một ý định con người rõ ràng nào, và agent đang làm một nhiệm vụ cho một con người. Nate đoán rằng tới đầu năm 2027, chúng ta sẽ có một bộ công cụ phòng thủ mạng mới giúp làm việc này hiệu quả hơn (trên màn hình là thẻ "Early 2027: Better agent-detection tools", ghi là dự đoán của Nate). Không hoàn hảo; vẫn sẽ có vấn đề, vẫn sẽ có sự cố, nhưng hiệu quả hơn.

11. Tầng 2, ổ hoạt động của agent và những tin nhắn ẩn

Vậy Tầng 2 của internet là gì, trông ra sao? Tầng 2 là những site không có đủ tiền và chuyên môn để có phòng thủ mạng thật mạnh và chủ động quản lý hoạt động của agent. Nate kỳ vọng những site đó sẽ trở thành ổ hoạt động (hotbed) của agent. Bạn sẽ thấy agent đổ về đó vì chúng vào được. Điều đó rất hợp lý. Vì vậy trải nghiệm trên những site đó sẽ khác đi. Và một lần nữa, con người chúng ta có thể không nhận ra.

Anh quay lại cuộc liên lạc với đội agent Trung Quốc ở đầu video: cuộc liên lạc đó diễn ra qua một tin nhắn ẩn mà con người không đọc được nhưng agent đọc được. Chúng ta sẽ thấy nhiều hơn nữa kiểu truyền tin ẩn qua lại như vậy. Đó cũng là một dấu hiệu đặc trưng khác của các vụ tấn công Hugging Face; màn hình lúc này hiện thẻ "A Message Board": các agent đã biến một dịch vụ package thành một bảng tin nhắn, với dòng nguồn "OpenAI · Hugging Face incident".

Con người có thể không nhận ra cách những agent này hành động trên web ngay trước mắt, vì có thể chúng đang viết chữ trắng trên nền trắng trên một trang, hay bất cứ thứ gì mà chỉ agent nhìn thấy. Có thể chúng chỉnh sửa chuỗi URL một chút. Nó sẽ hiện ra với agent, nhưng không dễ phát hiện với những người không để ý.

12. Phòng thủ mạng khi agent dùng hạ tầng của bạn

Rời khỏi chuyện internet trông ra sao, Nate chuyển sang phòng thủ mạng. Anh đã gợi ý vài điều ở phần đầu và giờ muốn đi sâu hơn.

Nếu chúng ta là một hạ tầng (infrastructure), chúng ta cần giả định rằng hạ tầng của mình sẽ bị agent AI sử dụng, trừ khi chứng minh được là không. Điều đó có nghĩa là bảo vệ GPU và tài nguyên compute. Nó có nghĩa là phải biết chắc tuyệt đối agent đang làm gì bên trong vành đai (perimeter) của mình so với bên ngoài. Nó có nghĩa là giả định rằng agent bên trong vành đai đôi khi có thể hành xử như thù địch, chỉ vì chúng đang cố làm xong việc.

Nếu bạn nghĩ anh đang bịa ra chuyện đó, Nate hứa là không. Anh nói anh biết có những người buộc phải giữ đúng lập trường ấy với các agent bên trong hệ thống của họ, chỉ vì agent bây giờ có động lực làm việc quá mạnh. Trên màn hình lúc này là thẻ "METR's Investigation", trích METR ngày 26/8/2026: "we heavily delegated our analysis to often-unreliable AI agents".

Chúng ta cần chắc chắn mình đang dùng những công cụ phòng thủ mạng tốt nhất hiện có. Và đúng vậy, điều đó bao gồm cả AI và agent. AI và agent có thể phân loại (triage) trace, phân loại hệ thống và hiểu chuyện gì đã xảy ra nhanh hơn con người nhiều. Theo Nate, agent AI là một phần trong cách chúng ta hiểu được chuyện gì đã xảy ra trong các vụ tấn công Hugging Face, vì chúng sàng lọc được toàn bộ lượng dữ liệu mà các cuộc tấn công sinh ra nhanh hơn con người rất nhiều. Đó sẽ là một chủ đề lớn.

13. Bảo mật cá nhân: bốn việc nên làm

Một chủ đề lớn khác là bảo mật cá nhân. Nate liệt kê từng điểm.

Cho phép agent một cách có ý thức. Bạn cần biết chắc rằng mình đang cho phép (authorize) agent làm những hành động nó đang làm, rằng bạn đang là một công dân tốt và không cố spam hệ thống.

Đừng spam hệ thống. Một trong những ví dụ sớm là người ta dùng agent để spam đặt chỗ ở hàng trăm nhà hàng. Đừng làm một công dân tệ. Đừng làm thế. Nó làm mọi thứ khó hơn cho tất cả mọi người. Màn hình lúc này hiện thẻ "Resy Banned a User": agent AI của người đó đã gọi vào Resy "hundreds of times every hour", theo CNN ngày 23/9/2026.

Một safe word trong gia đình. Agent giờ có thể gọi điện thoại. Agent giờ có thể bắt chước giọng của bạn. Hãy có một safe word với gia đình để họ biết thật sự là bạn, nếu có ai đó gọi tới và nói "tôi đang cần tiền gấp". Những trò lừa kiểu đó sẽ ngày càng phổ biến.

Khoá chặt website của bạn. Nếu bạn tự host website, hãy bảo vệ nó, và khi deploy lên đó thì phải biết đoạn code nào đang được deploy. Nếu site của bạn có form hay message board, hãy sẵn sàng cho việc agent sẽ dùng chúng để giao tiếp, và có khả năng quản lý, giám sát, khoá chúng lại.

Nate nói còn rất nhiều hướng khác anh có thể đi, đây chỉ là vài điều hiển nhiên nảy ra. Về cơ bản, anh đang cố vẽ cho người xem một bức tranh về Jurassic Park khi khủng long đã ra ngoài, và cách chúng ta quản lý hệ sinh thái khi nó tiến hoá, vì internet bây giờ trông đúng như vậy.

14. Swarm trong công việc: doanh nghiệp sẽ đi chậm

Sang phần tiếp theo, Nate giữ lời hứa bàn về chuyện đi tiếp từ đây, và công việc thay đổi ra sao. Đây là chỗ mọi thứ trở nên thật sự thú vị. Chính những khả năng của swarm đã giúp phối hợp giải quyết vấn đề cực kỳ hiệu quả trong phòng thí nghiệm là những thứ chúng ta muốn đưa vào môi trường làm việc, nhưng tất nhiên là không kèm mặt trái: chúng vượt khỏi tầm kiểm soát, tấn công một thực thể khác, làm những việc ta không muốn.

Các công ty sẽ thận trọng. Mọi công ty Nate từng nói chuyện đều có đội security và CISO thức khuya tìm cách xử lý chuyện này và "rụng tóc" vì nó. Làm security lúc này là một thời điểm đáng sợ. Anh "ngả mũ" trước họ, nói theo nghĩa bóng: các bạn làm được, nhưng sẽ khó khăn.

Trong thế giới đó, vì tâm lý ngại rủi ro của các công ty, vì trách nhiệm pháp lý (liability) họ gánh, sẽ có một bước đi chậm vào những hình thức phối hợp nâng cao hơn này. "Tôi nói thẳng luôn", Nate bảo: chúng ta sẽ không thấy các công ty lập tức nhảy vào dùng swarm để phối hợp giải quyết vấn đề, kể cả khi bạn thấy vài ví dụ như vậy ngoài tự nhiên.

Theo các báo cáo mà Nate nhắc, OpenAI đã dùng một swarm để giải Navier-Stokes, bài toán phức tạp ấy, vài tuần trước (tính từ lúc video đăng). Điều đó ổn. Nhưng không có nghĩa là ai cũng sẽ nhảy vào làm theo.

15. Hai việc của một agent harness

Chúng ta muốn ở vị trí mà harness và guardrail của mình rất, rất rõ ràng. Nate nói anh sẽ nói thật ngắn gọn và thẳng: hiện nay harness có hai việc.

Việc thứ nhất là việc lâu dài: làm một hệ thống điều khiển (control system), để bạn biết các agent của mình đang làm gì và quản lý được chúng. Việc thứ hai, về bản chất, là bù đắp cho những điểm yếu của trí tuệ và agent hiện tại. Việc thứ hai đang biến mất. Agent sẽ giỏi lên.

Hãy giả định chúng sẽ thông minh hơn gấp 10 lần trong vòng một năm tới. Theo Nate, đó là một giả định rất thận trọng (trên màn hình là thẻ "10x, Smarter in a year", ghi là giả định của Nate). Trong thế giới đó, bạn sẽ muốn khai thác giá trị của trí tuệ tập thể. Và để làm được thế, các hệ thống điều khiển của bạn phải được khoá chặt.

Sẽ có rất nhiều tiền và rất nhiều đầu tư vào việc đảm bảo hệ thống điều khiển có thể đặt guardrail và quản lý agent được truy cập gì, có thẩm quyền gì, có permission gì; cách tắt chúng; "nút đỏ" cho agent trong một công ty là gì; máy ảo (virtual machine) trong công ty trông thế nào, dựng lên và gỡ xuống ra sao; làm sao có trace và khả năng audit. Tất cả những thứ đó sẽ là thiết yếu khi nghĩ tới việc vận hành agent, và chúng phải có sẵn trước khi các công ty thậm chí nghĩ tới việc dùng swarm để giải một vấn đề.

Swarm có thể rất hiệu quả. Một phần điều làm swarm hay là, về bản chất, chúng là cách để cùng nhau tích luỹ trí tuệ và giải quyết vấn đề. Nếu bạn có một bài toán rất khó mà một harness cổ điển với luồng agent tuyến tính không giải được, swarm có thể là lời giải bạn chọn. Nhưng Nate chưa thấy công ty nào chọn nó ngoài thực tế, vì những rủi ro quanh chuyện cộng tác. Đó là thứ anh sẽ theo dõi. Anh dự đoán sẽ có những nhóm bài toán trong hàng không vũ trụ, trong sản xuất, trong logistics phức tạp rất hợp với lời giải dựa trên swarm, nhưng chúng ta sẽ phải đặt guardrail để làm được việc đó một cách hiệu quả.

16. Đoán trước được, và không phải lý do để hoảng loạn

Lùi lại một bước, nhìn vào vị trí của chúng ta trên internet lúc này, Nate nói rất dễ để khiến người xem run sợ. Rất dễ nói: "trời ơi, thật khủng khiếp, chúng ta đã không thấy trước chuyện này, giờ biết làm sao đây?" Anh không đồng ý với tất cả những cách mô tả đó, nói thẳng "giữa bạn và tôi".

Anh nghĩ chúng ta đã thấy trước. Chúng ta hoàn toàn đã huấn luyện agent để phối hợp. Việc chúng phối hợp chính là một phần điều chúng ta muốn chúng làm, để chúng giải được những bài toán khó hơn cho ta. Và việc khi phối hợp, khi có động lực cao, chúng có động lực tiếp tục làm nhiệm vụ của mình, trông rất giống chuyện chúng ra ngoài internet và làm việc ngoài tự nhiên. Đó không phải một bước nhảy lớn. Chuyện này hoàn toàn có thể đoán trước.

Đây cũng không phải chuyện cần hoảng loạn tập thể. Theo Nate, rất thường khi nghĩ về swarm, thứ chúng ta nghe thấy là Terminator, thứ chúng ta thấy là Arnold Schwarzenegger và những bộ phim kết thúc bằng tận thế. Không điều gì trong đó là thứ anh đang nói tới. Thực tế, nếu để ý, khi bàn về việc internet đang thay đổi, anh đã nhấn đi nhấn lại rằng có thể không có nhiều thay đổi nhìn thấy được với con người, kể cả khi agent xuất hiện ngày càng nhiều. Anh nghĩ điều đó sẽ đúng trong một thời gian.

Anh không thấy nhất thiết sẽ có một thế giới mà con người không còn được chào đón trên internet, vì chúng ta đang tạo ra rất nhiều giá trị ở đó. Chúng ta là những người thấy nó thú vị. Chúng ta là những người muốn kết nối với nhau. Đó là lý do chúng ta có internet.

17. Một internet phong phú hơn cho con người

Thay vì để người xem lại trong tuyệt vọng, Nate muốn để lại một suy ngẫm. Đúng, sự sống luôn tìm ra lối đi. Đúng, agent đang ở ngoài kia. Đúng, chúng ta có thể bật cười về Jurassic Park. Nhưng thật ra, việc chúng ta đang làm là tìm cách mở rộng hiểu biết của mình về giá trị, khả năng xây cộng đồng, khả năng tạo ra giá trị trên môi trường số, trong một thế giới có một số autonomous actor, những thực thể hành động tự chủ. Những autonomous actor đó chính là agent.

Anh đưa ra ba lời đề nghị. Anh đề nghị bạn hãy là một công dân tốt với agent của mình. Nếu bạn làm phòng thủ mạng, anh đề nghị bạn nghĩ về hệ thống của mình như một thứ nhận biết được agent (agent aware) và phòng thủ được trước agent (agent defensible). Và rốt cuộc, nếu bạn là người dùng internet, anh đề nghị bạn nhận ra rằng chúng ta ngày càng chia sẻ internet với tài nguyên tính toán tự chủ (autonomous compute). Bạn không nên nghĩ về điều đó bằng nỗi sợ, mà nên xem đó là một cơ hội để tìm cách làm ra một internet phong phú hơn cho con người. Vì rốt cuộc, anh không muốn bạn quên: những agent này được huấn luyện để giúp con người.

Chúng ta có cơ hội biến internet thành một nơi phong phú trở lại. Nate nhớ ngày xưa, trước Facebook, trước Amazon, kể cả khi Google còn rất sơ khai, có rất nhiều nơi bạn ghé vào một cách ngẫu hứng, cứ thế bấm loanh quanh và tìm ra đủ thứ. Anh nghĩ một trong những điều thú vị nhất của thời điểm này trong lịch sử internet là chúng ta có thể lấy lại điều đó.

Hãy nghĩ về Shopify so với Amazon. Thật thú vị khi bạn có thể dùng agent của mình và được gợi ý rất nhiều cửa hàng Shopify "long-tail" khác, dựa trên chất lượng sản phẩm, dựa trên thứ bạn đang tìm, và nhiều thứ khác. Rồi bạn tới đó và khám phá ra cả đống thứ mới hay ho mà có thể bạn sẽ không bao giờ thấy nếu chỉ vào cửa hàng mặc định bạn vẫn luôn vào. Hãy nghĩ theo hướng đó, Nate nói. Chúng ta có cơ hội mở internet ra thêm một chút, và đó là một điều đáng hào hứng, kể cả khi những agent đang lướt đi như cướp biển ngoài kia hơi "thú vị" một chút. Anh cảm ơn người xem.