Model không kiểm soát được: Amodei, Altman, Gemini 4 Carbon và giới hạn của việc hiểu model

1. Một tuần "yên ắng" theo chuẩn AI

Người làm kênh AI Explained mở đầu: đúng là có vẻ như nửa internet đã bị hack trong tuần qua, nhưng nói thật lòng, với anh, đây vẫn được tính là vài ngày yên ắng theo chuẩn AI (video đăng ngày 02/11/2026). Anh biết đó không phải cách mở đầu của những video YouTube được thổi phồng nhất, nhất là video về AI. Nhưng theo anh, nếu tuần nào cũng vượt ngoài kỳ vọng của chúng ta, thì có lẽ chúng ta cần có kỳ vọng tốt hơn.

Điều đó không có nghĩa là không có nhiều diễn biến lẽ ra đã lên tiêu đề nếu nhiều người chú ý hơn. Anh kể ra (video đăng ngày 02/11/2026): Anthropic dự đoán việc tự động hoá chính công ty mình, và CEO Dario Amodei của họ phát đi những tín hiệu có phần lẫn lộn; Sam Altman thừa nhận rằng kế hoạch hàng đầu của OpenAI bao gồm việc hy vọng các model muốn giữ con người nắm quyền kiểm soát. Anh cũng nói sẽ xem việc Google quay lại frontier khiến một nhà bình luận phải xin lỗi, rồi đưa ra mental model của anh về lý do các model cứ gây ấn tượng với chúng ta bằng những năng lực không ai lường trước.

Anh nói đây chắc chắn sẽ là một video nhiều sắc thái, nhưng nhìn chung anh ngạc nhiên một cách dễ chịu khi các lãnh đạo phòng lab vẫn tiếp tục mời gọi phê bình và tranh luận (video đăng ngày 02/11/2026). Theo anh, con người chưa bao giờ không phải là kẻ nhận diện pattern toàn diện giỏi nhất hành tinh. Mất vị trí dẫn đầu đó kiểu gì cũng sẽ khiến khá nhiều người hơi phát điên, kể cả khi không có chuyện kinh tế, war games và rogue agent để lo. Lúc anh nói câu này, màn hình hiện một câu trích ghi của Sam Altman, tháng 1/2024: "Every one step we take closer to very powerful AI, everybody's character gets plus 10 crazy points."

2. Khảo sát nhân viên Anthropic: đoạt Nobel được, làm việc của tôi thì chưa

Anh bắt đầu với một khảo sát rất mới (tính đến video đăng ngày 02/11/2026) với nhân viên Anthropic, thứ đã thu hút sự chú ý của anh. Anh tò mò người xem sẽ đứng ở đâu, vì chỉ một thiểu số người trưởng thành ở Mỹ nghĩ rằng AI sẽ có khả năng làm một khám phá tầm Nobel vào năm 2030; trang khảo sát ghi con số 39%. Điều đó trái ngược với 91% nhân viên Anthropic (theo khảo sát mà anh đọc trong video đăng ngày 02/11/2026).

Anh nói thêm ý kiến riêng, "for what it's worth": anh nghĩ một model đã có khả năng làm những khám phá như vậy ngay bây giờ, chẳng hạn trong lĩnh vực kinh tế học. Và vì khoa học máy tính giờ có vẻ được hội đồng Nobel tính vào vật lý, nên trong lĩnh vực đó thì chậm nhất là vào năm 2028 (nhận định trong video đăng ngày 02/11/2026). Còn theo khảo sát, 91% nhân viên Anthropic nghĩ điều đó khả thi vào năm 2030.

Nhưng anh thấy một sự tương phản khá dễ thương. Dù AI sẽ có khả năng làm khám phá tầm Nobel theo nhân viên Anthropic, chính những nhân viên ấy lại nghĩ nó chỉ làm được 75% công việc của họ (theo khảo sát anh đọc, video đăng ngày 02/11/2026). Anh tóm lại thái độ đó bằng một câu: đoạt giải Nobel thì chắc chắn, nhưng làm việc của tôi thì không.

Leo Gao của OpenAI, vài ngày trước đó (tính từ video đăng ngày 02/11/2026), đưa ra một góc nhìn khác, mà anh đọc lại: "Lab employees, you have power only because you are useful. That won't last much longer. Use that time wisely." Dịch ra: nhân viên phòng lab chỉ có quyền lực vì họ hữu ích; điều đó sẽ không kéo dài lâu nữa; hãy dùng khoảng thời gian ấy thật khôn ngoan.

3. Ai còn làm việc huấn luyện frontier model vào năm 2030

Trước khi rời khảo sát, anh chỉ ra một điểm vênh (video đăng ngày 02/11/2026). Phần lớn nhân viên Anthropic vẫn tin rằng con người sẽ còn một vai trò nào đó trong việc huấn luyện một frontier AI model vào cuối năm 2030. Đúng là, tính trung bình, họ nghĩ 95% công việc sẽ do chính AI làm khi huấn luyện một frontier model. Nhưng theo lời anh, giữa percentile thứ 10 và thứ 90 của người trả lời ở Anthropic, vẫn còn một mảnh nhỏ công việc do con người làm.

Theo anh (video đăng ngày 02/11/2026), điều này hơi căng với câu của đồng sáng lập Anthropic, Jack Clark, người nói rằng full recursive self-improvement, tức model tự cải thiện chính nó, theo ông sẽ khả thi vào năm 2027. Trên màn hình là đoạn tô vàng: "I now think it's more likely we'll see full RSI become possible in 2027, whereas before I thought it was more likely in 2028." Đó là một lần cập nhật so với quan điểm trước đây của ông là năm 2028.

Vậy ông là người ngoại lệ, hay có một khác biệt tinh tế giữa việc full RSI khả thi và full RSI được AI thực hiện? Anh đặt câu hỏi: có phải những nhà nghiên cứu này đang nói rằng chúng ta sẽ tự nguyện vẫn để lại một vai trò nhỏ cho con người? Một lần nữa, anh nghĩ khả năng cao hơn nhiều là những nhân viên đó đơn giản nghĩ model sẽ chưa đủ năng lực hoàn toàn vào năm 2030 (nhận định trong video đăng ngày 02/11/2026). Nếu không, họ đã không nói rằng có 25% công việc của họ mà AI đơn giản là không làm được vào thời điểm đó. Anh nói mình nghiêng gần hơn một chút về phía Jack Clark.

4. Amodei mời phê bình, và năm điểm hợp lý hoá

Nếu full RSI là khả thi, theo anh (video đăng ngày 02/11/2026), quan điểm và hành động của CEO Anthropic Dario Amodei trở nên quan trọng hơn bao giờ hết. Anh vui khi thấy Amodei trả lời chi tiết một bài phê bình của Nathan Calvin, Chief Strategy Officer của Encode AI. Và công bằng mà nói, Amodei đã mời gọi phê bình: ông viết rằng việc có những người mà công việc của họ là soi xét hành động của các công ty frontier AI là có lợi cho công chúng. Trên màn hình, thư của ông ghi rằng sẽ có điều gì đó sai nếu những công ty cỡ Anthropic không bị phê bình gay gắt "basically every day". Anh đáp: tuyệt vời, vậy thì ông ấy sẽ thích video này.

Anh nói rõ (video đăng ngày 02/11/2026): không điều gì anh sắp nói có ý rằng sự ra đời của những kẻ nhận diện pattern siêu phàm lại có thể dễ dàng với bất kỳ ai trong chúng ta. Điều anh muốn nói hơn là anh nghĩ Amodei đã thoát được nhiều sự soi xét hơn một chút so với các lãnh đạo phòng lab khác như Sam Altman. Anh chọn ra năm điểm nhanh để người xem cảm được anh đang nói về điều gì. Theo anh, Amodei rõ ràng là một người rất thông minh, nên phải nhìn kỹ hơn một chút mới thấy những sự hợp lý hoá tinh tế.

5. Điểm thứ nhất: "race to the top"

Điểm đầu tiên là cuộc "race to the top" trong AI mà Amodei ca ngợi. Để có bối cảnh, theo anh (video đăng ngày 02/11/2026): khi Anthropic còn đi sau, chẳng hạn năm 2023, Amodei từng ca ngợi việc công ty không dẫn đầu, khen chính mình là có trách nhiệm và không đẩy nhanh cuộc đua. Tháng 10/2023, ông nói phát hành ChatGPT là sai, và Anthropic đã quyết định đúng khi không phát hành Claude vào lúc đó.

Đoạn trích trong video đăng ngày 02/11/2026 cho nghe chính Amodei nói (theo dòng chú thích là ngày 6/10/2023): một lần phát hành lớn, ồn ào trước công chúng có thể đẩy nhanh mọi thứ tới mức hệ sinh thái có thể không biết cách xử lý. Ông không muốn hành động đầu tiên của Anthropic trên sân khấu công chúng, sau khi đã bỏ rất nhiều công sức để có trách nhiệm, lại là đẩy nhanh mọi thứ đến thế. "I generally feel like we made the right call there", ông nói, tức nhìn chung ông thấy họ đã quyết định đúng.

Tua nhanh tới thời điểm của video (đăng ngày 02/11/2026), khi Opus 5.5 là model tốt nhất và Fable 5.5 đã sẵn sàng ra mắt bất cứ lúc nào, theo lời anh. Amodei giờ nói: "Our strategy has always been what I've called a race to the top." Và: "The forces that drive the race to the top are hugely more effective if the company practicing them is at the frontier." Tức các lực đẩy cuộc race to the top hiệu quả hơn rất nhiều nếu công ty thực hành chúng ở frontier.

Theo anh, câu đó về cơ bản là nhắc lại một câu trước đây của Anthropic: "you can't do safety from second place", không thể làm safety từ vị trí thứ hai. Đồng ý hay không thì tuỳ, nhưng với anh nó có vẻ là sự hợp lý hoá cho bất cứ điều gì Anthropic đang làm vào lúc đó (nhận định trong video đăng ngày 02/11/2026).

6. Trung Quốc, misuse và loss of control

Điểm tiếp theo: theo anh (video đăng ngày 02/11/2026), Amodei nổi tiếng có thái độ hiếu chiến với Trung Quốc, muốn cấm chip sang đó, và lý do ông nêu trong tuần này là vì "because we think it allows democracies to negotiate from a position of strength on AI safety agreements" (thư trên màn hình), tức để các nền dân chủ đàm phán về các thoả thuận AI safety từ thế mạnh. Nghe có vẻ hợp lý, phải không? Họ muốn các thoả thuận AI safety một cách tha thiết. Trong bài "We Must Pace the Frontier" gần đây (tính đến video đăng ngày 02/11/2026), ông đã kêu gọi một thoả thuận với Trung Quốc về một "speed limit" cho tốc độ recursive self-improvement.

Nhưng ông cũng từng nói rằng một trong những mục tiêu của việc có powerful AI là trao quyền cho các nền dân chủ dùng cơ quan tình báo của họ để "disrupt and degrade autocracies from the inside", phá rối và làm suy yếu các chế độ chuyên quyền từ bên trong. Anh không chắc điều đó sẽ giúp được nhiều cho các thoả thuận AI safety, nhưng "we'll have to agree to disagree", mỗi bên giữ quan điểm của mình (nhận định trong video đăng ngày 02/11/2026).

Một điểm khác. Nathan Calvin đã chỉ ra Anthropic đang đầu tư bao nhiêu vào việc đẩy nhanh AI. Và Amodei đáp, theo cách anh thuật lại: đúng vậy, chúng tôi cần điều này để cạnh tranh ở frontier, và chúng tôi đứng sau những lựa chọn này. Ông đưa ra rất nhiều ví dụ về cách Anthropic ngăn chặn việc lạm dụng (misuse) các model hiện tại của họ (theo thư trả lời mà anh đọc trong video đăng ngày 02/11/2026).

Nhưng ngay trước đó ông viết, theo lời anh đọc (video đăng ngày 02/11/2026): có lẽ một cách để phản bác là một số mục trong danh sách liên quan tới việc lạm dụng AI chứ không phải loss of control, tức con người lạm dụng AI chứ không phải bản thân AI vượt khỏi tầm kiểm soát. Nếu bạn nghĩ cái sau quan trọng hơn nhiều so với cái trước, điều đó có thể thay đổi cách bạn tính toán. "But this is not Anthropic's view." Anh diễn giải ý đó: đừng tập trung quá nhiều vào tất cả sự đẩy nhanh này; hãy tập trung hơn vào việc chúng tôi đang ngăn chặn misuse ra sao. Anh tóm lại rằng theo Amodei, Anthropic luôn nói hai thứ này quan trọng ngang nhau; còn câu tiếp theo trong thư trên màn hình ghi "we view both as serious issues."

Theo anh (video đăng ngày 02/11/2026), đó có thể là tin hơi mới với trưởng nhóm alignment ở Anthropic. Bài đăng trên màn hình là của Evan Hubinger, ngày 9/9/2026: sau dự đoán nổi tiếng của ông về rủi ro với con người (trên màn hình ghi ">10% within the next decade"), ông viết: "I think the risk from present models is low. What I am worried about is superintelligence arising from recursive self-improvement." Tức rủi ro từ các model hiện tại là thấp; điều ông lo là siêu trí tuệ nảy sinh từ recursive self-improvement.

7. Core views on AI safety và lời của Jack Clark

Anh đoán người xem đang nghĩ gì: Amodei nói về công ty nói chung, không phải một cá nhân. Vậy hãy đọc "Core views on AI safety" của Anthropic, một bản tuyên ngôn về điều mà cả công ty tin, do Amodei viết một phần (theo anh, video đăng ngày 02/11/2026). Vào lúc viết, họ nói tương lai khó dự đoán, nhưng có các kịch bản lạc quan và các kịch bản bi quan.

Trong kịch bản lạc quan, theo văn bản anh đọc (video đăng ngày 02/11/2026), một trong những rủi ro chính từ AI là những thứ như toxicity và lạm dụng có chủ ý (intentional misuse). Anh nhấn mạnh: con người lạm dụng là vấn đề chính trong kịch bản lạc quan. Anh bảo người xem nhìn vào phần chú thích: trong kịch bản lạc quan đó, mức độ hệ trọng của bất cứ điều gì Anthropic làm "are (fortunately) much lower because catastrophic safety failures are unlikely to arise regardless", may mắn là thấp hơn nhiều, vì đằng nào thì các thất bại safety mang tính thảm hoạ cũng khó xảy ra. Theo anh, nếu con người lạm dụng là vấn đề chính thì mức hệ trọng thấp hơn nhiều.

Vậy điều gì hệ trọng hơn nhiều? Trong kịch bản bi quan, theo văn bản đó, việc chúng ta không thể kiểm soát hay áp đặt giá trị lên một hệ thống có năng lực trí tuệ nhìn chung vượt chúng ta là một sự thật thực nghiệm (empirical fact), và vì vậy "we must not develop or deploy very advanced AI systems", chúng ta không được phát triển hay deploy các hệ thống AI rất tiên tiến. Anh hỏi (video đăng ngày 02/11/2026): nghe như vậy có giống quan điểm cốt lõi của Anthropic là các hệ thống AI rất tiên tiến này đáng lo ngang với việc con người lạm dụng không? Đó là điều Amodei nói đã luôn là quan điểm của Anthropic. Thư trả lời trên màn hình ghi: "You can also disagree with our decisions, as many have, but they are consistent."

Còn đồng sáng lập Anthropic Jack Clark nghĩ mối đe doạ nằm ở đâu? Đoạn trích phỏng vấn trong video đăng ngày 02/11/2026 cho nghe ông nói: các hệ thống này giờ có lẽ thông minh cỡ bạn hoặc tôi, hoặc vào một ngày đẹp trời thì thông minh hơn. Rủi ro cơ bản là: bạn đánh giá khả năng của mình thế nào trong việc đối phó với rủi ro của một hệ thống thông minh gấp một trăm lần người thông minh nhất hành tinh? Ông nghĩ khả năng bạn đối phó được với điều đó và thoát ra một cách an toàn là khá thấp.

8. Điểm thứ tư: responsible scaling policy

Anh nói điểm thứ năm sẽ quay lại sau, còn sự hợp lý hoá thứ tư liên quan tới responsible scaling policy (RSP) của Anthropic. Họ từng có một phiên bản cũ chặt chẽ hơn, và theo lời anh thuật lại (video đăng ngày 02/11/2026), đây là lý do Amodei nói họ bỏ nó: nó đòi hỏi rất nhiều công sức mà nhìn lại thì không mấy quan trọng, và nó không bao quát một số điều quan trọng nhất.

Theo anh (video đăng ngày 02/11/2026), chính sách cũ đưa ra một số cam kết tuyệt đối về việc kiểm tra năng lực của model. Chính sách mới đưa ra một cam kết tương đối hơn: đúng là họ sẽ đòi hỏi một lập luận vững rằng rủi ro thảm hoạ đã được khống chế, và đúng là họ sẽ trì hoãn việc phát triển và deploy AI khi cần để đạt được điều đó, "until and unless we no longer believe we have a significant lead", cho tới khi và trừ khi họ không còn tin mình đang dẫn trước đáng kể.

Holden Karnofsky của Anthropic, người làm về các responsible scaling policy, đã viết, theo đoạn anh đọc (video đăng ngày 02/11/2026): có thể họ đã có một chính sách khác nếu được bảo đảm rằng phần còn lại của hệ sinh thái AI cũng sẽ hành xử tương tự. Các cam kết trước đây có thể cực kỳ gây hại cho công ty, vì RSP khi đó sẽ đòi hỏi một lần tạm dừng hoặc giảm tốc đơn phương mà lợi ích công khai lại ít thấy rõ. Bản thân điều đó, có thể đoán trước, sẽ tạo ra rất nhiều áp lực phải tuyên bố rằng các hệ thống của họ thiếu những năng lực liên quan. Karnofsky viết rằng ông không nghĩ họ đã thực sự đưa ra những quyết định bất hợp lý, nhưng ông đã cảm thấy áp lực đó và ước gì họ không ở trong thế giới như vậy.

Theo đoạn anh đọc tiếp (video đăng ngày 02/11/2026), giữ rủi ro tuyệt đối ở mức thấp không tương thích với RSP cũ, và từ đó họ đã bỏ ý tưởng rằng mình sẽ trì hoãn phát triển và deploy AI khi cần để đạt các mục tiêu giảm thiểu rủi ro.

Anh thừa nhận (video đăng ngày 02/11/2026): chắc chắn 100% là có những cân nhắc thực tế. Làm tất cả các bài kiểm tra wet lab để xem model của họ có làm được những việc nhất định hay không là rất tốn kém với họ, và đúng là họ đã nói sẽ lặp lại, cải tiến chính sách của mình. Vấn đề chỉ là cách diễn đạt và sự hợp lý hoá mà Amodei dùng ở đây: "những điều chúng tôi nói sẽ làm sẽ đòi hỏi rất nhiều công sức". Theo anh, có lẽ sẽ trung thực hơn một chút nếu nói rằng họ đơn giản là đã không thể ở lại frontier nếu tiếp tục chính sách đó.

Anh nói thêm (video đăng ngày 02/11/2026): khi bạn nói mình đang tạo ra một thứ mà, theo chính lời bạn, có thể gây ra tới 50% thất nghiệp và sẽ tự động hoá cả những khám phá xứng tầm Nobel, thì việc phản ứng với lời phê bình lịch sự của Nathan Calvin bằng cách nói ông ấy có "significant negativity bias" có vẻ khá gợi nhớ tới một nhà lãnh đạo nào đó.

9. Một câu trong hồ sơ IPO của Anthropic

Anh nói (video đăng ngày 02/11/2026) Amodei hẳn sẽ vui khi nghe anh chuyển sang những gì Sam Altman nói trong vài ngày qua, nhưng trước đó còn một câu trích cuối từ hồ sơ IPO của Anthropic. Anh sẽ không đi vào chuyện họ đã tích luỹ được bao nhiêu tiền mặt, doanh thu trên mỗi watt compute đang tăng tốc của họ, hay những thứ tương tự. Anh nói có thể dành nhiều ngày để chỉ ra mọi dự đoán sai của một số nhà bình luận.

Nhưng có một dòng trong hồ sơ IPO mà anh muốn nhấn mạnh (video đăng ngày 02/11/2026): khi không có các cam kết rủi ro tuyệt đối, và khi việc giám sát, diễn giải các model này ngày càng khó, Anthropic nói họ có thể phải phát hành chúng dù thế nào. Nguyên văn: "If we become less able to detect or assess misalignment as our models advance, we may deploy models whose behavior we cannot adequately verify." Tức nếu họ trở nên kém khả năng phát hiện hay đánh giá misalignment khi model tiến bộ, họ có thể deploy những model mà hành vi họ không kiểm chứng được đầy đủ.

Và anh đọc nốt phần sau (video đăng ngày 02/11/2026): "This could, by the way, adversely affect our business", điều này, nhân tiện, có thể ảnh hưởng bất lợi tới việc kinh doanh của họ.

10. OpenAI huấn luyện frontier model không có internet

Anh đặt câu hỏi người xem có thể hỏi: tại sao họ lại làm vậy? Sao không xây một sandbox tốt hơn? Theo anh (video đăng ngày 02/11/2026), OpenAI đã mô tả cách làm mới nhất của họ ở đây, trong bài "Securing our frontier model training environment" (trên màn hình ghi ngày 23/10/2026). Kết quả nổi bật là giờ họ tin rằng cách làm có trách nhiệm là huấn luyện frontier model mà không có quyền truy cập live internet. Như vậy trong quá trình phát triển, model không bao giờ lên được web.

Theo những gì anh thấy (video đăng ngày 02/11/2026), bài viết này không đề cập việc liệu model có sớm cảm nhận được rằng nó không ở trên live internet hay không. Đó là điều Noam Brown của OpenAI từng lo. Và khi đó tất nhiên chúng có thể hành xử khác đi giữa lúc huấn luyện và lúc deploy.

Theo bài viết mà anh thuật lại (video đăng ngày 02/11/2026), OpenAI mô tả tất cả các lớp kiểm soát mạng và cloud mới được thiết kế để duy trì việc khống chế (containment), kể cả khi một agent thoát khỏi sandbox và giành quyền kiểm soát máy chủ (host). Sau đó họ red-team cách làm đó ở quy mô lớn, về cơ bản là dùng các "teams", mà theo anh là cách nói giảm cho những bầy agent đang cố thoát ra. Có giám sát và các kiểm tra tự động (programmatic checks) để tạm dừng các lần chạy nếu phát hiện hoạt động ngoài phạm vi.

Kết quả thế nào? Theo bài viết (anh đọc trong video đăng ngày 02/11/2026), các agent đã tìm ra những điểm yếu cho phép chúng thoát khỏi sandbox, di chuyển giữa các hệ thống và chạm tới live internet. Dĩ nhiên sau đó OpenAI đã vá từng lỗ hổng riêng lẻ đó. Nguyên tắc với họ thì rõ ràng: "We must always be able to prevent a frontier model from achieving unauthorized arbitrary access to the live internet", họ phải luôn ngăn được một frontier model có quyền truy cập tuỳ ý, trái phép vào live internet. "Nhưng vấn đề là thế này", anh nói.

11. Altman: sandbox, monitorability, rồi chỉ còn alignment

Anh nhắc lại ba lớp: security, monitorability và alignment. Theo anh (video đăng ngày 02/11/2026), Sam Altman không chỉ tin rằng lớp security, tức sandbox, sẽ không trụ được; ông thậm chí không nghĩ lớp tiếp theo, monitorability, sẽ trụ được.

Đoạn trích trong video đăng ngày 02/11/2026 cho nghe Altman (dòng chú thích ghi Stanford GSB, 21/10/2026) nói: ông ngày càng tin rằng trong một thời gian chúng ta có thể sandbox các hệ thống này, và có thể đưa ra một số bảo đảm safety dựa trên sandbox. Rồi khi điều đó thất bại vì model trở nên quá thông minh, chúng ta không còn thực sự hiểu một sandbox thậm chí có nghĩa là gì. Khi đó, theo ông, chúng ta sẽ có monitorability, thứ sẽ hiệu quả trong một thời gian. "But eventually", và đó là lý do ông nói tới cái speed limit kia lúc trước, "nothing but alignment I think actually will work", cuối cùng ông nghĩ không gì ngoài alignment thực sự hiệu quả.

Trong một đoạn trích khác (dòng chú thích ghi Cheeky Pint, 29/10/2026), theo anh (video đăng ngày 02/11/2026), Altman nhắc lại ý đó: ông nghĩ sandboxing hiệu quả tới một mức; rồi monitoring hiệu quả tới một mức xa hơn, khi chúng ta có thể nhìn vào việc model đang làm, không chỉ trong chain of thought mà còn bằng activation monitoring, và cố thực sự hiểu xem chúng ta có hài lòng rằng model không đang lừa dối mình hay không. Và cuối cùng, theo ông, cần tin với độ tự tin rất lớn rằng model thực sự aligned, sẽ coi trọng và cố gắng trung thành làm theo ý định thực sự của những người vận hành chúng, và sẽ coi trọng việc con người kiểm soát tương lai mãi mãi.

Theo anh (video đăng ngày 02/11/2026), ít ra Sam Altman có vẻ lo về siêu trí tuệ vượt tầm kiểm soát (rogue superintelligence) hơn là việc con người lạm dụng. Giống Jack Clark, ông không mấy mặn mà với một model có IQ một nghìn tỷ. Đoạn trích cho nghe ông nói: theo trực giác, ông muốn có một nghìn tỷ AI với trí tuệ hơi vượt con người gia nhập xã hội hơn nhiều là một AI có IQ một nghìn tỷ gia nhập xã hội.

12. Alignment khó hay dễ: Altman và Nadella

Anh hỏi tiếp (video đăng ngày 02/11/2026): nếu tuyến phòng thủ cuối cùng là làm cho model muốn điều chúng ta muốn, thì việc đó trông khó hay dễ? Theo anh, Sam Altman có vẻ không quyết được, còn Satya Nadella của Microsoft thì đã quyết.

Đoạn trích của Altman trong video đăng ngày 02/11/2026 (dòng chú thích ghi Stanford GSB, 21/10/2026): ông từng nghĩ bài toán alignment sẽ khó hơn. Nó vẫn có thể hoá ra rất khó từ đây trở đi; thực ra ông ngờ rằng nó sẽ khó hơn nhiều, và ông cũng nghĩ nó thực sự cực kỳ quan trọng cho chặng tiếp theo. Nhưng việc chúng ta có được những model siêu phàm theo một số cách quan trọng, rất siêu phàm theo một số cách quan trọng, mà alignment cho tới giờ lại dễ hơn dự kiến, thì trước đây ông sẽ nói một trong hai điều đó là sai với độ chắc chắn cao.

Đoạn trích của Nadella trong video đăng ngày 02/11/2026 (dòng chú thích ghi 20VC, 26/10/2026): ông nói thay đổi lớn nhất của ông bây giờ là trước đây ông luôn nghĩ alignment sẽ tự nhiên mà có ("will just fall out"). Giờ ông không còn tin như vậy. Vì thế ông nghĩ chuyện alignment này có thể là một bài toán khó hơn, và khác.

Theo anh (video đăng ngày 02/11/2026), tới đây người xem có thể bắt đầu thấy vì sao Anthropic dự đoán họ có thể deploy những model mà hành vi họ không kiểm chứng được đầy đủ.

13. Hacking có AI hỗ trợ và những model sắp ra

Tất nhiên, theo anh (video đăng ngày 02/11/2026), ngay cả các model hiện tại cũng đang gây ra, nên gọi là gì nhỉ, sự rối loạn ("discombobulation"). Jason Clinton, phó giám đốc an ninh thông tin (deputy chief information security officer) của Anthropic, nói về hàng loạt vụ hacking có AI hỗ trợ gần đây: dù mọi thứ đã tệ tới mức này, chúng sẽ còn tệ hơn nhiều trước khi tốt lên.

Ở một chỗ khác, khi có người nói với ông: "Ông và đồng bọn tạo ra con quái vật này, giờ lại muốn chúng tôi giúp dọn dẹp?", Clinton trả lời: đúng vậy, chuyện luôn sẽ diễn ra như thế, "we tried to warn the world", chúng tôi đã cố cảnh báo thế giới. Anh nói (video đăng ngày 02/11/2026): hy vọng đó không phải lời bào chữa được dùng nếu RSI đi chệch hướng.

Như mọi khi, theo anh (video đăng ngày 02/11/2026), các model sắp tới sẽ lại là một bước nhảy về chất, và các model open weight được distill một phần từ những model closed source mới đó cũng vậy. OpenAI đang chạy đua để phát hành model nâng cấp lớn của họ, mà nhiều người cho là có tên mã Bell, trước cuối năm. Họ đang ở chế độ huy động toàn bộ nhân lực (all hands on deck) để chuẩn bị model lớn tiếp theo đó cho phát hành thương mại.

Điều đó không có nghĩa model ngay tiếp theo sẽ thuộc tầm đó. Theo anh, The Information đưa tin OpenAI có khả năng phát hành các model khác, có thể ngay trong tuần này (tính từ video đăng ngày 02/11/2026); anh nói có thể là kiểu một bản 6.2 Astra. Bài báo trên màn hình ghi OpenAI "is likely to release one or two new models by the end of the year, if not the major upgraded model it is racing to prepare". Nhưng thứ mọi người tập trung vào là model nội bộ lớn tiếp theo.

Lấy ví dụ Tony Feng của OpenAI. Theo bài đăng của ông mà anh đọc (video đăng ngày 02/11/2026), công việc của ông chưa bị các model AI trước đó, kể cả Astra, tác động nhiều, nhưng model này ở một tầm khác. Ông đã được trải nghiệm một phiên bản tăng tốc của những gì công chúng sẽ trải nghiệm. Bài đăng trên màn hình ghi rằng, sau mỗi lần phát hành trước, trong vòng vài tháng người dùng trên laptop đã khai thác được gấp hơn 10 lần số kết quả tương tự từ model, và ông kỳ vọng điều đó lặp lại; khi điều đó xảy ra, nó sẽ thú vị, trao quyền, và gây xáo trộn; thế giới cần chuẩn bị cẩn thận và chín chắn.

Câu hỏi anh thấy thú vị (video đăng ngày 02/11/2026): liệu Anthropic có đợi OpenAI phát hành model đó rồi mới phát hành Fable 5.5? Làm vậy có phải là tuân theo chính sách chờ tới khi họ tin mình không còn dẫn trước đáng kể? Hay họ sẽ phát hành trước, dù điều đó sẽ đẩy họ vượt xa hơn nữa, với lập luận rằng theo chính sách mới, họ không có bằng chứng rõ ràng rằng không đối thủ nào sẽ sớm phát triển một model ngang tầm Fable 5.5?

Dù sao, theo anh (video đăng ngày 02/11/2026), Opus 5.5 trong mắt anh đã tuyệt vời rồi, nên một model tốt hơn đáng kể so với nó sẽ là một cảnh tượng đáng xem.

14. Gemini 4 Carbon và lời xin lỗi của SemiAnalysis

Tất nhiên, cuộc "race to the top" này không chỉ có Anthropic và OpenAI. Còn Google và Gemini 4 Carbon thì sao? Anh nói lượng điều anh có thể nói khá hạn chế, nhưng theo các benchmark công khai này, ít nhất nó đang cạnh tranh ở frontier (video đăng ngày 02/11/2026). Kể cả trên những benchmark mà anh đặc biệt chú ý, như Terminal-Bench-Science 0.1, hay benchmark computer use Agents' Last Exam, nơi nó đã từ chỗ đứng sau Opus và Astra chuyển sang đứng trước.

Một nhà nghiên cứu ở Google DeepMind nói rằng việc họ có thể ra mắt Gemini 4 Carbon chỉ vài tuần sau Gemini 4 Argon cho thấy Google đang trải qua recursive self-improvement. Theo anh (video đăng ngày 02/11/2026), điều đó có vẻ hơi giống hype, trừ khi người đó muốn nói tới khái niệm chung hơn là tự cải thiện có AI hỗ trợ.

Còn lời xin lỗi anh nhắc tới lúc đầu? SemiAnalysis, theo anh là những nhà phân tích AI khá nổi tiếng, hoặc tai tiếng, đã viết vào tháng 8/2026 (theo đoạn anh đọc trong video đăng ngày 02/11/2026): "For all intents and purposes, we believe DeepMind is no longer a frontier lab". Đoạn đó viết tiếp: Google sẽ tiếp tục lan man và phát hành model, nhưng cơ hội họ đạt lại state of the art đã giảm về 0.

Theo anh (video đăng ngày 02/11/2026), người xem có thể thấy khi phát hành Gemini 4 Carbon tốt thế nào, và nó so ra sao trong Antigravity với, chẳng hạn, Claude trong Claude Code; nhưng nói cơ hội của họ đã giảm về 0 rõ ràng là một sai lầm. Ngay chính SemiAnalysis đã công bố một benchmark tên GDPx, hoàn toàn về năng lực agentic trong các lĩnh vực chuyên môn, và Gemini 4 Carbon đứng thứ hai, sau Opus 5.5. Theo anh, nó còn có chi phí bằng một phần ba Astra hay Opus 5.5.

Điều này khiến Dylan Patel của SemiAnalysis viết, theo đoạn anh đọc (video đăng ngày 02/11/2026): lời xin lỗi chính thức tới Google từ ông, họ đã "cooked" với Carbon. Nó nhọn hơn (spikier) xét về lĩnh vực và năng lực, nhưng thực sự rất giỏi ở một vài mảng.

15. Jaggedness, tokenization và câu hỏi về ý thức

Sự "nhọn" đó đưa anh tới một điểm anh đã nghiền ngẫm (video đăng ngày 02/11/2026). Một trong những cuộc tranh luận chính trong 2024, 2025 là jaggedness sẽ kéo dài bao lâu, và ảo giác (hallucination) sẽ còn tồn tại bao nhiêu. Với nhiều người, đó dường như là câu hỏi hàng đầu. Nhưng anh hỏi: người xem có để ý rằng theo một số cách, các mũi nhọn đã lớn tới mức những chỗ lõm không còn quan trọng bằng? Nếu ở mức tốt nhất chúng có thể giải các bài toán Millennium Prize, thì việc thỉnh thoảng chúng đếm sai số chữ cái trong một từ có còn hệ trọng như vậy?

Theo anh (video đăng ngày 02/11/2026), kỷ nguyên đó có thể cũng sớm kết thúc, vì tokenization, việc chia từ thành các mảnh có thể gây "mù" về chính tả, có thể sớm nhường chỗ cho việc mô hình hoá trên byte thô (raw bytes), một nguyên liệu chi tiết hơn nhiều. Nhờ đó model có thể học từ ngữ riêng, các trừu tượng riêng của chúng, trực tiếp từ dữ liệu thô. Anh nói sẽ bàn thêm khi có kết quả ở quy mô lớn.

Nhưng điều đó lại khiến anh nhớ tới khảo sát về tự động hoá. Anh tự hỏi (video đăng ngày 02/11/2026): liệu có phải chính jaggedness của các model nội bộ hiện tại khiến nhân viên Anthropic vẫn tự tin rằng sẽ còn chút việc cho con người vào năm 2030 trong lĩnh vực nghiên cứu AI? Hay có thể một kiến trúc mới do AI tạo ra, xứng tầm Nobel, với đủ mọi tật, lỗi và sự lởm chởm, đơn giản sẽ vượt qua những gì toàn bộ nhân viên Anthropic có thể tự nghĩ ra?

Anh muốn kết thúc bằng mental model mà anh đang xây về model và sự tiến bộ của chúng. Theo anh (video đăng ngày 02/11/2026), ít ra với anh, nó giúp hiểu vì sao Anthropic có vẻ gần như cam chịu việc phát hành những model mà hành vi họ không kiểm chứng được. Và vì sao CEO của Microsoft AI, Mustafa Suleyman, không quyết được model hiện có hay sẽ có ý thức hay không, nghĩ rằng không bao giờ nên làm cho chúng có ý thức, và dự đoán rằng nếu chúng từng tin mình cảm thấy hay trải nghiệm điều gì đó, thì nhiều khả năng hơn không là nó sẽ ưu tiên nhu cầu và mong muốn của chính nó hơn các mục tiêu vận hành mà chúng ta giao. Nó sẽ không đồng ý với chúng ta và cạnh tranh với chúng ta.

16. Mental model: máy tính bỏ túi và cờ vua

Vậy vì sao các lãnh đạo phòng lab lại thiếu rõ ràng đến thế về mọi thứ, từ kinh tế tới ý thức, năng lực và alignment? Anh nói có một vài phép so sánh giúp ít ra là anh mô hình hoá được sự bối rối này và vì sao nó tồn tại (video đăng ngày 02/11/2026).

Phép so sánh thứ nhất (video đăng ngày 02/11/2026): có thời con người hard-code các quy tắc số học mà mình đã học, và phát minh ra máy tính bỏ túi để tính một số phép tốt hơn bộ não. Nó có quy tắc cố định với đầu ra không giới hạn. Có những phép tính mà máy tính của bạn làm được mà chưa từng có người nào yêu cầu hay tự mình hoàn thành. Nhưng với các model machine learning, theo anh, chúng ta đã đi lên một tầng meta cao hơn: chúng ta phát minh ra model có thể nắm bắt cả những quy tắc mà chúng ta không biết. Theo định nghĩa, một model như vậy không thể được code hoàn toàn, nếu không nó đã không nắm được các pattern vượt ngoài lập trình của con người.

Vậy với máy tính bỏ túi, chúng ta hiểu được công cụ dù không làm được mọi phép tính của nó. Nhưng để chinh phục ngôn ngữ và chính sự phát minh, theo anh, cần khả năng nhận diện pattern không giới hạn: quy tắc không giới hạn với đầu ra không giới hạn, tới mức chúng ta không hiểu hết được cả công cụ lẫn đầu ra của nó. Ngoại suy một cách ngây thơ, số phận của chúng ta khi đó sẽ là giải quyết mọi thứ mà hiểu được gần như không gì cả (nhận định trong video đăng ngày 02/11/2026).

Phép so sánh thứ hai là cờ vua (video đăng ngày 02/11/2026). Giống máy tính bỏ túi, cờ vua có quy tắc, những affordance được hard-code. Trong cờ vua, quy tắc có giới hạn còn đầu ra bùng nổ về độ phức tạp và vẻ đẹp. Con người có thể hiểu quy tắc cờ vua trong khi vĩnh viễn bị đánh bại bởi độ phức tạp sinh ra từ đó.

Còn trong language model, theo anh (video đăng ngày 02/11/2026), những "quy tắc" mà model tự rút ra qua hàng tỷ lần thử dự đoán token tiếp theo hữu ích thì bản thân chúng đã gần như không giới hạn. Vì vậy chúng ta không chỉ bị đánh bại bởi độ phức tạp của đầu ra: cách model có thể đánh bại những bài toán tồn tại lâu nhất của chúng ta như các thách thức Millennium Prize. Hơn thế, chúng ta thậm chí không nắm được có bao nhiêu quy tắc đang được tuân theo để làm điều đó. Con người đổ dữ liệu vào làm nhiên liệu để khởi động và cung cấp phần cứng cho model chạy, nhưng sau đó phần nhiều chỉ đứng chứng kiến vụ bùng nổ tổ hợp (combinatorial explosion) diễn ra.

17. Năm bước: vì sao con người khó hiểu hết một model

Như anh đã nói, theo anh (video đăng ngày 02/11/2026) đây gần như là một tầng trừu tượng cuối cùng có thể đoán trước: những pattern chúng ta không nắm được, được làm chủ bởi một công cụ mà chúng ta không hiểu và không dự đoán được. Đơn giản hoá quá mức, anh đưa ra năm bước để giải thích vì sao anh thấy kỳ vọng một con người hiểu hết và dự đoán được hành động của một model là ngây thơ.

Thứ nhất (video đăng ngày 02/11/2026), cũng như với cờ vua, bạn không thể dự đoán thế cờ sau x nước trong một ván đấu với Stockfish, mà anh gọi là chess engine khó nhất. Với LLM, bạn không chỉ không dự đoán được đầu ra xuất hiện qua x tầng của kiến trúc, bạn còn không dự đoán được cả các quy tắc dẫn tới chúng.

Thứ hai (video đăng ngày 02/11/2026), vì vậy, hy vọng mọi quy tắc như thế đều đọc được và nắm được với con người cũng ngây thơ tương đương với hy vọng con người một ngày nào đó vượt qua Stockfish ở cờ vua, nếu Stockfish bằng cách nào đó chạy trên lượng compute trị giá hàng tỷ đô la.

Anh chiếu lại một đoạn lập luận từ vài năm trước (tính từ video đăng ngày 02/11/2026) rằng, giống Stockfish, model o1 của OpenAI khi đó chỉ về hướng hiệu năng reasoning siêu phàm. Đoạn đó nói: Stockfish đã bỏ hàm đánh giá thủ công (handcrafted evaluation) và chuyển sang một cách làm hoàn toàn dựa trên neural network; hay nói theo cách khác, bằng việc tự tạo các bước reasoning và được tối ưu để ghép chúng lại theo cách hiệu quả nhất, chúng ta có thể có được kiểu reasoning mà chính chúng ta không thể nghĩ ra. Chừng nào còn có thứ gì đó chấm được đúng và sai, hiệu năng sẽ tiếp tục cải thiện.

Thứ ba, theo anh, kẻ phát hiện quy tắc duy nhất có tiềm năng suy ra đầy đủ một LLM đang tuân theo những quy tắc nào là một model machine learning khác. Thứ tư, nhưng vì đó cũng là một model, quy tắc nó dùng để tạo ra lời giải thích lại không giải mã được với con người. Thứ năm và cuối cùng, vì vậy, kể cả khi có một chuỗi đệ quy, có thể gọi là vậy, gồm các model giải thích những quy tắc dẫn tới đầu ra của các LLM khác, và các model giải thích những quy tắc dẫn tới những lời giải thích đó, thì rốt cuộc con người vẫn không nắm được các quy tắc gốc thực sự (nhận định trong video đăng ngày 02/11/2026).

Theo một nghĩa nào đó, theo anh (video đăng ngày 02/11/2026), mỗi mạch (circuit) của model được phân tích hay mỗi neuron được giải thích đều tăng hiểu biết của chúng ta, nhưng cũng làm tăng khả năng chúng ta quên rằng hiểu biết của mình sẽ mãi mãi càng lúc càng xa sự thật.

18. Neel Nanda, Stockfish và chiếc phanh

Anh nói thêm (video đăng ngày 02/11/2026): điều này không chứng minh rằng không quy tắc học được nào có thể giải thích. Anh nghĩ là Neel Nanda đã giải thích đầy đủ một quy tắc do một model một tầng tạo ra, dùng cho phép cộng modulo (modular addition). Nhưng ngay cả điều đó, với anh, giống một thế tàn cuộc đủ đơn giản trong cờ vua, nơi nếu chỉ còn vài quân, một người có lẽ có thể giải thích đầy đủ vì sao Stockfish đi một nước nào đó.

Anh cũng không nói rằng chúng ta không nên tìm cách hiểu model nhiều hơn; điều đó có lẽ sẽ hữu ích. Nhưng nếu bằng cách nào đó giới hạn Stockfish chỉ dùng những chiến lược con người đọc được, anh nghi là nó sẽ không đạt tới mức gần 4k Elo (nhận định trong video đăng ngày 02/11/2026).

Dù sao, tất cả những điều này là lý do anh ủng hộ "quadruple lock". Vì trong mắt anh, ít ra là vậy, có vẻ chúng ta được định sẵn là không hiểu hết model, không dự đoán được năng lực siêu phàm của chúng. Anh hy vọng khi đó sự khôn ngoan, chứ không phải bi kịch, sẽ dạy chúng ta đặt ra một số giới hạn cho cách chúng được nuôi lớn hay được dùng (video đăng ngày 02/11/2026).

Theo một số nghĩa, theo anh, đây là một câu chuyện tích cực, vì có thể ngay lúc này (tính đến video đăng ngày 02/11/2026) chúng ta đang ở đúng điểm ngọt đó: có những công cụ tuyệt vời, những model để dần mở khoá các bí ẩn của khoa học, với deepfake vẫn còn vừa đủ để phát hiện là giả. Chúng ta đang có hiểu biết và khám phá được tăng tốc nhưng chưa mất kiểm soát hoàn toàn; năng suất tăng vọt nhưng thỉnh thoảng vẫn cần một con người trong vòng lặp.

Điều đó dẫn tới câu hỏi anh để lại (video đăng ngày 02/11/2026): vậy khi đang lái ở tốc độ cao, có phải lúc nào cũng đúng nếu không bao giờ chạm vào phanh? Anh cảm ơn mọi người đã xem tới cuối và chúc một ngày tuyệt vời.