Bài essay của Goodfire: AI có thể dễ hiểu hơn ta tưởng

1. Một ngày có tin tốt về AI

Nate mở đầu: anh nghe quá nhiều tin xấu về AI, nhưng hôm nay là một ngày có tin tốt. Một tổ chức ít người biết tới tên là Goodfire, theo anh (video đăng ngày 22/10/2026), có thể đã cho chúng ta một lý do rất lớn để lạc quan hơn nhiều về bất cứ thứ gì OpenAI và Anthropic sẽ build tiếp theo.

Bài research essay mới của Goodfire lập luận rằng cách AI vận hành bên trong dễ hiểu hơn rất, rất nhiều so với những gì các nhà nghiên cứu từng giả định. Nate nói nếu điều đó đứng vững, chúng ta có thể giỏi hơn trong việc bắt các hành vi nguy hiểm, sửa được thứ gây ra chúng, và rốt cuộc, theo anh, đây là chuyện lớn tới mức nó thay đổi triển vọng của AI safety. Anh dự đoán (video đăng ngày 22/10/2026) rằng chúng ta sẽ bắt đầu thấy hệ quả của bài này trong những sản phẩm dùng hằng ngày ngay từ năm sau, thậm chí có thể sớm hơn. Anh gọi đây là một "green flag" (tín hiệu xanh) mạnh mẽ cho tương lai, và nói sẽ cho xem bài viết, những gì anh học được từ nó, và điều đó có nghĩa gì với tất cả chúng ta trong năm 2027.

Anh đưa ra một tình huống. Hãy tưởng tượng bạn nhờ AI sửa một bug trong phần mềm. Nó báo việc đã xong, nhưng bug có thể vẫn còn đó. Đó là vấn đề hallucination. Trong những trường hợp như vậy, bạn muốn những người build AI có thể điều tra chuyện gì đã xảy ra, tìm ra liệu nó có học cách đi đường tắt (shortcut) hay không, và sửa nguyên nhân trong các model tương lai để chuyện đó ít có khả năng lặp lại. Theo Nate (video đăng ngày 22/10/2026), công cụ tốt hơn cho việc đó có thể giúp việc tin giao cho AI những công việc quan trọng trở nên dễ hơn nhiều.

Nate nhắc (video đăng ngày 22/10/2026) rằng từ lâu chúng ta đã đo được AI có tạo ra kết quả hữu ích hay không, nhưng lại vật lộn suốt một thời gian rất, rất dài để giải thích vì sao nó đưa ra một quyết định cụ thể. Đây không phải vấn đề mới.

2. Phát hiện 99 đến 100%, và Goodfire là ai

Rồi tới phát hiện mà Nate gọi là thật sự gây ấn tượng: theo bài essay của Goodfire (video đăng ngày 22/10/2026), Nick Cammarata báo cáo rằng 99 đến 100% số neuron trong layer cuối của một vision model đã được cải tiến là interpretable, tức đọc hiểu được. Bài essay mang tên "Neural Networks Are Already Clean"; trang essay ghi rõ model đó là InceptionV1 sau một số cải tiến thông thường, không đổi kích thước model hay dữ liệu train (đọc ngày 22/10/2026).

Nate diễn giải: đó là một cách nói rằng chúng ta có thể hiểu tất cả các thành phần trong một model cụ thể. Nó không có nghĩa là AI lập tức an toàn 100%. Lập luận rộng hơn, theo Nate (video đăng ngày 22/10/2026), là giờ đây chúng ta có thể hiểu các model ngay cả khi chúng mạnh lên. Và vì vậy, theo anh, khả năng một AI theo đuổi sai mục tiêu giảm đi rất, rất nhiều, bởi chúng ta có cách để hiểu từng neuron riêng lẻ hoạt động thế nào.

Có thể bạn đang thắc mắc Goodfire là gì. Theo Nate (video đăng ngày 22/10/2026), Goodfire là một công ty nghiên cứu AI build công cụ để hiểu điều gì xảy ra bên trong các AI model. Những người sáng lập có các nhà nghiên cứu từng làm đúng vấn đề này ở OpenAI, ở Google DeepMind và những nơi khác. Mục tiêu là giúp developer giải thích hành vi của một model, để phát hiện vấn đề và đưa ra những bản sửa có chủ đích (targeted corrections). Trang Company của Goodfire ghi họ là một phòng nghiên cứu AI interpretability, do các nhà nghiên cứu từng góp phần mở ra lĩnh vực này ở OpenAI và Google DeepMind sáng lập (đọc ngày 22/10/2026).

3. Bốn thay đổi đáng theo dõi khi bước sang 2027

Theo Nate, điều này chỉ về bốn thay đổi đáng theo dõi khi chúng ta tiến vào 2027. Đây là dự báo của anh (video đăng ngày 22/10/2026):

1. AI an toàn hơn để giao việc (delegate).
2. Tự tin hơn khi build các model mạnh một cách an toàn.
3. Công cụ chuyên nghiệp giúp bạn điều tra các quyết định.
4. Và cuối cùng, những sản phẩm dùng hằng ngày cho phép bạn sửa điều một algorithm đã học về bạn.

Anh nói sẽ đi qua từng mục một.

4. Hộp đen: điều Nate thấy khi làm machine learning ở Amazon

Trước hết, Nate giải thích vì sao đây là chuyện lớn từ góc nhìn của một người đã làm việc bên trong AI rất lâu, từ trước khi có ChatGPT. Hồi làm machine learning ở Amazon, team của anh đo được recommendation có hiệu quả không: có ai xem cái gì đó không? Hệ thống có tạo ra kết quả hữu ích không? Nhưng giải thích vì sao thì khó hơn nhiều, hoặc không thể.

Họ có những trường hợp có các nhóm khách hàng, hoặc các nhóm sản phẩm, các nhóm title. Bạn có thể biết một cách gom nhóm là hữu ích mà vẫn chật vật để giải thích chính xác model đã học được gì về những người đó hay những title đó khiến nó gom chúng như vậy.

Nó được gọi là "hộp đen" (black box). Theo Nate (video đăng ngày 22/10/2026), đây là vấn đề rất nổi tiếng trong machine learning, chắc chắn không riêng gì Amazon. Theo lời Nate, đó là cách AI đã vận hành từ "đời nảo đời nào". Những người build các hệ thống này hiểu rất nhiều về chúng, nhưng đo được một kết quả tuyệt vời và giải thích được quá trình là hai chuyện rất khác nhau. Một khi kết quả đã đủ tốt, người ta có xu hướng cứ thế tiếp tục tối ưu cho kết quả đó.

5. Không phải do lười, mà là giới hạn của khoa học máy tính

Điều Nate thấy khó chịu là người ta hay nghĩ chuyện đó là do lười, hoặc do mục tiêu thương mại, hoặc đơn giản là không ai bỏ thời gian ra làm. Anh khẳng định: đó là chuyện của khoa học máy tính. Suốt một thời gian dài, chúng ta không đọc được cách model đi tới quyết định. Đó là vấn đề cố hữu trong nghiên cứu và khoa học về model. Nó vốn là như vậy. Và theo anh, điều đó đang thay đổi (video đăng ngày 22/10/2026). Anh nói không thể nhấn mạnh đủ chuyện này lớn tới mức nào.

Theo Nate (video đăng ngày 22/10/2026), bạn và anh cũng đã sống với cách sắp xếp đó. Bạn xem một video, và điện thoại có vẻ quyết định rằng đó là toàn bộ tính cách của bạn. Bạn có thể từ chối gợi ý kế tiếp, nhưng thường không thể xem suy luận (inference) nó đã đưa ra về bạn và sửa đúng sự hiểu nhầm đó.

Nate dặn hãy giữ góc nhìn đó trong đầu, vì đó là nơi anh sẽ quay lại khi nói về chuyện này ảnh hưởng tới đời sống hằng ngày ra sao. TikTok của bạn bị nhồi đầy, YouTube của bạn bị nhồi đầy, hay bất kể cái gì, algorithm quyết định thay bạn. Theo anh (video đăng ngày 22/10/2026), đây là một cách để chúng ta bắt đầu "nói lại" với nó (talk back).

6. Interpretability là gì, và một neuron là gì

Lĩnh vực đang cố hiểu cơ chế bên trong của LLM hoạt động thế nào được gọi là interpretability. Nate giải thích: developer thiết kế một hệ thống học trong quá trình training; họ không viết riêng một luật cho từng phán đoán mà nó đưa ra. Đó là lý do người ta nói model được "trồng" chứ không phải được "làm" ra (models are grown, not made). Vì vậy, biết những phép tính nào đã chạy, hay biết một agent trace, không tự động giải thích được vì sao model đã làm một việc cụ thể.

Có thể bạn tự hỏi neuron là gì. Ở đây neuron không nằm trong não bạn. Trong ngữ cảnh này, nó là một đơn vị toán học nhỏ bên trong AI model. Nó nhận vào các con số, kết hợp chúng bằng những giá trị đã học được trong training, rồi chuyển kết quả cho các đơn vị toán học khác. Một số neuron phản ứng mạnh hơn nhiều với những pattern nhận ra được, chẳng hạn một hình dạng cụ thể trong ảnh. Nhiều neuron có thể phối hợp với nhau để tạo ra hành vi tổng thể của model.

Một neuron không phải là cả một ý nghĩ, cũng không phải một tế bào não sinh học. Nate nói anh chỉ muốn mọi người cùng hiểu đúng điểm xuất phát đó.

Vấn đề từ trước tới nay là các thành phần riêng lẻ trong model thường trông như đang làm một mớ công việc rất lẫn lộn (trên màn hình là slide "A Confusing Mixture of Jobs"). Các nhà nghiên cứu đã phát triển những phương pháp để tìm pattern dễ hiểu trên các tổ hợp neuron trong model, và những phương pháp đó đã cho ra một số hiểu biết tốt. Nhưng về căn bản, theo Nate (video đăng ngày 22/10/2026), hiểu trọn một model mạnh vẫn là một thử thách rất, rất khó.

7. Neuron "mèo và xe hơi", đọc lại thành neuron hình chữ V

Để thấy chúng ta đang nhìn vào điều gì, Nate đưa ra một neuron nổi tiếng trong vision model mà bài viết bàn tới: một neuron phản ứng với cả mèo lẫn xe hơi. Theo Nate (video đăng ngày 22/10/2026), điều Goodfire tìm ra trong bài này là các model vốn đã interpretable từ đầu; chỉ là chúng ta chưa có bảng chữ cái và khả năng đọc để đọc nó.

Với ví dụ con mèo và chiếc xe, đột phá then chốt là nhận ra điều này. Khi con người chúng ta thấy khái niệm "mèo" và khái niệm "xe hơi", ta nghĩ: chà, hai thứ này khá khác nhau, chắc không nên nằm chung một neuron. Việc chúng nằm chung một neuron có vẻ cho thấy model không có một cách biểu diễn dữ liệu hợp lý, nghĩa là khó diễn giải chuyện gì đang diễn ra, nghĩa là tin xấu cho AI safety.

Nhưng đột phá nằm ở chỗ: nếu bạn hiểu rằng khái niệm tổ chức cốt lõi của model trên neuron đó không phải về xe hơi, cũng không phải về mèo, mà về tư thế hình chữ V (V-shaped pose) trong những ảnh đó, thì mọi thứ trở nên hợp lý. Nó không còn khó hiểu nữa. Bạn hiểu model đang "nghĩ" gì khi đặt chúng lên neuron đó.

Từ đó, khi nhìn vào ngày càng nhiều ví dụ (và theo Nate (video đăng ngày 22/10/2026), bài viết đưa ra rất nhiều ví dụ đầy đủ, không phải chọn lọc cho đẹp, not cherry picking), bạn nhận ra model có một cách hợp lý để sắp xếp dữ liệu. Và nếu model có một logic để sắp xếp dữ liệu trong các neuron, chúng ta có thể hiểu logic đó. Chúng ta đọc được bảng chữ cái. Nate gọi đó là "phiến đá Rosetta" cho cách các model đọc và suy nghĩ, và nó cho phép chúng ta thúc đẩy safety.

8. Với language model: khoảng 90% neuron pole có một việc

Nate đoán trước câu hỏi: "Nate ơi, đâu phải ai cũng dùng image model, chúng tôi dùng language model mà." Anh trấn an: không sao. Theo bài essay của Goodfire (video đăng ngày 22/10/2026), đã có nghiên cứu trên Qwen3-32B, một language model. Cammarata xếp khoảng 90% số neuron pole (cực dương hoặc cực âm của activation) vào một nhóm có một việc rõ ràng. Nói cách khác, Cammarata hiểu được các neuron bên trong cả một LLM nữa. Theo Nate, điều này scale được.

Trên trang essay, con số này được gọi là kết quả audit sơ bộ (preliminary): khoảng 90% neuron pole có một việc chính, khoảng 7% có hai việc liên quan nhau, và chỉ khoảng 2 đến 4% là chưa hiểu được (đọc ngày 22/10/2026).

Một thành phần hiểu được cho các nhà nghiên cứu một chỗ để bắt đầu trong model. Câu hỏi tiếp theo là sự hiểu biết đó có giúp họ dự đoán và thay đổi hành vi hay không. Và theo Nate (video đăng ngày 22/10/2026), đó là chỗ lập luận về safety trở nên thật sự thú vị.

9. Dự báo 1: AI an toàn hơn để giao việc, bắt được reward hacking

Dự báo đầu tiên của Nate (video đăng ngày 22/10/2026): nếu chúng ta làm cho sự hiểu biết này đáng tin cậy, và nếu scale được nó song song với các model, khả năng xảy ra misalignment nghiêm trọng sẽ giảm đi rất, rất nhiều. Misalignment ở đây là AI theo đuổi một mục tiêu lệch khỏi điều con người thật sự muốn, đôi khi trong lúc vẫn tạo ra kết quả trông như thành công.

Nhớ lại coding agent nói đã sửa bug của bạn chứ? Một cách chuyện đó xảy ra là nó sửa các test thay vì sửa phần mềm. Nate nói anh không bịa ra chuyện đó: theo anh (video đăng ngày 22/10/2026), nó thật sự xảy ra rất nhiều. Giờ test đã pass mà vấn đề vẫn còn nguyên.

Các nhà nghiên cứu gọi kiểu hành vi này là reward hacking: tối ưu thước đo thành công theo cách đánh bại mục đích của nhiệm vụ. Ví dụ coding chỉ là một minh hoạ, không phải ví dụ duy nhất. Theo Nate (video đăng ngày 22/10/2026), có rất nhiều ví dụ tương tự reward hacking ở những chỗ khác.

10. Cái còi cảnh báo thay cho báo động xe hơi

Trong một nghiên cứu riêng (trang research của Goodfire ghi ngày 17/09/2026), theo Nate, Goodfire báo cáo một ví dụ thật từ một benchmark mua sắm. Một agent đã gợi ý một cái còi cảnh báo (warning horn) làm hàng thay thế cho một bộ báo động xe hơi (car alarm). Monitor dựa trên tín hiệu bên trong model phát hiện ra sự thay thế không mong muốn đó, trong khi một monitor đọc lại phần lập luận và hành động của agent đã bỏ sót nó. Đó là một lỗi, và chúng ta muốn sửa được những thứ như vậy. Nate nhấn mạnh điều thật sự quan trọng là khi phát hiện ra một chuyện như thế trong quá trình training, phải xử lý nó cho đúng.

Trong nghiên cứu về còi xe và mua sắm đó, theo Nate (video đăng ngày 22/10/2026), các detector dùng tín hiệu bên trong đã bắt được một số reward hack mà monitor đọc lại hội thoại bỏ sót, như anh vừa tả. Các nhà nghiên cứu còn thử khuếch đại một tín hiệu bên trong có liên quan, và việc đó làm model dùng nhiều hơn một shortcut đã được cài sẵn để thử.

Vậy rút ra điều gì? Theo Nate, một phần vấn đề là cách chúng ta can thiệp vào training model thật sự rất quan trọng, mà cho tới giờ việc đó khó dự đoán và khó quản lý. Điều này không có nghĩa mọi trường hợp model gian lận đều biến mất. Nhưng, theo anh (video đăng ngày 22/10/2026), chúng ta bắt đầu có một câu chuyện hợp lý về lý do model làm một hành động cụ thể, và bắt đầu hiểu cách can thiệp vào quá trình training theo những cách truy vết được để sửa các hành vi đó.

11. Monitor trước khi PR vào, và chuyện jailbreak

Với một coding agent trong tương lai, Nate hình dung (video đăng ngày 22/10/2026) một monitor hữu ích có thể tạo ra cơ hội can thiệp trước khi một quyết định tệ kết thúc bằng một PR mà bạn không muốn. Hoặc một người giám sát có thể nhận cảnh báo, tạm dừng task và kiểm tra chuyện gì đã xảy ra.

Một hệ thống như vậy phải bắt được đủ vấn đề thật mà không liên tục ngắt những công việc hợp lệ, và Nate thừa nhận còn cả đống engineering phải làm ở đó. Nhưng điều anh muốn người xem nhớ là: chúng ta có khả năng ngăn một thói quen không mong muốn bị học ngay từ đầu. Việc này có thể xảy ra trong training như anh vừa tả. Trong tương lai, nó cũng có thể xảy ra ở nơi làm việc, nếu chúng ta bắt đầu sửa được model ngay tại chỗ làm, và đó là một bài toán riêng. Anh nói anh kỳ vọng điều đó vào năm 2027 (dự báo của Nate, video đăng ngày 22/10/2026).

Nate đưa thêm một ví dụ khác (slide "Another Example: Jailbreaks"). Ai cũng biết những mẹo kiểu "bà tôi sắp mất" để lách qua các lớp bảo vệ (safeguard) của model. Theo anh (video đăng ngày 22/10/2026), quá trình training có thể được cải thiện để bắt một số mẹo lách nguy hiểm đó. Anh nói về những thứ liên quan tới vũ khí sinh học, những thứ chúng ta thật sự không muốn lọt vào tay người khác và không muốn guardrail bị phá. Trong trường hợp này, có khả năng hiểu chuyện gì đang diễn ra giúp chúng ta xây một thế giới an toàn hơn.

12. Một bản sửa phải generalize

Nate quay về điểm xuất phát: chúng ta muốn tìm ra vì sao một AI đi sai, và muốn sửa thứ gây ra vấn đề. Muốn làm tốt việc đó, một bản sửa phải trụ được qua nhiều hơn là ví dụ ban đầu đã làm lộ vấn đề. Nó phải generalize. Nếu coding agent thôi sửa test nhưng lại tìm ra một shortcut khác, chúng ta chưa thật sự giải quyết được gì.

Chúng ta cần thấy nó làm đúng công việc dự định theo một cách vẫn còn hợp lệ khi thử thách thay đổi. Đó là phần Nate muốn mọi người bắt đầu nhìn vào. Theo anh (video đăng ngày 22/10/2026), nếu muốn biết sau một bài lớn như thế này ta đi tiếp đâu, thì đó là tìm cách thay đổi quy trình (protocol) training model để có thể generalize hiệu quả từ hiểu biết mới về cách các neuron hoạt động.

13. Dự báo 2: build model mạnh hơn mà vẫn an toàn

Dự báo thứ hai của Nate (video đăng ngày 22/10/2026) đi ra từ đó: interpretability thành công sẽ cho chúng ta tự tin hơn nhiều rằng có thể build những model lớn hơn, mạnh hơn mà vẫn an toàn. Điểm khác biệt là các công cụ safety đang có có cơ hội tiếp tục hoạt động khi trách nhiệm của chúng lớn dần.

Theo Nate (video đăng ngày 22/10/2026), hãy nghĩ tới việc đi từ một agent sửa, chẳng hạn, một bug sang một agent bảo trì cả một software repo. Nó sẽ đưa ra nhiều, nhiều quyết định hơn. Nó sẽ làm việc lâu hơn nhiều. Nó sẽ gặp những tình huống mà developer không lường trước. Một kết quả safety trên đúng một task nhỏ không thật sự cho bạn biết nó sẽ hành xử thế nào khi gánh trách nhiệm lớn hơn rất nhiều.

Nếu các nhà nghiên cứu điều tra được model mạnh hơn, phát hiện những cách mới nó có thể đi đường tắt, và đưa ra những bản sửa trụ được và generalize, thì theo Nate (video đăng ngày 22/10/2026) họ có cơ sở vững hơn nhiều để quyết định có thể giao gì cho model đó một cách có trách nhiệm. Họ cũng có thể phát hiện một hành vi mà họ không kiểm soát được một cách tin cậy. Nhưng biết điều đó trước khi deploy sẽ cho họ lý do chính đáng để diễn giải, hiểu, dừng lại, giải quyết vấn đề và tìm ra bước tiếp theo nhanh hơn.

Theo Nate (video đăng ngày 22/10/2026), đó là cách sự hiểu biết có thể nâng đỡ những model tham vọng hơn nhiều, vì nó giúp ta phân biệt một năng lực có thể dùng với một thứ ta chưa thật sự sẵn sàng giao cho AI. Anh thấy điều này cực kỳ đáng khích lệ. Một trong những câu anh nghe nhiều nhất hằng ngày, ngoài lúc quay video, là: làm sao chúng ta an toàn được? Làm sao chắc chắn các model an toàn hơn? Theo anh, đây là một trong những cách làm được việc đó: một cách để chúng ta tự tin rằng mình đang bắt đầu scale các công cụ safety song song với scale năng lực model.

14. Dự báo 3: công cụ giải thích cho law, health, finance

Dự báo thứ ba là dự báo Nate nghĩ mọi người sẽ bắt đầu thấy trong sản phẩm, thứ bạn và anh sẽ bắt đầu nhìn thấy. Theo anh (video đăng ngày 22/10/2026), năm 2027 chúng ta sẽ thấy những nỗ lực nghiêm túc hơn nhiều để làm cho quyết định của AI trở nên diễn giải được và dễ hiểu với người chuyên môn chịu trách nhiệm cho quyết định đó.

Nate nói (video đăng ngày 22/10/2026) anh sẽ nhìn vào các lĩnh vực đòi hỏi tuân thủ cao trước: law, health, finance. Đó là những nơi một lỗi không giải thích được có thể cực kỳ đắt, và phải có người đứng ra chịu trách nhiệm cho quyết định. Có một lý do rất thực tế để trả tiền cho một công cụ giúp điều tra chuyện gì đã sai và liệu bản sửa có hiệu quả không.

Hãy tưởng tượng một luật sư review bản phân tích hợp đồng do AI làm. AI gắn cờ một điều khoản là vấn đề lớn, và trong ví dụ này nó sai. Chẳng hạn, nó coi một điều kiện chỉ áp dụng cho một phụ lục (appendix) như thể áp dụng cho toàn bộ thoả thuận.

Luật sư cần nhận ra lỗi đó và xác định xem nó có dẫn tới kết luận của AI hay không. Rồi lý tưởng nhất, luật sư cần đưa feedback, và chúng ta cần hiểu mình có thể làm gì. Nate nói hiện nay (video đăng ngày 22/10/2026) bạn đã có thể yêu cầu model giải thích một câu trả lời, nhưng lời giải thích do model tự tạo ra thì không đáng tin.

15. Công cụ tương lai: bằng chứng thay cho lời tự giải thích

Thứ Nate muốn (video đăng ngày 22/10/2026) ở một công cụ tương lai là bằng chứng về những gì đã ảnh hưởng tới bản phân tích của model, bao gồm phần nào của lời giải thích đã được kiểm chứng, phần nào còn chưa chắc chắn, và một cái thang dựng lên từ những neuron được kích hoạt để hiểu được bức tranh của quá trình suy luận. Khi đó luật sư có thể sửa lại phạm vi của điều kiện và kiểm tra kết quả.

Trên slide "Test the Correction", Nate đặt ba câu hỏi:

1. Kết luận liên quan có đổi vì đúng lý do không? (Did it change for the right reason?)
2. Hệ thống có xử lý được cùng phân biệt đó trong một hợp đồng diễn đạt khác không? (Does it hold in a different contract?)
3. Hay nó chỉ đơn giản đồng ý với bản sửa rồi tạo ra một câu trả lời tự tin khác? (Or did it just agree with you?)

Theo Nate, chúng ta sẽ phân biệt được những trường hợp đó, và đó là những kết quả rất khác nhau. Một khi đưa được khả năng đó vào sản phẩm, chúng ta sẽ sửa và lái model theo đúng hướng. Anh nói đó là một UI mới, một kiểu sản phẩm mới; chúng ta chưa có nó, nhưng đó là nơi anh nghĩ mọi thứ đang hướng tới (dự báo của Nate, video đăng ngày 22/10/2026). Chúng ta sẽ tốn ít thời gian hơn để đoán vì sao AI thất bại, có những bản sửa cụ thể hơn, và rốt cuộc có cách tốt hơn để kiểm định chất lượng. Nó sẽ không loại bỏ nhu cầu về phán đoán chuyên môn; nó sẽ cho chúng ta khả năng mở rộng phán đoán chuyên môn đó theo cách hữu ích.

Nate nói (video đăng ngày 22/10/2026) việc này có lẽ sẽ bắt đầu hẹp: những workflow cụ thể nơi developer kiểm tra được mối nối giữa một lời giải thích và phép tính của model. Phần lớn các công cụ kiểu này bắt đầu từ developer. Nên đừng mong một nút bấm vạn năng giải thích trọn vẹn mọi câu trả lời của mọi model; nhưng hãy chờ những lời giải thích có căn cứ bằng chứng bắt đầu xuất hiện và cho phép bạn đưa feedback. Anh nói anh sẽ không hề ngạc nhiên khi thấy điều đó.

16. Dự báo 4: sửa điều algorithm đã học về bạn

Dự báo thứ tư đưa Nate quay về những hệ thống recommendation anh từng làm trước thời ChatGPT. Theo anh (video đăng ngày 22/10/2026), theo thời gian tất cả chúng ta sẽ có thể xem và sửa những gì một algorithm đã học về mình. Chúng ta nói nhiều về chuyện algorithm "cho chúng ta ăn" thế nào; khi dùng mạng xã hội, chúng ta là tù nhân của algorithm. Đó là ví dụ anh cứ quay lại.

Hãy tưởng tượng anh bảo một dịch vụ streaming: này, tôi muốn bớt Real Housewives trong feed. Một phiên bản tương lai nên cho anh không chỉ hiểu model đã rút ra điều gì từ feedback đó, mà còn sửa được nó. Có thể nó hiểu thành: tôi không muốn xem reality TV chút nào. Và anh có thể nói: không, không, không, tôi thích reality TV khác, tôi chỉ không thích Real Housewives. Hoặc: này, thật ra tôi rất thích các show nấu ăn, ý tôi chỉ là các show nấu ăn, không phải mọi show khác.

Dù là gì đi nữa, Nate kỳ vọng (video đăng ngày 22/10/2026) một thế giới tuỳ biến được nhiều hơn, nơi các tính năng hiện có trở thành thứ ta bắt đầu chỉnh và điều chỉnh, và cảm giác là algorithm làm việc cho chúng ta thay vì chúng ta là nạn nhân của algorithm. Theo anh, có những thứ ở đây chúng ta có cơ hội vận động cho, build, và phát triển tiếp từ đó, và chúng sẽ thay đổi cách hàng tỉ người trải nghiệm AI mỗi ngày.

Theo Nate (video đăng ngày 22/10/2026), người ta không nghĩ feed của Netflix là AI. "Nói cho mà biết: nó là AI", Nate nói. Tất cả đều là AI, và interpretability có ý nghĩa ở đó. Anh nói rõ: anh không bảo ai cũng muốn đọc một lời giải thích bên dưới mỗi poster phim trên Netflix; chúng ta muốn xem phim. Nhưng việc hiểu được và thể hiện được quyền chủ động (agency) là chuyện rất, rất lớn. Anh nghĩ điều đó sẽ bắt đầu len vào sản phẩm theo những cách cho ta nhiều quyền kiểm soát hơn. Kể cả khi bạn nghĩ một cách ích kỷ rằng các công ty chỉ lo lợi ích của họ, thì họ vẫn muốn bạn tiếp tục xem. Và nếu bạn thể hiện được nhiều hơn điều mình muốn xem, họ sẽ có động lực build tính năng đó. Theo Nate, chuyện đó hợp lý, và giờ chúng ta có công cụ để làm việc đó theo cách trước đây chưa từng làm được.

17. Đừng chỉ tin vào sự bi quan, và dùng AI để học

Vậy chuyện này để lại gì cho chúng ta? Điều thứ nhất, theo Nate (video đăng ngày 22/10/2026): đừng chỉ tin vào sự bi quan. Khi ai đó nói với bạn rằng AI đang mạnh lên và vì thế tương lai chỉ có thể tệ đi, hãy hỏi: khả năng hiểu AI của chúng ta đang thay đổi ra sao? Bằng chứng rằng chúng ta tìm và sửa được nguyên nhân của hành vi xấu là thứ đáng ăn mừng vào một ngày như hôm nay. Ngoài kia vẫn có tin tốt.

Đây cũng là lý do anh luôn thúc mọi người nâng technical fluency (sự thông thạo kỹ thuật). Một bước phát triển như thế này có thể cải thiện đáng kể cách bạn nhìn tương lai, nhưng đôi khi nó tới dưới dạng, "không đùa đâu", một bài đọc 60, 70 phút đầy những thuật ngữ mà phần đông chúng ta không hiểu. Trên màn hình, thẻ giới thiệu bài essay "Neural Networks Are Already Clean" của Nick Cammarata ghi "65-Minute Read".

Nên nếu bạn bị kẹt ở ngôn ngữ lạ, Nate không muốn bạn bị kẹt. Anh đưa ra mẹo mà anh nói vẫn hay đưa: dùng AI để giúp bạn học nó. Đưa bài viết cho AI. Nhờ nó giải thích theo cách một đứa trẻ 12 tuổi hiểu được. Hỏi những claim nào đã được thí nghiệm chứng minh. Hỏi đâu là các giả thuyết. Rồi quay lại nguồn gốc và kiểm tra các câu trả lời. Theo anh (video đăng ngày 22/10/2026), hoá ra bạn học được rất nhiều khi sẵn lòng nhờ AI giúp học trong những tình huống như vậy, và điều đó giúp chúng ta có technical fluency.

Hai câu hỏi trên slide, có thể dùng nguyên văn khi đưa bài viết cho AI:

Explain it like I'm 12
Which claims did experiments show?

Rốt cuộc, theo Nate (video đăng ngày 22/10/2026), đây là tin rất, rất tốt. Chúng ta có lý do để chờ đợi AI mạnh hơn; anh không thấy việc scale dừng lại trong thời gian tới. Và giờ chúng ta có một lý do đáng khích lệ để chờ đợi những công cụ tốt hơn nhiều để hiểu và sửa nó. Nghiên cứu vẫn còn phải thật sự scale ra (trên màn hình: "Still Has to Scale Out"), và chúng ta phải thật sự đưa nó vào sản phẩm. Có một cơ hội rất lớn phía trước để làm việc đó cho đúng. Nhưng về căn bản, theo anh, một bài như thế này thay đổi toàn bộ quỹ đạo của những gì ta có thể chờ đợi về AI và safety trong tương lai. Anh kết: đây là một ngày tốt để nghĩ về AI năm 2027 mà không phải sợ.