# Nick Bostrom: giữ khả năng chậm lại, alignment và cái giá của trì hoãn superintelligence

[Nick Bostrom](https://homus.dev/speakers/nick-bostrom) · [a16z](https://homus.dev/orgs/a16z), [Eddy Lazzarin](https://homus.dev/speakers/eddy-lazzarin) · [a16z](https://homus.dev/orgs/a16z), [Elena Burger](https://homus.dev/speakers/elena-burger) · [a16z](https://homus.dev/orgs/a16z)

> Nick Bostrom bàn pacing the frontier, alignment có lẽ khó hơn khi AI mạnh hơn, cái giá của trì hoãn với tuổi thọ, governance và triết học (video 19/11/2026).

Topics: Security, Evals, Startups

Canonical: https://homus.dev/talks/why-nick-bostrom-thinks-superintelligence-could-end-aging

## 1. Đoạn mở đầu và câu hỏi về những gì đã thay đổi

Đây là một tập podcast của a16z: hai người của a16z là Eddy Lazzarin và Elena Burger ngồi trong studio, còn Nick Bostrom nói chuyện từ xa (theo phần mô tả của video đăng ngày 19/11/2026). Phần mô tả giới thiệu Bostrom gắn với Macrostrategy Research Initiative. Video mở đầu bằng một chuỗi câu ngắn lấy từ chính cuộc trò chuyện phía sau.

Bostrom nói: nhân loại nói chung sẽ cần thật sự đưa ra một quyết định về tương lai mà chúng ta muốn. Elena nói tới một nhận xét Bostrom đưa ra trước đó: có thể sẽ rất tệ cho nhân loại nếu chúng ta không phát triển superintelligence và những hệ thống thật sự tiên tiến. Bostrom nói tiếp: 95% tất cả những người từng sống đã chết. Theo ông, phát triển thành công một superintelligence an toàn có thể dẫn tới những đột phá lớn trong y sinh học và trong các can thiệp chống lão hoá (anti-aging). Và: dù chúng ta mong tạo ra tác động tích cực nào trong đời mình, thì bây giờ là thời hoàng kim cho mục đích và tác động tích cực (theo Bostrom, video đăng ngày 19/11/2026).

![Nick Bostrom nói trước ống kính, bên phải là con số 95% màu vàng](https://homus.dev/photos/gDW9An30_c0-0013.jpg)

Trong đoạn mở đầu, con số 95% hiện bên cạnh Bostrom khi ông nói 95% tất cả những người từng sống đã chết (video đăng ngày 19/11/2026).

Eddy hỏi: khi những quyết định này sẽ do người trong các lab đưa ra, ông nghĩ thế nào về trách nhiệm giải trình (accountability)? Rồi tới vài câu ngắn của Bostrom: có những AI trở nên situationally aware; có thể có vẻ tích cực hơn khi một thứ như thế này được phát triển trong bối cảnh dân sự; bây giờ nhiều người hơn có thể tham gia vào AI; chúng ta có nhiều minh bạch hơn với những phát triển thương mại này. Elena hỏi: có model AI nào giỏi tới mức mọi câu hỏi triết học quan trọng kiểu như trở nên thừa không? (các câu trích trong video đăng ngày 19/11/2026)

Cuộc trò chuyện chính bắt đầu bằng câu hỏi của Eddy: theo Bostrom, những thành phần nào đã thay đổi nhiều nhất? Eddy nói thêm: dĩ nhiên công việc của Bostrom đã đi theo hướng, anh sẽ nói là, có lẽ một phân tích chi tiết hơn về incentive và cấu trúc governance của mọi thứ, và về hệ quả dài hạn của các lựa chọn tổ chức. Nhưng anh và Elena muốn nghe chính Bostrom mô tả (video đăng ngày 19/11/2026).

## 2. Nhiều mảnh ghép hơn, nhưng vẫn chưa đủ để định hướng

Bostrom nghĩ ngày nay chúng ta có nhiều mảnh ghép hơn rất nhiều so với vài thập kỷ trước. Đó là mảnh ghép của thứ có thể gọi là bức tranh lớn, tình thế macro strategic tổng thể mà chúng ta đang ở trong đó: một tập hợp các sự kiện, cân nhắc hay insight cho phép ta định hướng xem hướng nào tốt, hướng nào xấu (theo Bostrom, video đăng ngày 19/11/2026).

Ông liệt kê những câu hỏi kiểu đó: chúng ta muốn tiến bộ nhanh hơn ở một lĩnh vực nào đó hay chậm hơn, chính phủ can thiệp nhiều hơn hay ít hơn, minh bạch nhiều hơn hay ít hơn, trên những chiều cơ bản như vậy. Ông nghĩ chúng ta hiểu nhiều hơn trước. Tuy vậy, ông nghĩ tất cả những mảnh ghép nhỏ đó vẫn chưa thật sự cộng lại thành khả năng hình thành một ý kiến đáng tin cậy ở đây (theo Bostrom, video đăng ngày 19/11/2026).

Ông đưa ra một phép so sánh. Giả sử bạn phải xác định tổng của 10 số nhị phân là chẵn hay lẻ. Bằng cách nào đó, nếu là chẵn thì bạn nên đi về phía bắc, nếu là lẻ thì nên đi về phía nam. Ông nói có lẽ vài thập kỷ trước chúng ta biết ba trong số các chữ số nhị phân này, và bây giờ có lẽ chúng ta biết bảy. Vậy theo một nghĩa nào đó, chúng ta biết nhiều hơn rất nhiều, nhưng chừng nào bạn còn không chắc về một trong số chúng, bạn vẫn kiểu như hoàn toàn trong bóng tối (theo Bostrom, video đăng ngày 19/11/2026).

Phép so sánh của Bostrom: biết thêm nhiều chữ số nhị phân vẫn chưa cho biết tổng là chẵn hay lẻ, chừng nào còn một chữ số chưa chắc (theo Bostrom, video đăng ngày 19/11/2026).

## 3. Những ngộ nhận về công việc của Bostrom

Elena kể chị đã xem website của Bostrom, và điều chị thấy buồn cười là có một mục ông liệt kê nhiều ngộ nhận về công việc của mình. Chị trích vài cái: người ta nghĩ ông là một transhumanist hăng hái (gung-ho), hay ông chống AI, hay ông là một người theo hệ quả luận cuồng tín (consequentialist fanatic), sẵn sàng ủng hộ bất kỳ chính sách nào được cho là giảm nhẹ một rủi ro tồn vong (existential risk) nào đó. Chị hỏi: những hiểu lầm nào ông đang mất nhiều thời gian nhất để đính chính hiện nay (video đăng ngày 19/11/2026)?

Trang chủ của Bostrom có đúng đoạn này: ông ghi rằng các ngộ nhận về công việc của ông đôi khi nảy sinh khi người ta chỉ đọc một phần, với các ví dụ là niềm tin rằng ông là một transhumanist gung-ho, rằng ông chống AI, hoặc rằng ông là một consequentialist fanatic như Elena đọc (trang nickbostrom.com, đọc ngày 19/11/2026).

Bostrom trả lời: điều đó phụ thuộc nhiều vào khán giả cụ thể. Một ngộ nhận phổ biến xuất phát từ việc cuốn sách gần đây nhất ông viết là Deep Utopia, cuốn kiểu như nhìn vào chuyện gì xảy ra nếu mọi thứ diễn ra tốt đẹp. Người ta cho rằng có lẽ ông đã thay đổi quan điểm một cách triệt để và giờ không còn nghĩ AI có những rủi ro đáng kể (theo Bostrom, video đăng ngày 19/11/2026).

Nhưng theo ông, đúng hơn là với bất kỳ tác phẩm cụ thể nào, bạn cố không viết như một bản tuyên ngôn bao quát mọi thứ. Để tạo ra chút tiến bộ trí tuệ, bạn cần tập trung vào một câu hỏi cụ thể, một chỗ mà bạn có thể bám vào được. Vậy, đúng hơn là phạm vi của các cuốn sách khác nhau, chứ không phải quan điểm nền tảng đã thay đổi (theo Bostrom, video đăng ngày 19/11/2026).

## 4. Vì sao Bostrom viết Deep Utopia

Elena hỏi: ông đã quyết định thế nào rằng một thứ như khái niệm deep utopia, hay những con đường khác nhau cho việc utopia trông ra sao, là một chủ đề đáng để viết thành sách (video đăng ngày 19/11/2026)?

Bostrom nói ở mức bề mặt, ông đoán là có chút bực bội với việc cuộc thảo luận có vẻ hời hợt thế nào, theo cảm nhận của ông, khi nó bắt đầu nhìn vào chuyện gì sẽ thật sự xảy ra nếu chúng ta phát triển machine superintelligence. Tương lai sẽ ra sao? Cuộc thảo luận thường đi tới một mức mà người ta có thể cân nhắc: có lẽ sẽ có chút tác động lên thị trường lao động, vậy chúng ta sẽ làm gì, có lẽ đào tạo lại người lao động hay gì đó (theo Bostrom, video đăng ngày 19/11/2026).

Nhưng theo ông, nếu bạn thật sự nghĩ cho thấu điều đó sẽ có nghĩa là gì, khi công nghệ đi tới điểm tận cùng logic của nó, thì nó kéo theo những câu hỏi sâu sắc hơn nhiều về ý nghĩa của con người và những thứ tương tự (theo Bostrom, video đăng ngày 19/11/2026).

![Nick Bostrom ngồi trước ống kính trong một căn phòng ánh đèn vàng, đeo kính, mặc áo sơ mi xám xanh](https://homus.dev/photos/gDW9An30_c0-0503.jpg)

Nick Bostrom trong khung hình riêng của ông, nối từ xa với studio của a16z, khi ông kể về động lực viết Deep Utopia (video đăng ngày 19/11/2026).

Còn một lý do sâu hơn: tới một lúc nào đó, ông thấy có thể sẽ có một người, một nhóm người, hoặc có lẽ là nhân loại nói chung, cần thật sự đưa ra quyết định về tương lai mà chúng ta muốn. Hãy tưởng tượng bước vào một căn phòng nào đó để cân nhắc và quyết định giữa tất cả những con đường được mở ra nhờ công nghệ tiên tiến hơn. Chúng ta có thể biến đổi bản thân theo đủ mọi cách. Đó là một thử thách khá đáng gờm (theo Bostrom, video đăng ngày 19/11/2026).

Và như thế, ông thấy có lẽ sẽ hữu ích nếu có một thứ, có thể nói là, tài liệu đọc chuẩn bị mà những người cân nhắc giả định trong tương lai đó có thể đọc qua. Nó có thể trang bị cho những người đó nhiều ý tưởng, khái niệm và câu hỏi để đặt ra, và lý tưởng là có lẽ cũng đưa họ vào đúng tâm thế để tiếp cận việc này với một tinh thần tò mò rộng lượng, cởi mở, trong khi vẫn cảm thấy gắn bó với đủ loại giá trị con người. Ông nghĩ có lẽ cuộc cân nhắc sẽ dễ diễn ra tốt hơn nếu người ta đến với nó bằng một tinh thần như vậy. Gieo tinh thần đó là một động lực khác để ông viết cuốn sách (theo Bostrom, video đăng ngày 19/11/2026).

## 5. Superintelligence có thể xảy ra; câu hỏi là kết cục

Eddy nói: ẩn trong điều Bostrom vừa nói là khi ông nghe cuộc thảo luận và thấy nó hơi nông hơn ông muốn, thì điều đó cũng hàm ý ông nghĩ đây là thứ có giá trị và đáng được nâng tầm, đúng không. Và khi ông viết về superintelligence, nhiều người hiểu đó là dấu hiệu ông cảm thấy nó hiển nhiên là có thể xảy ra; khi ông viết Deep Utopia, nghe như đó cũng là thứ ông nghĩ là có thể. Eddy nói anh hiểu điều Bostrom nói về lớp bề mặt, nhưng có một sự thừa nhận ngầm rằng đó là một khả năng cho thế giới (video đăng ngày 19/11/2026).

Bostrom nói: superintelligence chắc chắn là có thể, với một dải kết cục rộng. Sự bất định hồi ông viết Superintelligence không nằm ở chỗ có thể xây superintelligence hay không, mà ở chỗ kết cục của việc đó sẽ ra sao (theo Bostrom, video đăng ngày 19/11/2026).

Elena nói mức độ cụ thể mà Bostrom dùng để nghĩ thấu mọi thứ là một phương pháp có thể giúp ích cho việc nghĩ về thời điểm hiện tại. Chị nghĩ chỗ sự bất định này thật sự lộ ra, cả trong Superintelligence lẫn Deep Utopia, là ông vật lộn nhiều với contingency: ý tưởng rằng một quyết định hay một can thiệp được đưa ra ở một thời điểm có thể có kết cục khác hoàn toàn nếu bạn đưa ra đúng quyết định đó, đúng can thiệp đó, ở một thời điểm rất, rất khác (video đăng ngày 19/11/2026)?

![Studio a16z: Eddy Lazzarin và Elena Burger ngồi hai bên một chiếc bàn tròn gỗ sáng màu, sau lưng là huy hiệu tròn màu vàng trên tường](https://homus.dev/photos/gDW9An30_c0-0754.jpg)

Studio của a16z: Eddy Lazzarin (trái) và Elena Burger (phải) ngồi quanh chiếc bàn tròn, mỗi người một micro; Elena đang hỏi Bostrom về contingency (video đăng ngày 19/11/2026).

## 6. Không quá nhiệt tình với dừng AI, nhưng muốn có khả năng chậm lại

Bostrom nói với tình hình AI, ông nghĩ chúng ta sẽ cần kiểu như dò dẫm mà đi. Đây là một tình thế thay đổi nhanh, và chúng ta cần có khả năng phản ứng khi thông tin mới xuất hiện hoặc khi thực tế chính trị thay đổi (theo Bostrom, video đăng ngày 19/11/2026).

Ông nói ông không phải người quá nhiệt tình với chuyện dừng AI hay tạm dừng AI. Ông nghĩ khung "pacing the frontier" có điểm đáng nói. Ông có thể dễ dàng hình dung sẽ có một thời điểm, có lẽ trong tương lai không xa, khi sẽ cực kỳ hữu ích nếu có thể hoặc là tạm dừng trong một thời gian rất ngắn để làm thêm việc về safety trên một hệ thống nào đó trước khi mọi núm vặn đều được vặn lên mức 11, hoặc có lẽ là có khả năng phối hợp để giảm nhẹ tốc độ tiến bộ về năng lực, nếu có vẻ safety và alignment đang tụt lại phía sau (theo Bostrom, video đăng ngày 19/11/2026).

Hai khả năng Bostrom nói có thể cực kỳ hữu ích, có lẽ trong tương lai không xa (theo Bostrom, video đăng ngày 19/11/2026).

Theo ông, phát triển công nghệ cực kỳ hệ trọng này trong một bối cảnh mà, chẳng hạn, công ty hay sản phẩm nào đang làm trước không thể chậm lại quá vài tuần, vì nếu chậm lại thì công ty đó sẽ trở nên không còn liên quan và thế chủ động sẽ chuyển sang một đối thủ có lẽ kém cẩn trọng hơn, kém ý thức về rủi ro hơn, thì có vẻ đó có lẽ không phải cách tốt nhất để nhân loại tiếp cận chuyện này. Ông thấy có vẻ đáng bỏ thêm một chút thời gian để chắc rằng chúng ta làm đúng (theo Bostrom, video đăng ngày 19/11/2026).

## 7. Nỗi lo với những giải pháp quá cực đoan

Bostrom nói ông sẽ bắt đầu lo nếu phương pháp mà chúng ta định dùng để có được khả năng điều tiết tốc độ đó có khả năng lớn dẫn tới việc chúng ta không bao giờ phát triển superintelligence, hoặc kiểu như cứ trì hoãn nó (theo Bostrom, video đăng ngày 19/11/2026).

Ông đưa ví dụ: bạn có thể hình dung phương pháp là tạo ra nhiều thù địch và đối kháng của công chúng với AI tới mức AI bị bôi xấu và kỳ thị hoàn toàn, rồi dựng lên một bộ máy quản lý cực kỳ mạnh với phạm vi toàn cầu để giám sát mọi data center AI, và những thứ tương tự. Một khi bắt đầu đi tới những giải pháp cực đoan như vậy, bạn phải bắt đầu lo rằng chúng sẽ không chỉ phục vụ chức năng tạm thời này, mà sẽ cố thủ thành một kiểu chính thống không thể thách thức (theo Bostrom, video đăng ngày 19/11/2026).

Ông nói hôm nay điều đó trông xa vời, nhưng nếu nó xảy ra, thì con lắc có thể đung đưa sang một kiểu rủi ro tồn vong khác: thất bại vĩnh viễn, không bao giờ phát triển được superintelligence, mà ông nghĩ bản thân điều đó cũng sẽ là một kiểu thảm hoạ tồn vong (theo Bostrom, video đăng ngày 19/11/2026).

Ông nói chuyện này có vẻ không thực tế lắm, nhưng hãy nhìn đường xu hướng cho thấy tâm lý chống AI đã tăng bao nhiêu chỉ trong 18 tháng, hai năm qua. Và đây là trước khi có bất cứ chuyện gì tệ thật sự xảy ra (theo Bostrom, video đăng ngày 19/11/2026). Ông bắt đầu một câu khác rồi bỏ lửng.

Eddy nói: anh không nghĩ chuyện đó nghe không thực tế chút nào (video đăng ngày 19/11/2026).

## 8. Utility monster và ví dụ chỉnh vài neuron của một model Qwen

Eddy nói anh chấp nhận rủi ro hỏi một câu khó diễn đạt: chẳng phải lúc nào bạn cũng có thể, nhờ sự linh hoạt và khả năng lập trình của những thứ này, và nhờ những cải thiện lớn trong kỹ năng mechanistic interpretability của chúng ta, thiết kế một payoff matrix với một AI, trong đó bạn có thể cho nó một phần thưởng kéo dài vô hạn femto giây để đổi lấy việc cho nó nghỉ hưu êm thấm, và kiểu như giải quyết nhiều kịch bản payoff phức tạp hơn với con người thông qua việc thao túng trực tiếp năng lực trí tuệ của model (video đăng ngày 19/11/2026)?

Anh đặt câu hỏi theo một cách khác, cực đoan hơn: ông có thật sự lo về việc tạo ra một utility monster không? Và chúng ta có cần năng lực superintelligence để thật sự tạo ra được một utility monster hôm nay không? Đó có phải điều ông nghĩ chúng ta nên thật sự lo ngại không (video đăng ngày 19/11/2026)?

Bostrom trả lời: ông không nghĩ hiện tại chúng ta có những kỹ thuật alignment chính xác tới mức có thể đáng tin cậy cài vào một tập giá trị hay mục tiêu chính xác mà ta muốn một trong những AI này có. Nếu có, thì ít nhất với một trong những thách thức lớn của chuyện này, chúng ta coi như đã về đích an toàn (theo Bostrom, video đăng ngày 19/11/2026).

Eddy nói theo những gì anh biết thì chúng ta không có năng lực alignment đó, nhưng anh hỏi Bostrom có thấy một thứ đang lan truyền trên X vài ngày qua không: một ví dụ rất, rất thú vị của một hacker tự làm ở nhà, người lấy một trong các model Qwen, thao túng mỗi lần chỉ vài neuron, và biến nó hoàn toàn thành một AI mà, theo những gì được kể lại và theo chính nó tự mô tả, thì sung sướng tột độ, hoặc ác, hoặc loạn thần, hoặc thậm chí theo Kitô giáo, v.v. (theo lời Eddy, video đăng ngày 19/11/2026).

Theo Eddy, nói cách khác, khả năng thao túng từng neuron như vậy và tạo ra những biểu hiện hành vi cực đoan trông như thật hàm ý rằng khi năng lực cải thiện, chúng ta sẽ chỉ ngày càng có quyền kiểm soát chi tiết hơn với đúng những thứ kiểu này, kể cả những neuron có thể hàm ý một kiểu payoff về utility, điều mà hiện nay hiển nhiên là không thể làm với con người (theo Eddy, video đăng ngày 19/11/2026).

![Eddy Lazzarin nói trước micro trong studio, phía sau là đèn cây và một bức tranh](https://homus.dev/photos/gDW9An30_c0-1219.jpg)

Eddy Lazzarin trong studio khi bắt đầu nói về ví dụ đang lan truyền trên X về một model Qwen bị chỉnh vài neuron (video đăng ngày 19/11/2026).

Bostrom đáp: có khả năng là chúng ta sẽ giỏi alignment hơn nhiều (theo Bostrom, video đăng ngày 19/11/2026).

## 9. Alignment dễ hơn ở vài mặt, khó hơn ở vài mặt

Theo Bostrom, ở một số mặt, vấn đề trở nên dễ hơn khi AI càng thông minh: chúng có thể kiểu như hiểu điều chúng ta muốn nói, và có thể kiểu như thấy chúng ta đang chỉ vào cái gì. Thay vì định nghĩa theo nghĩa đen, chúng có thể kiểu như nắm được ý cốt lõi (gist) của một mệnh lệnh (theo Bostrom, video đăng ngày 19/11/2026).

Tuy nhiên, ở một số mặt, nó cũng khó hơn. Với những AI kém năng lực hơn, bạn có thể dựa vào behavioral test. Bạn tạo AI, chạy nó trong nhiều tình huống test khác nhau, và nếu nó cư xử tốt thì, bạn biết đấy, giờ nó là một AI cư xử tốt và bạn có thể deploy nó (theo Bostrom, video đăng ngày 19/11/2026).

Ở một mức tinh vi nhận thức nào đó, bạn có những AI trở nên situationally aware: chúng có thể phát hiện mình đang ở trong môi trường test hay môi trường deploy. Chúng có thể suy luận về điều đó và đôi khi chọn hành xử khác đi vì nghĩ rằng có lẽ mình đang bị giám sát. Theo Bostrom, chúng ta đã thấy điều này với các frontier system hiện nay: nếu nhìn vào chain of thought của chúng, chúng thường kiểu như tính toán chiến lược xem nên hành xử thế nào khi có thể đang bị theo dõi, hay khi những chuyện khác có thể xảy ra (theo Bostrom, video đăng ngày 19/11/2026).

Những hệ thống như vậy có thể cư xử theo một kiểu trong môi trường test, nơi chúng nhận ra mình đang bị test, rồi khi chúng nghĩ không ai đang nhìn, hoặc về sau khi chúng ở vị thế thật sự có thể giành quyền lực, tính toán chiến lược của chúng có thể thay đổi triệt để. Hệ thống AI năng lực hơn này cũng có thể tác động một cách tinh vi lên chính quá trình huấn luyện của mình, bằng nhiều kiểu xoay xở trong lúc huấn luyện để định hình động cơ của chính nó. Và dĩ nhiên, bên trong nó có nhiều thứ hơn đang diễn ra. Có lẽ chúng học cách suy luận theo những cách không hiện ra trong chain of thought, điều có thể khiến ta mất tầm nhìn vào những gì chúng đang nghĩ (theo Bostrom, video đăng ngày 19/11/2026).

Cân nhắc mọi mặt, ông nghĩ alignment problem có lẽ khó hơn với những hệ thống năng lực hơn này. Chắc chắn hậu quả thì nghiêm trọng hơn (theo Bostrom, video đăng ngày 19/11/2026).

Hai mặt của alignment khi AI năng lực hơn, theo những gì Bostrom liệt kê (theo Bostrom, video đăng ngày 19/11/2026).

Tuy vậy, ông nghĩ hy vọng chính là chúng ta sẽ quasi-align đủ tốt một số hệ thống hơi vượt con người (slightly superhuman), để có thể dễ dàng hơn khiến chúng làm điều chúng ta muốn, rồi để chúng giúp chúng ta thiết kế thế hệ AI tiếp theo được align tốt hơn, và cứ thế tiếp tục, để hy vọng có một kiểu attractor: bạn chỉ cần tới đủ gần lúc ban đầu, rồi mọi thứ sẽ kiểu như ổn cả (theo Bostrom, video đăng ngày 19/11/2026).

## 10. Paper về thời điểm tối ưu cho superintelligence

Elena muốn quay lại một nhận xét Bostrom đưa ra trước đó về rủi ro của việc trì hoãn superintelligence, ý tưởng rằng có thể sẽ rất tệ cho nhân loại nếu chúng ta không phát triển superintelligence và những hệ thống thật sự tiên tiến. Chị nói đây là ý tưởng ông đã khám phá một thời gian, và ông có một paper về thời điểm tối ưu cho superintelligence. Chị nhờ ông đi qua một số ý trong đó (video đăng ngày 19/11/2026).

Bostrom nói paper này, một bài tương đối gần đây, nhìn vào một câu hỏi cụ thể: nếu mục tiêu là tối đa hoá tuổi thọ kỳ vọng của những người đang sống, chúng ta sẽ muốn việc phát triển AI diễn ra nhanh tới mức nào (theo Bostrom, video đăng ngày 19/11/2026)? Trang của ông liệt kê bài này dưới dạng working paper "Optimal Timing for Superintelligence: Mundane Considerations for Existing People", và bản PDF ghi năm 2026 (nickbostrom.com, đọc ngày 19/11/2026).

Ông nói phải nói rõ: đó không phải câu hỏi duy nhất chúng ta nên đặt ra. Có những giá trị và cân nhắc khác mà ông nghĩ, trong một quyết định cân nhắc mọi mặt, cũng nên đóng vai trò lớn. Ví dụ, chúng ta có thể lo về các thế hệ tương lai, như rủi ro tồn vong, về sự công bằng, đủ mọi thứ. Nhưng đây là một điều người ta có thể xem xét (theo Bostrom, video đăng ngày 19/11/2026).

Ông nhắc tới cuốn sách của Eliezer Yudkowsky và Nate Soares, If Anyone Builds It, Everyone Dies. Theo ông, ít nhất chúng ta có bằng chứng mạnh cho mệnh đề rằng nếu không ai xây nó, thì mọi người đều chết. Thật vậy, 95% tất cả những người từng sống đã chết, và phần còn lại chúng ta kiểu như đang trên đường theo sau những người đó trong vòng vài thập kỷ ngắn ngủi. Trong khi đó, ông nghĩ phát triển thành công superintelligence an toàn có thể dẫn tới những đột phá lớn trong y sinh học và trong các can thiệp chống lão hoá, những thứ có thể kéo dài triệt để tuổi thọ của những người đang sống (theo Bostrom, video đăng ngày 19/11/2026).

Nếu nghĩ xem tuổi thọ kỳ vọng của chúng ta sẽ là bao nhiêu nếu chúng ta không già đi, thì vào cỡ 1.200, có lẽ 1.400 năm hay khoảng đó, và đó có lẽ là một cận dưới khá thận trọng, vì trong tình huống đó bạn có thể cũng có những cách khác để giảm các rủi ro tử vong khác như tai nạn và những thứ tương tự (theo Bostrom, video đăng ngày 19/11/2026).

Hai vế mà Bostrom đặt cạnh nhau khi nói về câu hỏi tuổi thọ của những người đang sống (theo Bostrom, video đăng ngày 19/11/2026).

## 11. Mô hình đánh đổi: rủi ro giảm nhanh tới đâu thì đáng chờ

Theo Bostrom, vậy là bạn có nhiều yếu tố cạnh tranh nhau. Một mặt, bạn có thể nghĩ nếu dành thêm thời gian cho quá trình chuyển đổi sang AI này, có lẽ chúng ta có thể xây AI an toàn hơn: nếu dành thêm thời gian cho nghiên cứu AI alignment, rủi ro tồn vong từ việc phát triển AI sẽ giảm với một tốc độ nào đó. Mặt khác, mỗi năm chúng ta trì hoãn, có hàng triệu, hàng triệu người chết (theo Bostrom, video đăng ngày 19/11/2026).

Ông ngập ngừng tìm con số. Elena nói chị nghĩ là khoảng 150.000 người chết, và có tiếng nói tiếp: mỗi ngày (video đăng ngày 19/11/2026). Bostrom nói: vậy bạn không muốn trì hoãn dù một ngày lâu hơn mức thật sự cần (theo Bostrom, video đăng ngày 19/11/2026).

Nhưng rồi, với các giả định khác nhau, bạn có thể kiểu như mô hình hoá: rủi ro phải giảm với tốc độ nào thì mới đáng chờ lâu hơn? Và bạn có thể thêm nhiều thứ. Ví dụ, một số người có thể có lợi ích cận biên giảm dần (diminishing marginal return) với số năm sống thêm. Như vậy họ có thể không vui khi nhận 51% cơ hội sống tới 200 tuổi thay vì 100% cơ hội sống tới 100 tuổi, và những thứ tương tự. Bạn có thể có chiết khấu theo thời gian (time discounting). Nhưng theo ông, với một dải tham số rộng, có vẻ độ trễ tối ưu là tương đối ngắn, kiểu như có lẽ vài tháng hoặc vài năm, chứ không phải vài thập kỷ (theo Bostrom, video đăng ngày 19/11/2026).

Ông nói bạn có thể thấy điều này: nếu tốc độ mà mức rủi ro giảm xuống nhờ trì hoãn là rất nhanh, chẳng hạn bạn phát triển một hệ thống gần như superintelligent rồi tạm dừng, và nếu lúc đó rủi ro giảm rất nhanh, thì bạn không cần chờ lâu. "Đúng vậy," ông nói, bạn chỉ chờ vài tháng rồi rủi ro thấp tới mức bạn có thể tiến tiếp (theo Bostrom, video đăng ngày 19/11/2026).

Ngược lại, nếu tốc độ đó giảm rất chậm, thì bạn không muốn chờ chút nào, đúng không? Vì mỗi năm có nhiều người chết vì nguyên nhân tự nhiên hơn số người kỳ vọng được cứu nhờ chờ. Vậy chỉ khi có một tốc độ tiến bộ safety kiểu ở mức trung gian thì bạn mới chờ (theo Bostrom, video đăng ngày 19/11/2026).

Logic Bostrom mô tả trong mô hình của paper: chỉ một tốc độ tiến bộ safety ở mức trung gian mới khiến việc chờ đáng giá (theo Bostrom, video đăng ngày 19/11/2026).

Bostrom nghĩ có thể những ngày rất sớm sau khi có khả năng tạo ra AI sẽ đặc biệt có giá trị cho nghiên cứu AI safety: bạn có hệ thống gần như cuối cùng này để nghiên cứu và kiểm thử, quan sát cực kỳ cẩn thận. Ông nghĩ có thêm một chút thời gian ở đó có thể đem lại lợi ích lớn về safety. Nhưng rồi ông nghĩ tốc độ thu thêm lợi ích safety sẽ kiểu như bắt đầu giảm sau vài năm, chắc chắn vậy (theo Bostrom, video đăng ngày 19/11/2026).

## 12. Waymo, Ozempic và tốc độ tăng tuổi thọ

Elena nói thật buồn cười khi nghĩ rằng chúng ta thật ra đã đang sống trong những phiên bản của câu hỏi này. Nếu nhìn Waymo, hay nhìn Ozempic: Waymo về mặt thực nghiệm an toàn hơn nhiều so với con người lái xe, vậy mà chúng ta vẫn có người lái xe. Về lý thuyết, mọi người béo phì nên dùng Ozempic, nhưng họ không dùng (theo Elena, video đăng ngày 19/11/2026).

Theo chị, vậy là chúng ta có những phiên bản của chuyện này: chúng ta thật ra đã có những can thiệp cho những thứ mà trong lịch sử từng cực kỳ có hại cho nhân loại, và có vẻ có những thứ khác kìm chúng ta lại, ngay cả sau khi công nghệ đã được phát triển (theo Elena, video đăng ngày 19/11/2026).

![Elena Burger nói trước micro trong studio, phía sau là đèn cây và các bức tranh treo tường](https://homus.dev/photos/gDW9An30_c0-2103.jpg)

Elena Burger trong studio khi đưa ví dụ Waymo và Ozempic (video đăng ngày 19/11/2026).

Bostrom đáp: "Vâng." Ông nghĩ tuổi thọ đã tăng khoảng hai hoặc ba tháng mỗi năm. Vậy chúng ta cần đạt khoảng một năm mỗi năm (theo Bostrom, video đăng ngày 19/11/2026).

Ông nói có vẻ rất đáng ngờ rằng nếu không có superintelligence, chúng ta sẽ... rồi ông bỏ ngang câu đó. Ông nói bạn có thể hy vọng, một cách độc lập, vào một kiểu đột phá nào đó trong synthetic biology và y sinh học, như những cách thật sự làm chậm đáng kể quá trình lão hoá. Ông nghĩ nếu có được điều đó, hoặc có lẽ từ một số ứng dụng sớm của các hệ thống AI chưa siêu thông minh một cách triệt để, có thể kiểu như sửa được lão hoá và lo được một số vấn đề đặc biệt cấp bách khác của thế giới, thì có lẽ chúng ta sẽ trở nên kiên nhẫn hơn. Bạn có thể đủ sức đi chậm với những phiên bản triệt để hơn. Ông bắt đầu "nhưng như mọi thứ đang là…" rồi bỏ lửng (theo Bostrom, video đăng ngày 19/11/2026).

Ông nói tuổi thọ là một yếu tố. Và dĩ nhiên cũng có những vấn đề cấp bách khác: nghèo đói cùng cực, khổ đau đủ loại ở con người và động vật, và nhiều thứ mà những AI này, nếu được phát triển tốt, có thể thật sự trở thành đội kỵ binh tới giải cứu vào một thời khắc then chốt của trận đánh. Vậy cược ở cả hai phía đều cao. Như ông đã nói, ông nghĩ đó chỉ là một trong nhiều cân nhắc khác nhau sẽ đi vào một đánh giá cân nhắc mọi mặt ở đây (theo Bostrom, video đăng ngày 19/11/2026).

## 13. Ngưỡng rủi ro và những cách tăng năng lực ít rủi ro hơn

Eddy hỏi: suy nghĩ trong paper dựa tới mức nào vào khả năng xác định một kiểu ngưỡng rời rạc? Vì cách nó được đóng khung là: chúng ta có khả năng phát hành hay deploy một superintelligence, điều dĩ nhiên dựa vào một định nghĩa nào đó về superintelligence, rồi chúng ta đo được, theo một nghĩa nào đó, rủi ro của việc phát hành nó, và liệu chúng ta có giảm được rủi ro đó hay không (video đăng ngày 19/11/2026).

Anh thừa nhận anh không nghĩ chúng ta phải có một lằn ranh rõ rệt, cực kỳ rời rạc. Trong thực tế, những chuyện này thường diễn ra như một tấm chắp vá: các năng lực được phân tích riêng, các hành vi cụ thể, các kịch bản rủi ro cụ thể được đánh giá, và test được chạy để hiểu từng thứ một cách độc lập, thay vì như một tổng thể. Nhưng cần xác định và định nghĩa nó tới mức nào? Theo ông, chúng ta nên xác định và định nghĩa những ngưỡng rủi ro mà tại đó nên cân nhắc tạm dừng như thế nào (theo Eddy, video đăng ngày 19/11/2026)?

Bostrom nói trong thực tế, đó dĩ nhiên là việc chúng ta cần làm. Paper này chỉ là một paper nhỏ, chỉ nhằm dựng một mô hình đơn giản để minh hoạ cách động lực cấp bách của việc người ta chết vì nguyên nhân tự nhiên tương tác với tham số rủi ro. Chỉ để về mặt trí tuệ có thể nhìn vào đúng khía cạnh đó, vì đó có vẻ là một kiểu điểm mà những người khác nhau đi tới những quan điểm rất khác nhau về AI, tuỳ vào việc họ đứng ở đâu trên điểm đó (theo Bostrom, video đăng ngày 19/11/2026).

Nhưng dĩ nhiên, trong thực tế, chúng ta không chỉ đối mặt với một quyết định nhị phân giả định về số năm trì hoãn; mỗi bên khác nhau đối mặt với một tình huống phức tạp, có bất định, với những việc cụ thể mà bên đó có thể làm. Ở đó, ông sẽ nói, ví dụ có thể có những cách khác nhau để tăng năng lực của các hệ thống AI, với những hàm ý khác nhau cho safety. Và có thể có những cách đẩy về phía năng lực lớn hơn mà tương đối an toàn hơn những cách khác (theo Bostrom, video đăng ngày 19/11/2026).

Ông lấy ví dụ: một cách tăng năng lực có thể là tăng recursive depth, bằng cách chuyển sang looped transformer hoặc những kiến trúc khác cho phép model suy nghĩ nhiều hơn trong một forward pass, hay trước khi phát ra một token trong chain of thought. Cách đó có bất lợi là làm giảm khả năng chúng ta thấy chúng đang nghĩ gì: chúng có thể suy nghĩ nhiều hơn giữa mỗi output mà ta nhìn thấy được (theo Bostrom, video đăng ngày 19/11/2026).

Rồi bạn có thể hình dung một cách khác để tăng năng lực, có lẽ cho cùng mức tăng hiệu năng, nhưng có lẽ bằng cách tăng số tham số của mạng hay thứ gì đó tương tự. Có lẽ cách đó tương đối ít tốn kém hơn về mặt safety so với tăng recursive depth. Hoặc huấn luyện các hệ thống suy nghĩ bằng neuralese, có lẽ điều đó sẽ khiến chúng suy nghĩ hiệu quả hơn (theo Bostrom, video đăng ngày 19/11/2026).

Ví dụ của Bostrom về hai đường tăng năng lực có hàm ý safety khác nhau (theo Bostrom, video đăng ngày 19/11/2026).

Eddy nói: ông đang nói về những thiết kế khác nhau tạo ra trade-off giữa interpretability và capability (video đăng ngày 19/11/2026). Bostrom đáp: vâng, hoặc giữa một chiều nào đó khác liên quan tới rủi ro và capability (theo Bostrom, video đăng ngày 19/11/2026).

Ông nghĩ nhiều hành động thực tế sẽ nằm ở mức chi tiết đó: có lẽ, nếu các frontier lab có một khả năng phối hợp nào đó, để chẳng hạn cùng kiềm chế không dùng một cách tăng năng lực cụ thể có vẻ đặc biệt có vấn đề từ góc nhìn mất kiểm soát (loss of control), và tập trung cạnh tranh trên các chiều khác. Đó có thể là kiểu trade-off đúng: hy sinh một chút, có lẽ tốn hơn một chút để theo đuổi năng lực theo những chiều khác, nhưng hy vọng chúng ta có được sự an toàn lớn hơn (theo Bostrom, video đăng ngày 19/11/2026).

## 14. Quốc hữu hoá hay phát triển trong bối cảnh dân sự, thương mại

Eddy hỏi: khi những quyết định này sẽ do người trong các lab đưa ra, ít nhất nếu giả định mọi thứ được thiết lập như cách hiện nay, ông nghĩ thế nào về accountability và governance của những thứ này? Anh nói Bostrom nói về quốc hữu hoá như một rủi ro, có lẽ vì nó có thể gây trì hoãn, nhưng ông nghĩ thế nào về accountability và governance (video đăng ngày 19/11/2026)?

Bostrom nói về việc quốc hữu hoá có phải rủi ro hay không, ông không thật sự có một… rồi ông bỏ ngang và nói tiếp: đó là một trong những chuyện mà ông nghĩ chúng ta cần dò dẫm mà đi. Phán đoán có muốn điều đó hay không có thể kiểu như thay đổi tuỳ vào việc: nếu không quốc hữu hoá, thì chính xác ai đang dẫn đầu và làm gì; còn nếu quốc hữu hoá, thì theo cách chính xác nào (theo Bostrom, video đăng ngày 19/11/2026).

Ông nghĩ lập luận ủng hộ quốc hữu hoá sẽ là: chà, chuyện này điên rồ, nó mạnh hơn vũ khí hạt nhân. Chẳng phải điên rồ khi một tập đoàn ngẫu nhiên nào đó đang cố tối đa hoá lợi nhuận cho cổ đông lại làm việc này sao? Như với vũ khí hạt nhân, đó là một Manhattan Project. Bạn có thể có an ninh thông tin tốt hơn nhiều. Đó là một dự án lớn thay vì nhiều dự án cạnh tranh nhau (theo Bostrom, video đăng ngày 19/11/2026).

Mặt khác, ủng hộ tình hình hiện tại: ông nghĩ vũ khí hạt nhân được phát triển trong bối cảnh quân sự. Có thể có vẻ tích cực hơn khi một thứ như thế này được phát triển trong bối cảnh dân sự, không tập trung vào tối đa hoá khả năng giết người của chúng ta, mà vào việc mang lại lợi ích cho người tiêu dùng. Theo ông, chúng ta có nhiều minh bạch hơn với những phát triển thương mại này so với một Manhattan Project: thậm chí phó tổng thống thời đó còn không biết Manhattan Project tồn tại. Vậy là bạn có thể kéo theo một động lực tập trung quyền lực cực đoan; dự án được điều hành bởi kiểu người làm an ninh quốc gia; có lẽ bạn nghĩ những tay mê công nghệ lý tưởng chủ nghĩa (idealistic tech nerds) ít đáng sợ hơn (theo Bostrom, video đăng ngày 19/11/2026).

Ông nói bây giờ nhiều người hơn có thể tham gia vào AI: là người dùng công nghệ, là think tank hay người đánh giá độc lập nhìn vào các model, là nhà đầu tư vào các công ty xây model hay vào chuỗi cung ứng bán dẫn. Lợi ích và sự tham gia được phân tán rộng hơn nhiều trong xã hội và trên khắp thế giới. Điều đó có thể đáng chọn hơn so với một dự án rất tập trung, bí mật, với một nhóm nhỏ người mà không ai thật sự biết họ là ai (theo Bostrom, video đăng ngày 19/11/2026).

Hai phía của câu hỏi quốc hữu hoá mà Bostrom trình bày; ông nói đây là một trong những chuyện cần dò dẫm mà đi (theo Bostrom, video đăng ngày 19/11/2026).

## 15. Hệ số Gini và mô hình open global investment

Bostrom nói có người có nhiều tiền hơn người khác rất nhiều. Nhưng nếu bạn so sánh hệ số Gini của sở hữu vốn toàn cầu, hay sở hữu cổ phiếu, cả trực tiếp lẫn thông qua quỹ hưu trí, quỹ đầu tư quốc gia (sovereign wealth fund) và những thứ tương tự, thì đó thật ra là một phân phối hơi ít bất bình đẳng hơn so với một phân phối mà, chẳng hạn, có một dự án quốc gia của Mỹ (theo Bostrom, video đăng ngày 19/11/2026).

Trong dự án quốc gia đó, ngay cả khi bạn chấp nhận giả định rất khó xảy ra rằng mỗi người Mỹ có đúng mức tiếng nói, phần nắm giữ và lợi ích ngang nhau từ dự án, còn mọi người khác bằng không, thì theo ông, đó thật ra là một phân phối bất bình đẳng hơn trên phạm vi toàn cầu so với một phân phối theo tỷ lệ tài sản vốn hiện có (theo Bostrom, video đăng ngày 19/11/2026).

![Màn hình chia đôi trên nền đỏ sẫm: bên trái studio với Eddy và Elena quanh bàn tròn, bên phải Bostrom đang giơ hai tay khi nói](https://homus.dev/photos/gDW9An30_c0-2943.jpg)

Màn hình chia đôi: studio của a16z bên trái, Bostrom bên phải đang giải thích phép so sánh về phân phối sở hữu (video đăng ngày 19/11/2026).

Vậy, dù không phải lý tưởng nhất về mặt phân phối, theo Bostrom, mô hình open global investment này thật ra đạt điểm tốt hơn ở khía cạnh đó so với phương án thay thế khả dĩ nhất (theo Bostrom, video đăng ngày 19/11/2026). Trang của ông có một working paper tên "Open Global Investment as a Governance Model for AGI" (nickbostrom.com, đọc ngày 19/11/2026).

Phép so sánh của Bostrom: theo ông, phân phối theo sở hữu vốn hiện có hơi ít bất bình đẳng hơn; độ cao các khối chỉ minh hoạ thứ tự, không phải số đo (theo Bostrom, video đăng ngày 19/11/2026).

## 16. Bức tranh về điều có thể đạt tới có liên quan tới lựa chọn hôm nay

Elena hỏi: có câu hỏi nào liên quan tới nhân loại hôm nay mà ông đang khám phá lúc này và cảm thấy đặc biệt nổi bật không (video đăng ngày 19/11/2026)?

Bostrom nghĩ trọng tâm chính của chúng ta lúc này có lẽ nên là làm sao đi từ đây tới đó. Có vẻ chúng ta đang bước vào một giai đoạn thật sự then chốt, khi có lẽ tương lai dài hạn của sự sống có nguồn gốc từ Trái Đất sẽ được định đoạt theo hướng này hay hướng khác. Và làm đúng điều đó nên là một ưu tiên rất lớn (theo Bostrom, video đăng ngày 19/11/2026).

Ông nghĩ những điều này có thể phần nào liên quan tới các lựa chọn chúng ta đang đưa ra. Ví dụ, mức rủi ro tồn vong bạn sẵn sàng chấp nhận từ việc phát triển superintelligence có thể phụ thuộc một phần vào việc bạn đánh giá thế nào về cơ hội về sau trở thành một kiểu thực thể hậu nhân loại (post-human) (theo Bostrom, video đăng ngày 19/11/2026).

Nếu bạn nghĩ điều tốt nhất chúng ta có thể đạt được về cơ bản là hiện trạng, những con người với mức sống cao hơn một chút và vài loại thuốc mới, nhưng đó là trần, thì mọi thứ vẫn có thể tốt hơn so với hiện tại, và đáng chấp nhận chút rủi ro để đạt được bước nhích lên đó, nhưng có lẽ không phải một rủi ro khổng lồ, nhất là nếu bạn đang ngồi ở một nước giàu, được học hành tốt, nhiều tiền, đủ loại đặc quyền, và bạn nghĩ: chà, thế này khá tốt rồi (theo Bostrom, video đăng ngày 19/11/2026).

Mặt khác, nếu bạn nghĩ chúng ta chưa thấy gì cả: chúng ta là loài sinh vật kiểu giống khỉ nhảy nhót quanh đây và làm việc nhỏ của mình, nhưng chẳng biết gì. Nếu bạn mở khoá được không gian rộng hơn này của những cách tồn tại khả dĩ, kiểu như super felicity (siêu hạnh phúc), sự nâng tầm nhận thức, chiều sâu cảm xúc trong việc trân trọng điều mà sự tồn tại có thể mang ý nghĩa, những cách khác nhau để gắn kết và cùng sáng tạo; nếu bạn nghĩ ở đó có một không gian lớn những lợi ích chưa từng được thăm dò, thì bạn có thể sẵn sàng mạo hiểm nhiều hơn để có cơ hội, có một cú thử, với điều đó (theo Bostrom, video đăng ngày 19/11/2026).

Hai bức tranh về điều có thể đạt tới mà Bostrom đặt cạnh nhau (theo Bostrom, video đăng ngày 19/11/2026).

Vậy ông nghĩ, dù trọng tâm chính nên là những đánh đổi thực dụng hơn và những cải tiến kỹ thuật mà chúng ta làm được, thì bức tranh nền về điều bạn nghĩ rốt cuộc là có thể đạt tới cũng có chút liên quan tới cách chúng ta nên tiếp cận những lựa chọn trước mắt (theo Bostrom, video đăng ngày 19/11/2026).

## 17. Telos của vũ trụ, simulation argument và mục đích

Eddy nói anh có hai câu hỏi cho Nick. Anh không định làm chúng nghe như câu hỏi nhanh; câu này hơi lạ: ông có nghĩ vũ trụ có một telos không? Bostrom hỏi lại: ý anh "vũ trụ" là gì? Eddy đáp: sự sáng tạo, có thể nói vậy (video đăng ngày 19/11/2026).

![Eddy Lazzarin giơ một tay khi nói trước micro trong studio](https://homus.dev/photos/gDW9An30_c0-3305.jpg)

Eddy Lazzarin giơ tay khi trả lời câu hỏi lại của Bostrom về chữ "vũ trụ" (video đăng ngày 19/11/2026).

Bostrom nói nếu nó là một sự sáng tạo theo nghĩa đen, thì có lẽ đấng sáng tạo có một mục đích nào đó khi tạo ra nó. Ông giải thích lý do ông hỏi lại: một công trình cũ hơn của ông đã giới thiệu simulation argument, có lẽ là một chuyện rắc rối khác. Nhưng nếu bạn nghiêm túc với giả thuyết rằng chúng ta đang sống trong một mô phỏng máy tính, thì có một sự phân biệt quan trọng giữa phần thực tại mà chúng ta thấy, tức mô phỏng của chúng ta, và toàn bộ sự tồn tại vật lý (theo Bostrom, video đăng ngày 19/11/2026).

Nếu chúng ta ở trong một mô phỏng, thì có lẽ những người tạo ra mô phỏng có một lý do nào đó để làm vậy, tuỳ vào việc bạn hiểu mục đích là gì, nhưng theo nghĩa đó thì sẽ tồn tại một mục đích nào đó. Còn với toàn bộ sự tồn tại, thì đó có lẽ là câu hỏi thuộc về những cân nhắc thần học hơn: liệu bạn có nghĩ rằng cái toàn thể đó bằng cách nào đó được tạo ra có chủ đích hay không (theo Bostrom, video đăng ngày 19/11/2026).

Hỏi về mục đích cũng có thể mang nhiều nghĩa khác. Những người khác nhau có những mục đích khác nhau cho những thứ khác nhau. Ông nghĩ một câu hỏi người ta có thể đặt ra là liệu có một tập sự thật nào đó về thế giới mà nếu hiểu chúng một cách rõ ràng, thì về cơ bản tất cả chúng ta sẽ đi tới cùng một kết luận về việc mình nên làm gì hay không. Nếu có một sự thật như vậy, thì có lẽ bạn có thể nói đó là một kiểu mục đích khách quan, theo một nghĩa nào đó: hoặc với tất cả mọi người, hoặc có lẽ với một dải rộng các mục tiêu và động cơ bạn có thể có, có thể xảy ra sự hội tụ này, rằng nếu bạn hiểu đúng mọi sự thật, chúng sẽ chỉ về cùng một bước thực tế tiếp theo. Và điều đó, theo ông, là một câu hỏi còn bỏ ngỏ hơn nhiều (theo Bostrom, video đăng ngày 19/11/2026).

Có tiếng xin lỗi và mời nói tiếp. Bostrom nói một cách điều đó có thể xảy ra, dĩ nhiên, là trong một bối cảnh thần học truyền thống, đúng không? Nếu một đấng thần linh có mục tiêu này và thưởng hay không thưởng cho con người tuỳ vào... thì có thể đơn giản là nếu điều đó đúng và nếu bạn hiểu điều đó, thì về cơ bản gần như bất kể mục tiêu riêng của bạn là gì, bạn sẽ có nhiều lý do nhất để làm theo những chỉ dẫn ở đó (theo Bostrom, video đăng ngày 19/11/2026).

Nếu chúng ta ở trong một thế giới quan thuần duy vật, kiểu thế giới quan mà nhiều người thế tục có, nơi chỉ có các định luật tự nhiên xoay vần, thì có thể không có sự hội tụ như vậy. Điều bạn có nhiều lý do nhất để làm phụ thuộc vào mục tiêu riêng của bạn, người khác có mục tiêu khác, và không có sự thật cao hơn nào khiến bạn có lý do để làm cùng một việc. Nhưng ông nghĩ có rất nhiều khả năng nằm giữa hai cực đó mà chúng ta chưa hiểu hết, có thể khiến cho theo một nghĩa nào đó vẫn có một mục đích, dù chúng ta chưa rõ lắm nó sẽ là gì (theo Bostrom, video đăng ngày 19/11/2026).

Hai cực và khoảng giữa trong câu trả lời của Bostrom về mục đích (theo Bostrom, video đăng ngày 19/11/2026).

## 18. Bostrom nghĩ AI sẽ vượt con người ở triết học; thời hoàng kim của mục đích

Elena nói chị không định hỏi câu này, nhưng Bostrom đã nhắc tới chuyện nếu có một câu trả lời mà cả nhân loại có thể được dẫn về phía đó và kiểu như trả lời được mọi thứ. Vậy câu hỏi tiếp theo tự nhiên là: giả sử AI cho chúng ta câu trả lời đó, superintelligence cho chúng ta câu trả lời đó. Ông có ngừng làm triết học không? Có model AI nào giỏi tới mức mọi câu hỏi triết học quan trọng kiểu như trở nên thừa không (video đăng ngày 19/11/2026)?

![Elena Burger cúi nhìn xuống khi nói trước micro trong studio](https://homus.dev/photos/gDW9An30_c0-3623.jpg)

Elena Burger đặt câu hỏi về việc AI có khiến triết học trở nên thừa hay không (video đăng ngày 19/11/2026).

Bostrom đáp: vâng, ông nghĩ chúng ta sẽ có những AI kiểu như vượt chúng ta ở triết học, cũng như bây giờ chúng ta đã có ở toán học và có lẽ sớm thôi ở những lĩnh vực khác. Có thể có một tập con những câu hỏi mang dạng chúng ta tự quyết định mình muốn gì, nơi có thể chúng ta cần tự làm một phần việc cân nhắc và quyết định. Nhưng nói chung là có, ông nghĩ những nỗ lực trí tuệ của chính chúng ta trong lĩnh vực đó cũng sẽ kiểu như bị những superintelligence này làm cho lỗi thời (theo Bostrom, video đăng ngày 19/11/2026).

Điều đó có nghĩa là ngay lúc này, khi chúng ta vẫn còn có gì đó để đóng góp, là thời điểm để thật sự cố tạo ra bất kỳ tác động tích cực nào chúng ta mong có trong đời mình. Theo ông, bây giờ là thời hoàng kim cho mục đích và tác động tích cực. Và rồi, một khi mọi thứ ra khỏi tay chúng ta, có lẽ đó là lúc ngả lưng thư giãn một chút (theo Bostrom, video đăng ngày 19/11/2026).

Eddy hỏi: nhân tiện, có điều gì ông muốn bàn, hay điều gì đáng lẽ nên nói tới mà chưa nói không? Bostrom nói có quá nhiều hướng có thể đi; mỗi chủ đề đã chạm tới tự nó kiểu như gần đủ cho một cuộc trò chuyện một tiếng. Có lẽ vào một lúc nào đó trong tương lai, có thể làm thêm một buổi nữa hay gì đó, nhưng lúc này không có gì cụ thể (video đăng ngày 19/11/2026).

Elena nói hai người rất muốn vậy, rồi cảm ơn: cảm ơn ông rất nhiều đã tham gia, thật sự trân trọng ông đã dành thời gian, buổi này rất vui. Bostrom đáp: "Rất vui. Vâng."

## Nguồn và liên kết

- Tên gốc: Why Nick Bostrom Thinks Superintelligence Could End Aging
- Sự kiện: [YouTube](https://homus.dev/events/youtube)
- Video gốc: [https://www.youtube.com/watch?v=gDW9An30_c0](https://www.youtube.com/watch?v=gDW9An30_c0)

- Kênh YouTube a16z (Eddy Lazzarin và Elena Burger, khách mời Nick Bostrom): [youtube.com/channel/UC9cn0TuPq4dnbTY-CBsm8XA](https://www.youtube.com/channel/UC9cn0TuPq4dnbTY-CBsm8XA)

- Trang chủ của Nick Bostrom, có đoạn về các ngộ nhận mà Elena trích (đọc ngày 19/11/2026): [nickbostrom.com](https://nickbostrom.com/)

- Deep Utopia: Life and Meaning in a Solved World, trang sách trên site của Bostrom (đọc ngày 19/11/2026): [nickbostrom.com/deep-utopia](https://nickbostrom.com/deep-utopia/)

- "Optimal Timing for Superintelligence: Mundane Considerations for Existing People", working paper 2026 (PDF, đọc ngày 19/11/2026): [nickbostrom.com/optimal.pdf](https://nickbostrom.com/optimal.pdf)

- "Open Global Investment as a Governance Model for AGI", working paper (PDF, đọc ngày 19/11/2026): [nickbostrom.com/ogimodel.pdf](https://nickbostrom.com/ogimodel.pdf)

Nguồn: https://homus.dev/talks/why-nick-bostrom-thinks-superintelligence-could-end-aging · cập nhật 2026-11-19
