Bài viết mới nhất của Vitalik: Một năm nhìn lại chủ nghĩa tăng tốc phi tập trung và trí tuệ nhân tạo
Tuyển chọn TechFlowTuyển chọn TechFlow
Bài viết mới nhất của Vitalik: Một năm nhìn lại chủ nghĩa tăng tốc phi tập trung và trí tuệ nhân tạo
Tư tưởng cốt lõi của d/acc rất súc tích và rõ ràng: tăng tốc phòng thủ phi tập trung, dân chủ và phân hóa.
Chuyên sâu báo cáo Web3Tác giả: Vitalik Buterin, người sáng lập Ethereum
Biên dịch: Leek, Foresight News
Tóm tắt: Bài viết tập trung vào khái niệm tăng tốc phi tập trung (d/acc), thảo luận ứng dụng và thách thức của nó trong phát triển công nghệ, bao gồm an toàn trí tuệ nhân tạo (AI) và quản lý, mối liên hệ với tiền mã hóa, cũng như cơ chế tài trợ hàng hóa công cộng. Tác giả nhấn mạnh tầm quan trọng của d/acc trong việc xây dựng một thế giới an toàn và tốt đẹp hơn, đồng thời nhìn nhận các cơ hội và thách thức trong tương lai. Ông trình bày sâu sắc về nội hàm d/acc, phân tích vai trò của nó qua so sánh các chiến lược khác nhau trong việc ứng phó rủi ro AI, đồng thời nêu bật giá trị của tiền mã hóa và cách tiếp cận mới trong tài trợ hàng hóa công cộng, cuối cùng lạc quan cho rằng dù có khó khăn, con người vẫn có thể sử dụng các công cụ và tư tưởng hiện tại để kiến tạo một tương lai tốt hơn.
Lời mở đầu
Trân trọng cảm ơn phản hồi và góp ý từ các tình nguyện viên như Liraz Siri, Janine Leger và Balvi.
Khoảng một năm trước, tôi đã viết một bài về chủ nghĩa lạc quan công nghệ, trình bày sự nhiệt thành tổng thể của tôi đối với công nghệ và những lợi ích to lớn mà công nghệ mang lại, đồng thời cũng bày tỏ thái độ thận trọng nhất định về một số vấn đề cụ thể — đặc biệt là siêu trí tuệ nhân tạo, và nguy cơ hủy diệt hoặc mất quyền lực vĩnh viễn của nhân loại nếu công nghệ này được xây dựng sai cách.
Một trong những điểm cốt lõi của bài viết đó là ủng hộ một triết lý: tăng tốc phi tập trung, dân chủ và phòng thủ phân hóa. Chúng ta cần vừa đẩy nhanh tiến độ phát triển công nghệ, vừa có chọn lọc tập trung vào những công nghệ nâng cao khả năng phòng vệ chứ không phải gây hại, đồng thời thúc đẩy việc phân tán quyền lực thay vì để quyền lực tập trung vào tay một nhóm tinh hoa nào đó quyết định đúng sai thay cho tất cả mọi người. Mô hình phòng thủ nên giống như Thụy Sĩ dân chủ, hay vùng Zomia gần như vô chính phủ trong lịch sử, chứ không phải mô hình phong kiến thời Trung cổ với lãnh chúa và lâu đài.
Sau khoảng thời gian một năm kể từ đó, những tư tưởng và ý tưởng này đã trải qua quá trình phát triển và trưởng thành đáng kể. Tôi đã chia sẻ chúng trên nền tảng "80,000 Hours" (một tổ chức chuyên về lựa chọn nghề nghiệp), thu về nhiều phản hồi — phần lớn là tích cực, đương nhiên cũng có những lời chỉ trích.
Bản thân công việc này vẫn đang tiếp tục tiến triển và đạt được kết quả thiết thực: chúng ta chứng kiến bước tiến trong lĩnh vực vắc-xin nguồn mở có thể xác minh; nhận thức về tầm quan trọng của không khí trong nhà sạch ngày càng được nâng cao; tính năng "Ghi chú cộng đồng" (Community Notes) tiếp tục phát huy hiệu quả tích cực; thị trường dự báo (prediction market) đã có một năm đột phá như một công cụ thông tin; bằng chứng ngắn không tương tác về kiến thức không gian riêng (ZK-SNARKs) được áp dụng trong nhận dạng chính phủ và mạng xã hội (và thông qua trừu tượng tài khoản giúp ví Ethereum an toàn hơn); các công cụ hình ảnh nguồn mở được ứng dụng trong y học và giao diện não - máy (BCI), v.v.
Vào mùa thu năm ngoái, chúng ta đón nhận sự kiện d/acc đầu tiên mang tính bước ngoặt: "Ngày Khám Phá d/acc" (d/aDDy) tại Devcon, quy tụ các diễn giả từ các trụ cột chính của d/acc (sinh học, vật lý, mạng lưới, phòng thủ thông tin và thần kinh công nghệ), kéo dài suốt một ngày. Những người đã dành nhiều năm theo đuổi các công nghệ này ngày càng hiểu rõ hơn về công việc của nhau, trong khi những người bên ngoài cũng ngày càng nhận ra một tầm nhìn rộng lớn hơn: các giá trị thúc đẩy Ethereum và tiền mã hóa có thể mở rộng sang phạm vi rộng lớn hơn của thế giới.
Nội hàm và phạm vi của d/acc
Hãy chuyển tới năm 2042. Bạn đọc được một tin tức trên truyền thông nói rằng thành phố bạn sống có thể sắp bùng phát một dịch bệnh mới. Với kiểu tin này, bạn đã quá quen thuộc: mọi người thường phản ứng thái quá với mỗi đợt biến đổi virus ở động vật, nhưng đa số các đợt biến đổi này cuối cùng đều không dẫn đến khủng hoảng thực sự. Hai lần bùng phát tiềm tàng trước đó đều được phát hiện sớm nhờ giám sát nước thải và phân tích nguồn mở trên mạng xã hội, rồi bị dập tắt từ trong trứng nước. Nhưng lần này thì khác, thị trường dự báo cho thấy xác suất xuất hiện ít nhất 10.000 ca bệnh là tới 60%, khiến bạn lo lắng.
Chỉ hôm qua, trình tự gene của virus đã được xác định. Bản cập nhật phần mềm cho thiết bị xét nghiệm không khí trong túi bạn đã được phát hành, nhờ đó thiết bị có thể phát hiện virus mới (dù chỉ sau một hơi thở hay tiếp xúc trong không khí kín 15 phút). Đồng thời, các hướng dẫn và mã nguồn mở để sản xuất vắc-xin, có thể dùng thiết bị tại bất kỳ cơ sở y tế hiện đại nào trên thế giới, dự kiến sẽ được công bố trong vài tuần tới. Hầu hết mọi người hiện chưa hành động gì, họ chủ yếu dựa vào biện pháp lọc và thông gió không khí được áp dụng rộng rãi để tự bảo vệ.
Vì bạn có vấn đề về miễn dịch, bạn cẩn trọng hơn: trợ lý AI cá nhân chạy cục bộ, nguồn mở mà bạn dùng, ngoài các nhiệm vụ thông thường như định vị, gợi ý nhà hàng và sự kiện, còn tích hợp dữ liệu xét nghiệm không khí và CO₂ theo thời gian thực, để chỉ đề xuất những địa điểm an toàn nhất cho bạn. Dữ liệu này do hàng ngàn người tham gia và thiết bị cung cấp, sử dụng ZK-SNARKs và kỹ thuật riêng tư vi phân (differential privacy) nhằm giảm thiểu tối đa rủi ro rò rỉ hoặc bị lạm dụng cho mục đích khác (nếu bạn muốn đóng góp dữ liệu cho bộ dữ liệu này, sẽ có những trợ lý AI khác kiểm tra xem các công cụ mã hóa này có thực sự hoạt động hay không).
Hai tháng sau, dịch bệnh kỳ diệu tan biến: hóa ra khoảng 60% người dân tuân thủ các nguyên tắc phòng dịch cơ bản — đeo khẩu trang khi thiết bị xét nghiệm không khí cảnh báo có virus, và tự cách ly nếu kết quả xét nghiệm cá nhân dương tính. Chính hành động này đủ để đưa tỷ lệ lây lan — vốn đã giảm mạnh nhờ lọc không khí thụ động — xuống dưới mức 1. Một mô phỏng cho thấy căn bệnh này có thể nghiêm trọng gấp 5 lần đại dịch Covid-19 hai mươi năm trước, nhưng cuối cùng lại không gây ảnh hưởng đáng kể nào.
Sự kiện d/acc tại Devcon
Sự kiện d/acc tại Devcon đạt được một kết quả rất tích cực: khái niệm d/acc đã thành công trong việc tập hợp những người từ các lĩnh vực khác nhau, và thực sự khơi dậy sự quan tâm chân thành của họ đối với công việc của nhau.
Tổ chức một sự kiện "đa dạng" là điều không khó, nhưng để những người có nền tảng và sở thích khác nhau thực sự gắn kết với nhau thì lại cực kỳ khó. Tôi vẫn nhớ mãi cảm giác phải ngồi xem những vở opera dài dòng lúc trung học — bản thân tôi thấy chúng cực kỳ nhàm chán. Tôi biết mình "nên" thưởng thức chúng, vì nếu không sẽ bị coi là một kẻ lười biếng thiếu văn hóa trong ngành khoa học máy tính, nhưng tôi không thể nào đồng cảm sâu sắc với nội dung opera. Thế nhưng bầu không khí tại sự kiện d/acc lại hoàn toàn khác: mọi người thực sự yêu thích việc tìm hiểu công việc ở các lĩnh vực khác nhau.
Nếu chúng ta mong muốn xây dựng một tương lai tươi sáng hơn thống trị, chậm lại và hủy diệt, thì chắc chắn cần xây dựng liên minh rộng rãi như vậy. Về mặt này, d/acc dường như đã đạt được thành công đáng kể, chỉ riêng điều đó cũng đã cho thấy giá trị quý báu của tư tưởng này.
Tư tưởng cốt lõi của d/acc rất đơn giản: tăng tốc phi tập trung, dân chủ và phòng thủ phân hóa. Xây dựng các công nghệ giúp cân bằng tấn công - phòng thủ nghiêng về phía phòng thủ, và thực hiện điều này mà không cần trao thêm quyền lực cho các cơ quan trung ương. Hai khía cạnh này có mối liên hệ nội tại chặt chẽ: bất kỳ cấu trúc chính trị phi tập trung, dân chủ hay tự do nào cũng phát triển mạnh khi việc phòng thủ dễ thực hiện, và gặp khó khăn nghiêm trọng khi phòng thủ trở nên nan giải — trong những trường hợp đó, kết quả khả dĩ nhất là một giai đoạn hỗn loạn "mọi người chống lại nhau", cuối cùng dẫn đến trạng thái cân bằng do kẻ mạnh nhất thống trị.
Một cách để hiểu rõ tầm quan trọng của việc cố gắng đồng thời đạt được ba yếu tố phi tập trung, phòng thủ và tăng tốc là so sánh nó với các tư tưởng hình thành khi từ bỏ một trong ba yếu tố này.
Biểu đồ từ bài viết trước "Chủ nghĩa lạc quan công nghệ của tôi"
Tăng tốc phi tập trung, nhưng bỏ qua phần "phòng thủ phân hóa"
Về bản chất, điều này giống như trở thành một nhà tăng tốc hiệu quả (e/acc), nhưng đồng thời theo đuổi phi tập trung. Có nhiều người theo cách này, một số tự nhận là d/acc nhưng hữu ích khi mô tả trọng tâm của họ là "tấn công". Ngoài ra, còn nhiều người khác có niềm đam mê nhẹ nhàng hơn với "trí tuệ nhân tạo phi tập trung" và các chủ đề tương tự, nhưng theo tôi, họ rõ ràng thiếu sự quan tâm đến khía cạnh "phòng thủ".
Theo tôi, cách này có thể tránh được nguy cơ một nhóm cụ thể độc tài thống trị nhân loại, nhưng lại không giải quyết được vấn đề cấu trúc tiềm tàng: trong môi trường thuận lợi cho tấn công, luôn tồn tại rủi ro thảm họa xảy ra liên tục, hoặc có người tự đặt mình làm người bảo vệ và chiếm giữ vị trí thống trị vĩnh viễn. Đối với trí tuệ nhân tạo, nó cũng không giải quyết thỏa đáng được rủi ro về việc sức mạnh của toàn thể nhân loại bị suy yếu trước AI.
Tăng tốc phòng thủ phân hóa, nhưng bỏ qua "phi tập trung và dân chủ"
Việc chấp nhận kiểm soát tập trung để đạt được mục tiêu an toàn luôn có sức hấp dẫn nhất định đối với một bộ phận người, và độc giả chắc hẳn đã quen thuộc với nhiều ví dụ như vậy cùng những hệ lụy đi kèm. Gần đây, một số người lo ngại rằng kiểm soát cực kỳ tập trung có thể là cách duy nhất để đối phó với các công nghệ cực đoan trong tương lai: ví dụ, tưởng tượng một kịch bản giả định, "mọi người đều đeo một 'nhãn tự do' — sản phẩm kế nhiệm của các thiết bị theo dõi đeo được hiện nay, tương tự như vòng chân điện tử mà một số quốc gia dùng thay thế tù giam... video và âm thanh được mã hóa liên tục tải lên và được máy móc giải mã theo thời gian thực". Tuy nhiên, kiểm soát tập trung tồn tại vấn đề về mức độ. Một hình thức kiểm soát tập trung tương đối nhẹ nhàng nhưng vẫn gây hại và thường bị bỏ qua là sự phản đối giám sát công chúng trong lĩnh vực công nghệ sinh học (ví dụ thực phẩm, vắc-xin), cùng với việc dung túng hành vi phản đối này thông qua các tiêu chuẩn đóng nguồn (closed-source).
Rủi ro của cách này là hiển nhiên: chính trung tâm đó thường trở thành nguồn gốc của rủi ro. Chúng ta đã chứng kiến điều này trong đại dịch Covid, khi nghiên cứu chức năng thu được (gain-of-function) được tài trợ bởi nhiều chính phủ lớn có thể là nguồn gốc của đại dịch; mô hình nhận thức tập trung khiến Tổ chức Y tế Thế giới từ chối thừa nhận virus lây qua không khí trong nhiều năm; các lệnh giãn cách xã hội và tiêm chủng bắt buộc đã gây ra phản ứng chính trị có thể kéo dài hàng thập kỷ. Tình huống tương tự rất có thể sẽ tái diễn trong bất kỳ tình huống rủi ro nào liên quan đến AI hoặc các công nghệ rủi ro khác. Ngược lại, cách tiếp cận phi tập trung sẽ ứng phó hiệu quả hơn với rủi ro đến từ chính trung tâm.
Phòng thủ phi tập trung, nhưng từ chối tăng tốc
Về bản chất, đây là nỗ lực làm chậm tiến bộ công nghệ hoặc thúc đẩy suy thoái kinh tế.
Chiến lược này đối mặt với hai thách thức kép. Thứ nhất, nhìn chung, công nghệ và tăng trưởng kinh tế cực kỳ có lợi cho nhân loại, bất kỳ sự trì hoãn nào cũng sẽ gây ra cái giá không thể đo đếm được. Thứ hai, trong một thế giới phi toàn trị, sự đình trệ là không ổn định: những người hoặc nhóm "gian lận" nhiều nhất, có thể tìm ra cách hợp lý để tiếp tục phát triển sẽ chiếm ưu thế. Chiến lược giảm tốc (decelerationism) trong một số hoàn cảnh cụ thể có thể phần nào hiệu quả: ví dụ, thực phẩm châu Âu khỏe mạnh hơn thực phẩm Mỹ là một minh chứng; thành công cho đến nay của nỗ lực không phổ biến vũ khí hạt nhân cũng vậy. Tuy nhiên, những chiến lược này không thể hiệu quả mãi mãi.
Thông qua d/acc, chúng ta cam kết đạt được:
-
Giữ vững nguyên tắc giữa xu hướng ngày càng bộ tộc hóa của thế giới hiện đại, chứ không phải mù quáng xây dựng mọi thứ — ngược lại, chúng ta muốn xây dựng những thứ cụ thể để khiến thế giới an toàn và tốt đẹp hơn.
-
Nhận thức rằng tiến bộ công nghệ theo cấp số mũ có nghĩa là thế giới sẽ trở nên cực kỳ kỳ lạ, và dấu chân tổng thể của nhân loại trong vũ trụ nhất định phải không ngừng tăng lên. Khả năng bảo vệ các sinh vật, thực vật và con người yếu đuối khỏi bị tổn thương phải liên tục được nâng cao, và con đường duy nhất là tiến lên phía trước.
-
Xây dựng các công nghệ thực sự bảo vệ chúng ta, chứ không dựa trên giả định "người tốt (hoặc AI tốt) kiểm soát mọi thứ". Chúng ta đạt được điều này bằng cách tạo ra các công cụ vốn dĩ hiệu quả hơn khi dùng để xây dựng và bảo vệ so với khi dùng để phá hoại.
Một góc nhìn khác về d/acc là quay trở lại khung tư duy từ phong trào Đảng Cướp biển châu Âu cuối những năm 2000: trao quyền (empowerment).
Mục tiêu của chúng ta là xây dựng một thế giới duy trì được năng lực hành động của con người, đạt được tự do tiêu cực — tránh sự can thiệp tích cực vào khả năng định đoạt vận mệnh của chính mình từ người khác (bất kể là công dân bình thường, chính phủ hay robot siêu trí tuệ), đồng thời đạt được tự do tích cực — đảm bảo chúng ta có kiến thức và nguồn lực để thực hiện khả năng đó. Điều này nối tiếp truyền thống tự do cổ điển kéo dài hàng thế kỷ, bao gồm sự quan tâm của Stewart Brand đến "tiếp cận công cụ", và sự nhấn mạnh của John Stuart Mill về giáo dục song hành cùng tự do như những yếu tố then chốt thúc đẩy tiến bộ nhân loại — có lẽ còn bổ sung thêm tầm nhìn của Buckminster Fuller rằng quá trình giải quyết vấn đề toàn cầu nên mang tính tham gia và phân phối rộng rãi. Trước bối cảnh công nghệ thế kỷ 21, chúng ta có thể xem d/acc là một con đường để đạt được những mục tiêu tương tự.
Chiều thứ ba: Phát triển đồng thời Sự tồn tại và Thịnh vượng
Trong bài viết năm ngoái của tôi, d/acc đặc biệt tập trung vào công nghệ phòng thủ: phòng thủ vật lý, phòng thủ sinh học, phòng thủ mạng và phòng thủ thông tin. Tuy nhiên, phòng thủ phi tập trung đơn thuần là chưa đủ để xây dựng một thế giới vĩ đại: chúng ta còn cần một tầm nhìn tích cực, định hướng tương lai, rõ ràng về việc con người có thể làm được gì sau khi đạt được sự phi tập trung và an toàn mới.
Bài viết năm ngoái thực sự chứa đựng một tầm nhìn tích cực ở hai khía cạnh:
1. Khi bàn về thách thức siêu trí tuệ, tôi đã đề xuất một lộ trình (không phải ý tưởng gốc của tôi): chúng ta có thể đạt được siêu trí tuệ mà không mất quyền lực như thế nào:
-
Hiện tại, xây dựng AI như một công cụ, chứ không phải như các tác nhân thông minh tự trị cao độ.
-
Tương lai, sử dụng các công cụ như thực tế ảo, công nghệ cơ điện và giao diện não - máy để thiết lập cơ chế phản hồi chặt chẽ hơn giữa AI và con người.
-
Dần dần tiến tới kết cục cuối cùng, siêu trí tuệ là sản phẩm của sự kết hợp chặt chẽ giữa máy móc và con người.
2. Khi nói về phòng thủ thông tin, tôi cũng tiện nhắc đến các công nghệ xã hội tiến bộ — ngoài các công nghệ xã hội phòng thủ nhằm giúp cộng đồng giữ vững đoàn kết và thảo luận chất lượng cao khi đối mặt với kẻ tấn công, còn có các công nghệ xã hội tiến bộ giúp cộng đồng dễ dàng hơn trong việc đưa ra các phán đoán chất lượng cao: Pol.is là một ví dụ, thị trường dự báo cũng vậy.
Nhưng lúc đó, hai điểm này cảm giác như bị tách rời khỏi luận điểm cốt lõi của d/acc: "Đây là một số ý tưởng về việc xây dựng một thế giới dân chủ và thuận lợi cho phòng thủ ở cấp độ nền tảng, nhân tiện đây là một số ý tưởng không liên quan về cách chúng ta đạt được siêu trí tuệ".
Tuy nhiên, tôi cho rằng trên thực tế, có những mối liên hệ quan trọng giữa các công nghệ d/acc được đánh nhãn là "phòng thủ" và "tiến bộ". Hãy mở rộng biểu đồ d/acc trong bài viết năm ngoái bằng cách thêm trục này (đồng thời đổi tên nó thành "Sự tồn tại và Thịnh vượng"), và xem điều gì sẽ xảy ra:
Có một mô hình nhất quán trong mọi lĩnh vực: các khoa học, tư tưởng và công cụ giúp chúng ta "tồn tại" trong một lĩnh vực nào đó thường liên quan mật thiết đến những thứ giúp chúng ta "thịnh vượng". Dưới đây là một vài ví dụ cụ thể:
-
Nhiều nghiên cứu chống Covid gần đây tập trung vào việc virus tồn tại dai dẳng trong cơ thể, được xem là cơ chế then chốt của hội chứng Covid kéo dài. Gần đây, cũng có dấu hiệu cho thấy tồn tại dai dẳng của virus có thể là yếu tố gây bệnh Alzheimer — nếu điều này đúng, thì giải quyết vấn đề tồn tại dai dẳng của virus trong mọi loại mô có thể là chìa khóa để khắc phục lão hóa.
-
Các công cụ hình ảnh nhỏ gọn và chi phí thấp, như những gì Openwater đang phát triển, có tiềm năng mạnh mẽ trong điều trị huyết khối vi mô, virus tồn tại dai dẳng, ung thư, đồng thời cũng hữu ích trong lĩnh vực giao diện não - máy.
-
Tư tưởng thúc đẩy xây dựng các công cụ xã hội cho môi trường đối kháng cao (như Community Notes) và môi trường hợp tác hợp lý (như Pol.is) là rất giống nhau.
-
Thị trường dự báo đều có giá trị quan trọng trong cả môi trường hợp tác cao và đối kháng cao.
-
Các công nghệ như bằng chứng không gian riêng (zero-knowledge proof) cho phép tính toán trên dữ liệu trong khi vẫn bảo vệ quyền riêng tư, vừa tăng lượng dữ liệu có thể dùng cho nghiên cứu khoa học, vừa tăng cường bảo vệ riêng tư.
-
Năng lượng mặt trời và pin cực kỳ quan trọng cho đợt tăng trưởng kinh tế sạch tiếp theo, đồng thời cũng nổi bật về tính phi tập trung và độ bền vật lý.
Bên cạnh đó, còn tồn tại sự phụ thuộc lẫn nhau quan trọng giữa các lĩnh vực khác nhau:
-
Giao diện não - máy cực kỳ quan trọng như một công nghệ phòng thủ và hợp tác thông tin, vì nó cho phép trao đổi ý tưởng và ý định của chúng ta một cách tinh vi hơn. Giao diện não - máy không chỉ là kết nối giữa ý thức và robot: nó còn có thể là tương tác giữa ý thức - robot - ý thức. Điều này phù hợp với giá trị của giao diện não - máy trong tư tưởng đa nguyên.
-
Nhiều công nghệ sinh học phụ thuộc vào việc chia sẻ thông tin, và trong nhiều trường hợp, mọi người chỉ sẵn sàng chia sẻ nếu họ tin rằng thông tin chỉ được dùng cho ứng dụng cụ thể. Điều này phụ thuộc vào các công nghệ bảo vệ riêng tư (như bằng chứng không gian riêng, mã hóa đồng hình đầy đủ, kỹ thuật làm lẫn lộn dữ liệu, v.v.).
-
Các công nghệ hợp tác có thể được dùng để điều phối tài trợ cho bất kỳ lĩnh vực công nghệ nào khác.
Vấn đề nan giải: An toàn AI, đường thời gian khẩn cấp và bế tắc quản lý
Các người khác nhau có lịch trình AI hoàn toàn khác nhau
Biểu đồ từ Zuzalu, Montenegro 2023
Phản biện thuyết phục nhất tôi nhận được cho bài viết năm ngoái đến từ cộng đồng an toàn AI. Luận điểm là: "Dĩ nhiên, nếu chúng ta có nửa thế kỷ để phát triển trí tuệ nhân tạo mạnh, chúng ta có thể tập trung xây dựng tất cả những thứ có lợi này. Nhưng thực tế, có vẻ như chúng ta có thể chỉ mất ba năm để đạt đến trí tuệ nhân tạo phổ quát, và thêm ba năm nữa để đạt đến siêu trí tuệ. Vì vậy, nếu chúng ta không muốn thế giới bị hủy diệt hoặc rơi vào tình trạng không thể đảo ngược theo cách khác, chúng ta không thể chỉ tăng tốc phát triển công nghệ có lợi, mà còn phải làm chậm công nghệ có hại, điều đó có nghĩa là cần các biện pháp quản lý mạnh mẽ có thể khiến tầng lớp quyền lực nổi giận". Trong bài viết năm ngoái của tôi, ngoài lời kêu gọi mơ hồ đừng xây dựng các dạng siêu trí tuệ rủi ro, tôi thực sự chưa đưa ra bất kỳ chiến lược cụ thể nào về "làm chậm công nghệ có hại". Vì vậy, ở đây cần trực tiếp thảo luận vấn đề này: Nếu chúng ta đang ở trong thế giới tồi tệ nhất, rủi ro AI rất cao và đường thời gian có thể chỉ ngắn ngủi năm năm, tôi sẽ ủng hộ những biện pháp quản lý nào?
Lý do thận trọng với các quy định mới
Năm ngoái, đề xuất quản lý AI chính là dự luật SB-1047 của California. SB-1047 yêu cầu các nhà phát triển mô hình mạnh nhất (tức những mô hình có chi phí huấn luyện vượt 100 triệu USD hoặc chi phí tinh chỉnh vượt 10 triệu USD) phải thực hiện một loạt biện pháp kiểm tra an toàn trước khi phát hành. Ngoài ra, nếu nhà phát triển AI không đủ thận trọng, họ sẽ bị truy cứu trách nhiệm. Nhiều nhà phê bình cho rằng dự luật này "gây đe dọa cho nguồn mở"; tôi phản bác điều này vì ngưỡng chi phí có nghĩa là nó chỉ ảnh hưởng đến các mô hình mạnh nhất: ngay cả mô hình Llama3 có thể cũng nằm dưới ngưỡng này. Tuy nhiên, nhìn lại, tôi cho rằng dự luật này có một vấn đề nghiêm trọng hơn: giống như phần lớn các biện pháp quản lý, nó quá thích nghi với tình hình hiện tại. Việc tập trung vào chi phí huấn luyện đã chứng minh là mong manh trước công nghệ mới: mô hình DeepSeek v3 tiên tiến nhất gần đây có chi phí huấn luyện chỉ 6 triệu USD, và trong các mô hình mới như o1, chi phí thường chuyển từ huấn luyện sang suy luận (inference).
Các tác nhân có khả năng cao nhất gây ra kịch bản hủy diệt siêu trí tuệ nhân tạo
Thực tế, các tác nhân có khả năng cao nhất gây ra kịch bản hủy diệt siêu trí tuệ nhân tạo là quân đội. Như chúng ta đã chứng kiến trong nửa thế kỷ qua về an toàn sinh học (và thậm chí sớm hơn), quân đội sẵn sàng thực hiện một số hành động đáng sợ, và họ cực kỳ dễ mắc sai lầm. Hiện tại, việc ứng dụng AI trong quân sự đang phát triển nhanh chóng (như ở Ukraine, Gaza). Và bất kỳ quy định an toàn nào được thông qua bởi chính phủ đều mặc định miễn trừ cho quân đội của chính họ và các công ty hợp tác chặt chẽ với quân đội.
Các chiến lược ứng phó
Dù vậy, những luận điểm này không phải là lý do để chúng ta bó tay. Ngược lại, chúng ta có thể dùng chúng như kim chỉ nam, cố gắng xây dựng các quy tắc gây ra ít lo ngại nhất.
Chiến lược 1: Trách nhiệm
Nếu ai đó hành động theo cách nào đó gây ra thiệt hại có thể truy cứu pháp lý, họ có thể bị kiện. Điều này không giải quyết được rủi ro đến từ quân đội và các tác nhân "cao hơn luật pháp", nhưng đây là một phương pháp rất phổ quát, tránh được việc quá khớp với tình huống hiện tại, chính vì vậy các nhà kinh tế theo chủ nghĩa tự do thường ủng hộ cách này.
Các đối tượng chịu trách nhiệm chính được xem xét cho đến nay gồm:
-
Người dùng: những người sử dụng AI.
-
Người triển khai: trung gian cung cấp dịch vụ AI cho người dùng.
-
Người phát triển: những người xây dựng AI.
Việc quy trách nhiệm cho người dùng dường như phù hợp nhất với cơ chế khuyến khích. Mặc dù cách xây dựng mô hình và cách sử dụng cuối cùng thường không rõ ràng, nhưng người dùng mới là người quyết định cách sử dụng cụ thể của AI. Việc truy cứu trách nhiệm người dùng tạo ra áp lực mạnh mẽ, thúc đẩy mọi người sử dụng AI theo cách mà tôi cho là đúng: tập trung xây dựng bộ áo cơ khí cho tư duy con người, chứ không phải tạo ra các dạng sống thông minh tự duy trì mới. Loại thứ nhất thường xuyên phản hồi ý định người dùng, do đó sẽ không gây ra hành động thảm họa trừ khi người dùng muốn. Loại thứ hai lại có rủi ro lớn nhất: có thể mất kiểm soát và dẫn đến kịch bản "AI mất kiểm soát" kinh điển. Một lợi ích khác của việc đưa trách nhiệm càng gần đầu sử dụng cuối cùng là giảm thiểu tối đa rủi ro khiến người ta thực hiện các hành động có hại khác (ví dụ: đóng mã nguồn, kiểm tra khách hàng (KYC), giám sát, sự câu kết bí mật giữa nhà nước/doanh nghiệp hạn chế người dùng, như ngân hàng từ chối phục vụ một số khách hàng, loại bỏ cả khu vực rộng lớn của thế giới).
Một phản biện kinh điển đối với việc chỉ quy trách nhiệm cho người dùng là: người dùng có thể là cá nhân bình thường, không có nhiều tiền, thậm chí có thể ẩn danh, khiến không ai thực sự phải trả giá cho thiệt hại thảm họa. Quan điểm này có thể bị thổi phồng: ngay cả khi một số người dùng quá nhỏ để chịu trách nhiệm, thì khách hàng thông thường của nhà phát triển AI thì không, do đó các nhà phát triển AI vẫn có động lực để xây dựng sản phẩm khiến người dùng tin rằng họ sẽ không đối mặt với rủi ro trách nhiệm cao. Nghĩa là, đây vẫn là một quan điểm hợp lệ cần được giải quyết. Bạn cần tạo động lực cho một người nào đó trong chuỗi có đủ nguồn lực để thực hiện các biện pháp thận trọng thích hợp, và người triển khai, người phát triển là các mục tiêu dễ tiếp cận, họ vẫn có ảnh hưởng lớn đến độ an toàn của mô hình.
Trách nhiệm của người triển khai dường như hợp lý. Một lo ngại phổ biến là nó không hiệu quả với các mô hình nguồn mở, nhưng điều này dường như có thể quản lý được, đặc biệt vì các mô hình mạnh nhất có khả năng cao là đóng nguồn (nếu kết quả là nguồn mở, thì mặc dù trách nhiệm người triển khai cuối cùng có thể không quá hữu ích, nhưng cũng không gây hại lớn). Người phát triển cũng có lo ngại tương tự (mặc dù với mô hình nguồn mở, việc tinh chỉnh mô hình để làm điều gì đó vốn không được phép có một chút rào cản), nhưng lý do phản bác tương tự cũng áp dụng. Theo nguyên tắc chung, việc áp một "thuế" lên quyền kiểm soát, về cơ bản là nói "bạn có thể xây dựng thứ bạn không kiểm soát, hoặc bạn có thể xây dựng thứ bạn kiểm soát, nhưng nếu bạn xây dựng thứ bạn kiểm soát, thì 20% quyền kiểm soát đó phải dùng cho mục đích của chúng tôi", dường như là một lập trường hợp lý mà hệ thống pháp lý nên có.
Một ý tưởng dường như chưa được khám phá đầy đủ là quy trách nhiệm cho các tác nhân khác trong chuỗi, những người có khả năng cao hơn có đủ nguồn lực. Một ý tưởng rất phù hợp với tinh thần d/acc là truy cứu trách nhiệm của bất kỳ chủ sở hữu hoặc người vận hành thiết bị nào mà AI đã chiếm quyền kiểm soát (ví dụ qua tấn công mạng) trong quá trình thực hiện hành động có hại thảm khốc. Điều này sẽ tạo ra một động lực rộng rãi, thúc đẩy mọi người nỗ lực làm cho cơ sở hạ tầng thế giới (đặc biệt trong lĩnh vực tính toán và sinh học) an toàn nhất có thể.
Chiến lược 2: Nút tạm dừng "mềm" quy mô công nghiệp toàn cầu
Nếu tôi thực sự tin rằng chúng ta cần một biện pháp "mạnh mẽ" hơn các quy tắc trách nhiệm, tôi sẽ chọn chiến lược này. Mục tiêu là trong thời điểm then chốt, có khả năng giảm khoảng 90–99% năng lực tính toán toàn cầu trong 1–2 năm, để giành thêm thời gian chuẩn bị cho nhân loại. Giá trị của 1–2 năm không nên bị đánh giá thấp: một năm "chế độ chiến tranh" trong tình trạng chủ quan dễ dàng tương đương với một trăm năm làm việc thông thường. Các phương pháp thực hiện "tạm dừng" đã được nghiên cứu, bao gồm một số đề xuất cụ thể như yêu cầu đăng ký và xác minh vị trí phần cứng.
Một phương pháp tiên tiến hơn là sử dụng các kỹ thuật mã hóa thông minh: ví dụ, phần cứng AI quy mô công nghiệp (nhưng không phải tiêu dùng) khi sản xuất có thể được trang bị một con chip phần cứng đáng tin cậy, chỉ cho phép tiếp tục hoạt động khi nhận được chữ ký 3/3 từ các tổ chức quốc tế chính (bao gồm ít nhất một tổ chức không thuộc quân sự) mỗi tuần. Các chữ ký này sẽ độc lập với thiết bị (nếu cần, chúng ta thậm chí có thể yêu cầu công bố bằng chứng không gian riêng trên blockchain), vì vậy sẽ là toàn bộ hoặc không: không có cách thực tế nào để cấp quyền cho một thiết bị hoạt động mà không cấp quyền cho tất cả các thiết bị khác.
Điều này dường như "đáp ứng yêu cầu" về tối đa hóa lợi ích và tối thiểu hóa rủi ro:
-
Đây là một khả năng hữu ích: nếu chúng ta nhận được tín hiệu cho thấy AI gần siêu trí tuệ bắt đầu làm những việc có thể gây thiệt hại thảm khốc, chúng ta sẽ muốn quá trình chuyển đổi diễn ra chậm hơn.
-
Chỉ cần có khả năng tạm dừng mềm trước khi thời điểm then chốt đến, sẽ gây hại rất ít cho các nhà phát triển.
-
Tập trung vào phần cứng quy mô công nghiệp, và chỉ đặt mục tiêu giảm 90–99%, sẽ tránh được một số hành động phản utopia như cài chip gián điệp trong laptop tiêu dùng hoặc buộc tắt nguồn, hoặc ép các quốc gia nhỏ hành động nghiêm khắc trái ý muốn.
-
Tập trung vào phần cứng dường như có khả năng thích nghi mạnh mẽ với thay đổi công nghệ. Chúng ta đã thấy qua nhiều thế hệ AI rằng chất lượng phụ thuộc rất nhiều vào năng lực tính toán có sẵn, đặc biệt trong các phiên bản đầu của khuôn mẫu mới. Do đó, giảm năng lực tính toán khả dụng xuống 10–100 lần dễ dàng khiến sự khác biệt giữa thắng và bại trong cuộc chiến nhanh giữa siêu trí tuệ AI mất kiểm soát và con người cố ngăn chặn nó.
-
Sự bất tiện nội tại của việc phải trực tuyến hàng tuần để lấy chữ ký sẽ mạnh mẽ kìm hãm ý tưởng mở rộng giải pháp này sang phần cứng tiêu dùng.
-
Có thể xác minh qua kiểm tra ngẫu nhiên, và việc thao tác ở cấp độ phần cứng sẽ khiến việc miễn trừ người dùng cụ thể trở nên khó khăn (các phương pháp dựa trên việc buộc tắt bằng pháp lý chứ không phải kỹ thuật không có thuộc tính toàn bộ hoặc không, khiến chúng dễ trượt sang việc miễn trừ cho quân đội, v.v.).
Quản lý phần cứng hiện đang được xem xét nghiêm túc, mặc dù thường trong khuôn khổ kiểm soát xuất khẩu, vốn về bản chất mang tư tưởng "chúng tôi tin tưởng phe mình, nhưng không tin tưởng phe kia". Leopold Aschenbrenner từng nổi tiếng lập luận rằng Mỹ nên đua để giành lợi thế quyết định, sau đó ép Trung Quốc ký một thỏa thuận hạn chế số lượng thiết bị họ có thể vận hành. Theo tôi, cách tiếp cận này dường như rủi ro, và có thể kết hợp những khuyết điểm của cuộc đua đa cực và tập trung hóa. Nếu chúng ta phải hạn chế mọi người, có vẻ tốt hơn nên hạn chế mọi người một cách công bằng, và nỗ lực hợp tác thực sự để tổ chức thực hiện, thay vì một bên cố gắng thống trị tất cả.
Vai trò của công nghệ d/acc trong rủi ro AI
Cả hai chiến lược này (trách nhiệm và nút tạm dừng phần cứng) đều có kẽ hở, và rõ ràng chúng chỉ là biện pháp tạm thời: nếu điều gì đó có thể làm được trên siêu máy tính tại thời điểm T, thì tại thời điểm T+5 năm rất có thể cũng có thể làm được trên laptop. Vì vậy, chúng ta cần các biện pháp ổn định hơn để giành thời gian. Nhiều công nghệ d/acc ở đây là liên quan. Chúng ta có thể xem vai trò của công nghệ d/acc như sau: nếu AI chiếm lĩnh thế giới, nó sẽ làm như thế nào?
-
Nó xâm nhập máy tính của chúng ta → phòng thủ mạng
-
Nó tạo ra dịch bệnh siêu cấp → phòng thủ sinh học
-
Nó thuyết phục chúng ta (hoặc khiến chúng ta tin tưởng nó, hoặc khiến chúng ta không tin tưởng nhau) → phòng thủ thông tin
Như đã đề cập sơ qua ở trên, các quy tắc trách nhiệm là một cách quản lý tự nhiên phù hợp với tinh thần d/acc, vì chúng có thể rất hiệu quả trong việc khuyến khích mọi người trên thế giới áp dụng các biện pháp phòng thủ này và coi trọng chúng. Đài Loan gần đây đang thử nghiệm truy cứu trách nhiệm với quảng cáo giả, có thể được xem như một ví dụ về việc sử dụng trách nhiệm để khuyến khích phòng thủ thông tin. Chúng ta không nên quá hăng hái áp đặt trách nhiệm khắp nơi, và cần nhớ rằng tự do thông thường mang lại lợi ích khi cho phép người nhỏ bé tham gia đổi mới mà không lo bị kiện tụng, nhưng ở những nơi chúng ta thực sự muốn thúc đẩy an toàn mạnh mẽ hơn, trách nhiệm có thể khá linh hoạt và hiệu quả.
Vai trò của tiền mã hóa trong d/acc
Nhiều khía cạnh của d/acc vượt xa các chủ đề blockchain điển hình: an toàn sinh học, giao diện não - máy và công cụ ngôn luận hợp tác dường như rất khác biệt so với những gì người tiền mã hóa thường nói. Tuy nhiên, tôi cho rằng có một số liên kết quan trọng giữa tiền mã hóa và d/acc, đặc biệt là:
-
d/acc là sự mở rộng các giá trị cốt lõi của tiền mã hóa (phi tập trung, chống kiểm duyệt, kinh tế và xã hội toàn cầu mở) sang các lĩnh vực công nghệ khác.
-
Vì người dùng tiền mã hóa là những người tiên phong tự nhiên, và có sự nhất quán về giá trị, cộng đồng tiền mã hóa là người dùng sớm tự nhiên cho các công nghệ d/acc. Sự coi trọng cao độ đối với cộng đồng (cả trực tuyến và ngoại tuyến, ví dụ như các sự kiện và sự kiện nhảy dù), cùng với thực tế là các cộng đồng này thực sự làm những việc rủi ro cao chứ không chỉ nói chuyện với nhau, khiến cộng đồng tiền mã hóa trở thành một孵化器 và sân thử nghiệm đặc biệt hấp dẫn cho các công nghệ d/acc, vốn về bản chất vận hành dựa trên tập thể chứ không phải cá nhân (ví dụ như phần lớn các công nghệ phòng thủ thông tin và sinh học). Người tiền mã hóa là những người cùng hành động.
-
Nhiều công nghệ tiền mã hóa có thể được dùng trong các lĩnh vực chủ đề d/acc: blockchain để xây dựng cơ sở hạ tầng tài chính, quản trị và mạng xã hội mạnh mẽ và phi tập trung hơn, bằng chứng không gian riêng để bảo vệ riêng tư, v.v. Ngày nay, nhiều thị trường dự báo lớn nhất được xây dựng trên blockchain, và chúng đang dần trở nên phức tạp, phi tập trung và dân chủ hơn.
-
Tồn tại cơ hội hợp tác đôi bên cùng có lợi trong các công nghệ liền kề tiền mã hóa, vốn rất hữu ích cho các dự án tiền mã hóa, đồng thời cũng là chìa khóa để đạt được mục tiêu d/acc: xác minh hình thức, an toàn phần mềm và phần cứng máy tính, và các công nghệ quản trị vững chắc trước các tác nhân đối nghịch. Những công nghệ này giúp blockchain Ethereum, ví và tổ chức tự trị phi tập trung (DAO) an toàn và vững chắc hơn, đồng thời còn đạt được các mục tiêu phòng thủ nền văn minh quan trọng, ví dụ như giảm sự dễ bị tổn thương của chúng ta trước các cuộc tấn công mạng (bao gồm cả những cuộc tấn công có thể đến từ siêu trí tuệ nhân tạo).
Cursive là một ứng dụng sử dụng công nghệ mã hóa đồng hình đầy đủ (FHE), cho phép người dùng xác định các lĩnh vực quan tâm chung với người dùng khác, đồng thời bảo vệ riêng tư. Thành phố Edge tại Chiang Mai (một trong nhiều chi nhánh của Zuzalu) đã sử dụng ứng dụng này.
d/acc và tài trợ hàng hóa công cộng
Một vấn đề tôi luôn quan tâm là nghĩ ra các cơ chế tốt hơn để tài trợ cho hàng hóa công cộng: tức các dự án có giá trị với nhóm người rất lớn nhưng không có mô hình kinh doanh tự nhiên. Công việc trước đây của tôi trong lĩnh vực này bao gồm đóng góp cho tài trợ vốn bình phương (quadratic funding), tài trợ hàng hóa công cộng hồi tố (retro PGF) và gần đây là tài trợ vốn sâu (deep funding).
Nhiều người hoài nghi về khái niệm hàng hóa công cộng. Sự hoài nghi này thường đến từ hai phía:
-
Hàng hóa công cộng trong lịch sử thường bị dùng làm lý do để chính phủ thực hiện kế hoạch và can thiệp trung ương cứng rắn vào xã hội và kinh tế.
-
Một quan điểm phổ biến là tài trợ hàng hóa công cộng thiếu tính nghiêm ngặt, và vận hành dựa trên thiên kiến mong đợi xã hội — tức những thứ nghe có vẻ tốt, chứ không phải những thứ thực sự tốt — và có lợi cho những người nội bộ giỏi chơi trò xã giao.
Đây là những lời chỉ trích quan trọng và hợp lý. Tuy nhiên, tôi cho rằng việc tài trợ hàng hóa công cộng phi tập trung mạnh mẽ cực kỳ quan trọng đối với tầm nhìn d/acc, vì một mục tiêu then chốt của d/acc (tối thiểu hóa các điểm kiểm soát trung tâm) bản thân nó đã cản trở nhiều mô hình kinh doanh truyền thống. Việc xây dựng doanh nghiệp thành công dựa trên nền tảng nguồn mở là có thể — một vài dự án được Balvi tài trợ đang làm điều đó — nhưng trong một số trường hợp điều này quá khó, khiến các dự án quan trọng cần thêm sự hỗ trợ liên tục. Vì vậy, chúng ta phải làm điều khó khăn: tìm ra cách tài trợ hàng hóa công cộng theo cách giải quyết được hai lời chỉ trích trên.
Giải pháp cho vấn đề đầu tiên về cơ bản là trung lập đáng tin cậy và phi tập trung. Kế hoạch trung ương là có vấn đề vì nó trao quyền kiểm soát cho các tinh hoa có thể lạm dụng quyền lực, và vì nó thường quá thích nghi với tình hình hiện tại, dần dần trở nên kém hiệu quả theo thời gian. Tài trợ vốn bình phương và các cơ chế tương tự chính là về việc tài trợ hàng hóa công cộng theo cách trung lập đáng tin cậy và phi tập trung (về kiến trúc và chính trị) càng nhiều càng tốt.
Vấn đề thứ hai thách thức hơn. Một lời chỉ trích phổ biến đối với tài trợ vốn bình phương là nó nhanh chóng trở thành cuộc đua popularity, buộc các nhà tài trợ dự án phải bỏ nhiều công sức tuyên truyền công khai. Hơn nữa, các dự án "trước mắt mọi người" (ví dụ ứng dụng người dùng cuối) được tài trợ, trong khi các dự án ở hậu trường hơn (điển hình là "một phụ thuộc do một người ở Nebraska duy trì") thì hoàn toàn không nhận được gì. Tài trợ hồi tố lạc quan dựa vào số lượng chuyên gia giữ huy hiệu ít hơn; ở đây, hiệu ứng cuộc đua popularity giảm, nhưng hiệu ứng xã hội từ mối quan hệ cá nhân gần gũi với người giữ huy hiệu lại được khuếch đại.
Tài trợ vốn sâu là nỗ lực mới nhất của tôi để giải quyết vấn đề này. Tài trợ vốn sâu có hai đổi mới chính:
-
Biểu đồ phụ thuộc. Chúng ta không hỏi mỗi thành viên bồi thẩm đoàn một câu hỏi toàn cầu ("giá trị của dự án A đối với nhân loại là gì?"), mà hỏi một câu hỏi cục bộ ("dự án A hay dự án B có giá trị hơn đối với kết quả C? Hơn bao nhiêu?"). Con người nổi tiếng kém trong việc trả lời các câu hỏi toàn cầu: trong một nghiên cứu nổi tiếng, khi được hỏi họ sẵn sàng chi bao nhiêu để cứu N con chim, người được hỏi trả lời khoảng 80 đô la cho N = 2000, N = 20000 và N = 200000. Các câu hỏi cục bộ dễ xử lý hơn. Sau đó, chúng ta kết hợp các câu trả lời cục bộ thành câu trả lời toàn cầu bằng cách duy trì một "biểu đồ phụ thuộc": với mỗi dự án, những dự án nào khác đã đóng góp vào thành công của nó, và đóng góp bao nhiêu?
-
AI như phán đoán con người được tinh luyện. Mỗi thành viên bồi thẩm đoàn chỉ được giao một mẫu ngẫu nhiên nhỏ các câu hỏi. Có một cuộc thi mở, bất kỳ ai cũng có thể nộp mô hình AI nhằm hiệu quả điền đầy tất cả các cạnh trong biểu đồ. Câu trả lời cuối cùng là tổng trọng số của mô hình tương thích nhất với câu trả lời bồi thẩm đoàn. Xem ví dụ mã nguồn tại đây. Cách tiếp cận này cho phép cơ chế mở rộng quy mô rất lớn, trong khi yêu cầu bồi thẩm đoàn chỉ gửi một lượng "bit thông tin" nhỏ. Điều này giảm cơ hội tham nhũng và đảm bảo mỗi bit thông tin đều chất lượng cao: thành viên bồi thẩm đoàn có thể dành nhiều thời gian suy nghĩ cho mỗi câu hỏi, thay vì click nhanh qua hàng trăm câu hỏi. Bằng cách sử dụng cuộc thi mở cho AI, chúng ta giảm thiên kiến từ bất kỳ quá trình đào tạo và quản lý AI đơn lẻ nào. Thị trường AI mở làm động cơ, con người làm vô lăng.
Nhưng tài trợ vốn sâu chỉ là ví dụ mới nhất; trước đó đã có các ý tưởng về cơ chế tài trợ hàng hóa công cộng, và trong tương lai sẽ có thêm nhiều hơn nữa. allo.expert làm rất tốt trong việc lưu trữ chúng. Mục tiêu cốt lõi là tạo ra một công cụ xã hội có thể tài trợ hàng hóa công cộng với độ chính xác, công bằng và tiếp cận mở ít nhất gần bằng mức thị trường tài trợ hàng hóa tư nhân. Nó không cần hoàn hảo; dù sao, bản thân thị trường cũng xa mới hoàn hảo. Nhưng nó nên đủ hiệu quả để các nhà phát triển làm việc trên các dự án nguồn mở chất lượng cao có lợi cho mọi người có thể tiếp tục làm điều đó, mà không cảm thấy cần phải đưa ra những thỏa hiệp không thể chấp nhận.
Ngày nay, hầu hết các dự án hàng đầu trong các lĩnh vực chủ đề d/acc: vắc-xin, giao diện não - máy, các "giao diện não - máy biên" như cơ điện cổ tay và theo dõi chuyển động mắt, thuốc chống lão hóa, phần cứng, v.v., đều là các dự án độc quyền. Điều này có nhiều nhược điểm lớn trong việc đảm bảo niềm tin công chúng, như chúng ta đã thấy trong nhiều lĩnh vực nêu trên. Nó cũng chuyển hướng sự chú ý sang động lực cạnh tranh ("đội của chúng ta phải thắng trong ngành then chốt này!"), thay vì tập trung vào mục tiêu cạnh tranh lớn hơn là đảm bảo các công nghệ này xuất hiện đủ nhanh để bảo vệ chúng ta trong thế giới của siêu trí tuệ nhân tạo. Vì những lý do này, việc tài trợ hàng hóa công cộng mạnh mẽ có thể trở thành người thúc đẩy mạnh mẽ cho tính minh bạch và tự do. Đây là một cách khác mà cộng đồng tiền mã hóa có thể giúp d/acc: bằng cách nỗ lực nghiêm túc khám phá các cơ chế tài trợ này, và làm cho chúng hoạt động tốt trong bối cảnh của chính mình, để chuẩn bị cho việc áp dụng rộng rãi hơn trong khoa học và công nghệ nguồn mở.
Tương lai
Những thập kỷ tới mang lại những thách thức quan trọng. Gần đây tôi đang suy nghĩ về hai thách thức:
-
Một làn sóng công nghệ mạnh mẽ mới, đặc biệt là trí tuệ nhân tạo mạnh, đang đến rất nhanh, đi kèm với những cái bẫy quan trọng mà chúng ta cần tránh. "Siêu trí tuệ nhân tạo" có thể cần năm năm để đến, hoặc có thể cần năm mươi năm. Dù là trường hợp nào, kết quả mặc định có tự động tích cực hay không vẫn chưa rõ ràng, như đã mô tả trong bài viết này và bài trước, có nhiều cái bẫy cần tránh.
-
Thế giới đang trở nên ngày càng kém hợp tác. Nhiều tác nhân mạnh trước đây dường như ít nhất đôi khi hành động dựa trên các nguyên tắc cao cả (chủ nghĩa thế giới, tự do, nhân tính chung...), giờ đây đang theo đuổi lợi ích cá nhân hoặc bộ tộc một cách công khai và tích cực hơn.
Tuy nhiên, mỗi thách thức này đều có một tia hy vọng. Thứ nhất, hiện tại chúng ta có những công cụ rất mạnh để hoàn thành nốt phần việc còn lại nhanh hơn:
-
AI hiện tại và trong tương lai gần có thể được dùng để xây dựng các công nghệ khác, và có thể đóng vai trò trong quản trị (như trong tài trợ vốn sâu hoặc tài chính thông tin). Nó cũng rất liên quan đến giao diện não - máy, bản thân giao diện này có thể mang lại sự gia tăng năng suất tiếp theo.
-
Việc phối hợp quy mô lớn hiện tại có thể xảy ra ở quy mô lớn hơn trước đây. Internet và mạng xã hội mở rộng phạm vi phối hợp, tài chính toàn cầu (bao gồm tiền mã hóa) tăng cường sức mạnh của nó, hiện tại các công cụ phòng thủ thông tin và hợp tác có thể nâng cao chất lượng của nó, và có lẽ sớm thôi giao diện não - máy dưới dạng người - máy - người có thể tăng độ sâu của nó.
-
Các công nghệ như xác minh hình thức, công nghệ sandbox (trình duyệt web, Docker, Qubes, GrapheneOS, v.v.), mô-đun phần cứng an toàn và các công nghệ khác đang được cải thiện, giúp an ninh mạng tốt hơn trở nên khả thi.
-
Việc viết bất kỳ loại phần mềm nào đều dễ hơn rất nhiều so với hai năm trước.
-
Những nghiên cứu cơ bản gần đây về việc hiểu virus hoạt động như thế nào, đặc biệt là việc đơn giản hiểu rằng hình thức lây lan quan trọng nhất là qua không khí, đã vạch ra con đường rõ ràng hơn về cách cải thiện phòng thủ sinh học.
-
Những tiến bộ mới nhất trong công nghệ sinh học (ví dụ CRISPR, tiến bộ trong hình ảnh sinh học) khiến mọi loại công nghệ sinh học, dù để phòng thủ, trường thọ, siêu hạnh phúc, khám phá nhiều giả thuyết sinh học mới, hay đơn giản là làm những việc rất ngầu, đều dễ tiếp cận hơn.
-
Sự tiến bộ đồng thời trong tính toán và công nghệ sinh học đang khiến các công cụ sinh học tổng hợp trở nên khả thi, bạn có thể dùng chúng để thích nghi, giám sát và cải thiện sức khỏe của mình. Các công nghệ phòng thủ mạng như mật mã học khiến chiều hướng cá nhân hóa này khả thi hơn.
Thứ hai, hiện tại nhiều nguyên tắc mà chúng ta trân trọng không còn bị chiếm giữ bởi một vài bộ phận cụ thể của các lực lượng cũ, chúng có thể được giành lại bởi một liên minh rộng rãi chào đón bất kỳ ai trên thế giới tham gia. Đây có thể là lợi ích lớn nhất của sự "sắp xếp lại" chính trị gần đây trên khắp thế giới, và xứng đáng được tận dụng. Tiền mã hóa đã tận dụng điều này một cách xuất sắc và tìm thấy sức hút toàn cầu; d/acc cũng có thể làm được điều tương tự.
Việc tiếp cận công cụ có nghĩa là chúng ta có thể thích nghi và cải thiện đặc điểm sinh học và môi trường của mình, và phần "phòng thủ" trong d/acc có nghĩa là chúng ta có thể làm điều đó mà không xâm phạm quyền tự do của người khác để làm điều tương tự. Nguyên tắc tự do đa nguyên nghĩa là chúng ta có thể đa dạng rất lớn trong cách làm điều đó, và cam kết của chúng ta với các mục tiêu nhân loại chung nghĩa là nó nên được thực hiện.
Chúng ta, loài người, vẫn là ngôi sao rực rỡ nhất. Nhiệm vụ trước mắt chúng ta — xây dựng một thế kỷ 21 tươi sáng hơn, bảo vệ sự tồn tại, tự do và năng lực hành động của con người trong hành trình tiến tới các vì sao — là một nhiệm vụ đầy thách thức. Nhưng tôi tin rằng chúng ta có thể hoàn thành nó
Chào mừng tham gia cộng đồng chính thức TechFlow
Nhóm Telegram:https://t.me/TechFlowDaily
Tài khoản Twitter chính thức:https://x.com/TechFlowPost
Tài khoản Twitter tiếng Anh:https://x.com/BlockFlow_News
@VitalikButerin
