Răn đe hạt nhân sẽ mất hiệu lực, các phòng thí nghiệm AI có thể bị quốc hữu hóa: 46 tuyên bố gây sốc về tương lai của một nhà nghiên cứu ẩn danh
Tuyển chọn TechFlowTuyển chọn TechFlow
Răn đe hạt nhân sẽ mất hiệu lực, các phòng thí nghiệm AI có thể bị quốc hữu hóa: 46 tuyên bố gây sốc về tương lai của một nhà nghiên cứu ẩn danh
"Mọi người đều đang dùng đường cong hiệu suất trong quá khứ để hiểu AI, nhưng bước nhảy vọt thực sự vẫn chưa đến, sản xuất thông minh có thể còn phải trải qua thêm bốn đến mười bậc độ lớn nữa."
Chuyên sâu báo cáo Web3Tác giả: bayeslord
Biên dịch: TechFlow
Lời dẫn từ TechFlow: bayeslord（@bayeslord）là một tài khoản ẩn danh nhưng có tầm ảnh hưởng trong cộng đồng AI × Crypto, không bán hàng, không đuổi theo xu hướng, mà chuyên sâu vào các lõi kỹ thuật như scaling law, độ sâu thuật toán.
Blogger này gần đây đã viết một danh sách 46 điểm, dự đoán về tương lai của công nghệ, AI và các công nghệ liên quan, cho rằng mọi người đang dùng đường cong hiệu suất trong quá khứ để hiểu AI, trong khi bước nhảy vọt thực sự chưa đến, sản xuất trí tuệ có thể còn chưa hoàn thành từ bốn đến mười bậc độ lớn.
Ông ấy bàn từ tăng tốc thuật toán đến robot, vốn, tầng lớp dưới đáy vĩnh viễn, cuối cùng đi đến điểm sắc bén nhất: Đảm bảo hủy diệt lẫn nhau (MAD) có thể thất bại, quân cảnh sẽ được tự động hóa, các phòng lab AI có thể bị quốc hữu hóa.
Bài đăng gốc đã gần 1 triệu lượt xem. Quan điểm tuy cực đoan, nhưng mỗi điểm tương đối tự nhất quán, đáng để độc giả phổ thông về công nghệ đọc qua.
Danh sách này dựa trên một chuỗi tweet tôi đăng ngày 4 tháng 6, đã có một số chỉnh sửa và bổ sung. Một vài người nói rằng bài gốc quá khó đọc, nên đã biên soạn thành phiên bản này.
Trí Tuệ
1. Tiến bộ thuật toán sẽ khiến tất cả mọi người措手不及. Toàn bộ thế giới——thị trường, chính phủ, quân đội, công ty, cá nhân——đang dùng hiệu suất sản xuất và các quy luật những năm gần đây để hiểu ảnh hưởng của AI, để phán đoán sự việc大概 sẽ diễn ra thế nào. Ngay cả những phòng lab mới号称 tin vào「cải tiến tự đệ quy」, cũng cho rằng đây chẳng qua là套路 cũ thêm một agent chạy trong vòng lặp. Không phải vậy. Tôi đoán trong chuyện sản xuất trí tuệ này, vẫn còn rất nhiều bậc độ lớn chưa走完, có lẽ lên đến mười, khả năng bốn đến bảy lớn hơn. Về nguyên tắc vượt quá mười cũng không phải không được, nhưng sẽ đâm sầm vào giới hạn mà tôi nghi ngờ là định luật vật lý thực sự cho phép. Không khả thi lắm, nhưng chưa bị loại trừ. Nếu phán đoán này成立, thì hướng đi thực sự của sự việc và hướng đi bề ngoài nhìn thấy sẽ không phải là một, một bước nhảy vọt lớn đang逼近. Bất cứ điều gì xảy ra theo hướng này, sẽ khiến thế giới trở nên kỳ quái hơn nhiều so với hầu hết mọi người định giá.
2. Chúng ta đang ở giai đoạn đầu của cất cánh. AI cải tiến AI, cuối cùng có thể trở thành bước đi có hậu quả nặng nề nhất trong lịch sử. Chuyện này không thể打包票, vì chúng ta không biết mình còn cách giới hạn vật lý và tính toán của trí tuệ bao xa,不过 tôi押注 còn rất xa（như đã nói ở trên, mỗi đơn vị sức mạnh tính toán vắt ra thêm 4 đến 10 bậc độ lớn đầu ra trí tuệ,看起来 là可能的）.
3. Đã vào giai đoạn cất cánh, nghiên cứu thuật toán đang tăng tốc. Sức mạnh tính toán vẫn là tài nguyên khan hiếm, nhưng chi phí cơ hội thời gian của nghiên cứu viên đã giảm xuống, vì bạn có thể trực tiếp phái một agent đi chạy bất kỳ任务 nào,哪怕是瞎折腾。Nó có thể mang về chút gì đó. Tất cả ý tưởng mới đều背负 một khoản「nợ tối ưu hóa」, giờ khoản nợ này có thể được trả bằng việc tiêu thụ token không giám sát. Hàng loạt đường cong scaling law nghiên cứu sẽ được走完 từng cái một.
4. Mô hình AI sẽ liên tục mạnh lên, đặc biệt là các mô hình tiên phong. Bức tường thực sự duy nhất là vật lý. Mô hình ngày càng tự chủ, ngày càng thông minh, và luôn đang tốt lên. Toán học và mã đang bị quy mô cộng với học tăng cường chinh phục, những thứ còn lại đều xếp hàng phía sau. Sự phân biệt giữa「có thể kiểm chứng」và「không thể kiểm chứng」như một ranh giới có ý nghĩa sẽ dần biến mất. Tiến về phía trước, nghiên cứu AI tự động hóa và học AI sẽ ngày càng giống nhau. Việc huấn luyện mô hình tốt, về bản chất liên quan chặt chẽ đến việc mô hình tự học tốt. Hiệu suất mẫu, sự sáng tạo, và tất cả các hạn chế khác sẽ được giải quyết, sau đó tiệm cận tối ưu thuật toán ở bất kỳ quy mô nào.
5. Ý tưởng cho rằng agent nhiệm vụ dài phải có dữ liệu huấn luyện dài tương đương là sai, vì sự tổng quát hóa tồn tại trong chiều thời gian. Nhiệm vụ dài không được tạo ra bởi thuộc tính「dài」chồng chất lên. Chuyện này liên quan đến sai lầm tích lũy lỗi (1-e)^n của LeCun. Điều thực sự xảy ra là sửa lỗi. Sửa lỗi diễn ra đồng thời trên nhiều quy mô, từ cấp độ sinh token đơn lẻ, đến từng bước trong nhiệm vụ dài. Biểu đồ METR đó之所以 đi lên, một phần là vì agent bắt đầu chạm đến tốc độ thoát của sửa lỗi.
6. Một môn khoa học học sâu cấp độ kỹ thuật sắp xuất hiện. Nó sẽ đẩy chúng ta đến thời kỳ chín muồi thuật toán của AI, tốc độ nhanh hơn nhiều so với hầu hết mọi người dự đoán——mặc dù như đã đề cập ở trên, về nguyên tắc con đường này能 đi xa đến đâu vẫn chưa rõ. Ví dụ, một môn khoa học nghiên cứu tính bất biến quy mô, sẽ nâng cao đáng kể quy mô và lợi回报 của các thí nghiệm hữu ích, vì một thí nghiệm trên một GPU có thể告诉 bạn cách dùng mười vạn cái.
7. Mỗi lĩnh vực hoạt động của con người công nghệ, sẽ có khoảnh khắc「nước đi thứ 37」của riêng mình（nước cờ vượt quá trực giác con người mà AlphaGo đi khi đối đầu với Lee Sedol）, rồi rất nhanh, chính「nước đi thứ 37」sẽ trở nên lỗi thời. Tôi nói là tất cả các lĩnh vực.
8. Sức mạnh tính toán sẽ liên tục tốt lên. Máy nhân ma trận tốt nhất hôm nay, còn cách xa giới hạn vật lý của bộ tăng tốc AI. Con đường silicon số vẫn còn nhiều không gian nâng cấp. Cũng có nhiều ứng viên chất nền mới, khoản nợ thuật toán mà chúng nợ sẽ bị tự động hóa vắt đến极限, nhưng chúng ta chưa biết đối với AI, cái tối ưu về không gian, năng lượng, thời gian, khả năng sản xuất, chi phí là gì. Quang học và silicon ngẫu nhiên đều là ứng viên thú vị, nhưng tôi cũng dự đoán chính điểm kỳ dị sẽ khiến người ta bất ngờ.
9. Phòng lab có thể领先 bao xa, một phần phụ thuộc vào lợi回报 của tự động hóa và quy mô, trong đó bao gồm lợi回报 mang lại từ độ sâu thuật toán sâu hơn. Nếu thực hành (và lý thuyết) của học sâu mãi mãi là nông, thì về dài hạn hào nước大概 sẽ không chủ yếu ở cấp độ thuật toán, vì bí mật tương đối dễ bị phát hiện. Cuối cùng, chưng cất cộng dữ liệu cộng thời gian có thể đuổi kịp quy mô sức mạnh tính toán, có thể chậm一点。Hiện tại nhìn chúng ta部分处在 trạng thái này, nhưng就算 thật vậy, cũng không ai đảm bảo nó sẽ mãi đi theo hướng này.
10. Nếu cùng với quy mô mở rộng, học sâu trở nên không còn nông nữa, thì mỗi phần增量 của tự động hóa và quy mô, sẽ đổi lấy cho bạn những bí mật thuật toán mà người khác ngày càng với không tới. Trạng thái này hiện tại nhìn chúng ta cũng部分 phù hợp. Điểm cuối của cả hai trường hợp đều là khi lợi回报 hiệu dụng biên bão hòa cùng với quy mô và nghiên cứu. Chúng ta không biết điểm đó ở đâu. Có thể cách hôm nay 2 bậc độ lớn, cũng có thể 20. Không ai biết.
Chuỗi Cung Ứng Trí Tuệ
11. Ít nhất vài năm tới, sức mạnh tính toán sẽ là tài nguyên bị tranh giành kịch liệt. Nhưng trong khoảng thời gian này nó sẽ bắt đầu hàng hóa hóa, chúng ta sẽ quay lại cười nhạo sự nghèo nàn của thập niên 2020. Quy mô đang mở rộng và có hiệu quả, vốn跟着 vào, quay bánh đà hết lần này đến lần khác. Nhiều máy nhân ma trận hơn, nhiều nhà máy晶圆 hơn, nhiều năng lượng hơn đang trên đường tới. Nút thắt của sản xuất trí tuệ là tạm thời. Không tính các chướng ngại kinh tế tiềm ẩn.
12. Tính chất của chuỗi cung ứng trí tuệ đang thay đổi. Hiện tại nó tập trung cao độ trong tay các phòng lab. Nhưng các phòng lab đang tự động hóa thứ cốt lõi khiến họ mạnh lên——nghiên cứu viên, và việc phát hiện lợi thế thuật toán. Một khi quá trình này bắt đầu, giả sử mã nguồn mở theo không quá xa, đặc biệt nếu các phòng lab không khóa chết mô hình nghiên viên AI, thì lợi thế của phòng lab sẽ chuyển sang gọi vốn dễ hơn, nhiều sức mạnh tính toán hơn, dữ liệu độc quyền, quan hệ thương mại và sản phẩm tốt. Điều này thực sự phụ thuộc vào vấn đề độ sâu thuật toán nói ở trên kết thúc thế nào, và một số yếu tố khác.
13. Huấn luyện phân tán sẽ giảm nhu cầu xây dựng quy mô lớn trung tâm dữ liệu đơn lẻ, mang lại một số lợi thế cho các nhà cung cấp không siêu quy mô. Tuy nhiên, ở chiều kích thuần túy là huấn luyện quy mô lớn nhất单次, nó sẽ không vượt quá các nhà cung cấp siêu quy mô.
14. Thí nghiệm AI tự động hóa sẽ khiến các bí mật thuật toán được phát hiện rộng rãi, vì những bí mật này về bản chất dễ phân phối hơn so với huấn luyện toàn kích thước. Con đường này能 đi xa đến đâu không rõ, nhưng tôi dự đoán khá xa. Như đã nói, độ sâu căn bản của học sâu vẫn chưa biết, cận trên của phán đoán này phụ thuộc vào điều chưa biết đó.
15. Mặc dù những lực lượng này bề ngoài có lợi cho giới học thuật và mã nguồn mở, chúng vẫn có thể co lại vì chi phí và chi phí cơ hội của sức mạnh tính toán. Ví dụ, GB300 đem đi phục vụ GLM5.2 hoặc Fable giá trị hơn, hay làm nghiên cứu không tiên phong trong một phòng lab học thuật nào đó, hoặc chế tạo Mythos 2 bên trong Anthropic giá trị hơn? Thị trường sẽ tính toán ra nơi nào nhu cầu lớn nhất, và hiện tại nhìn, nơi đó quả thực là phòng lab. Điều này có nghĩa là các phòng lab mã nguồn mở có thể càng khát sức mạnh tính toán hơn,就算 họ có tiền cũng vậy, với điều kiện họ chưa khóa trước产能 sức mạnh tính toán.就算 đã khóa, họ cũng phải tính toán chi phí cơ hội của việc tự làm nghiên cứu so với cho thuê sức mạnh tính toán. Tham khảo hợp tác giữa Colossus và Anthropic.
16. Trong môi trường mà năng lực AI bắt đầu trở nên kích thích (0 đến 18 tháng tới), mã nguồn mở ở cấp độ xã hội cũng có thể bắt đầu khó làm, đặc biệt nếu chúng ta tăng tốc an toàn chậm——cho đến nay quả thực rất chậm.
17. Khi vốn đổ vào các phòng lab, mã nguồn mở có thể bắt đầu co lại. Ở đây có một vấn đề phối hợp: ngoài các phòng lab (có lẽ cả chính phủ), không ai muốn một kẻ độc quyền token, nhưng nếu vấn đề này có thể giải quyết, môi trường quy định lại thân thiện, có lẽ kết quả vẫn ổn.
Robot
18. Robot sẽ có một khoảnh khắc tương tự ChatGPT tháng 11 năm 2022, rồi sau đó có một khoảnh khắc tương tự Opus 4.5 tháng 11 năm 2025. Cả hai đều chưa xảy ra, nhưng chúng sẽ đến, và sẽ nhanh hơn mọi người nghĩ, đây là kết quả của tiến bộ AI nhanh chóng, bao gồm cả kỹ thuật hệ thống vật lý tăng tốc AI. Khoảng cách giữa hai khoảnh khắc này của robot, nhìn có vẻ không phải là ba năm.
19. Tuy nhiên để thực sự堆 lên số lượng robot toàn thế giới về mặt vật lý, có lẽ phải đợi đến năm 2030 hoặc muộn hơn. Mặc dù chúng ta sản xuất khoảng 100 triệu xe mỗi năm, mà robot hình người nhỏ hơn xe nhiều. Xét rằng chúng ta còn sản xuất 1 tỷ điện thoại thông minh mỗi năm, nếu vốn và thuật toán chạy đủ nhanh, năm 2030 đạt mức độ 100 triệu robot mỗi năm là hợp lý. Mỗi năm 10 triệu cái chắc chắn làm được, thị trường drone chúng ta đang làm rồi. Chỉ cần phần mềm có thể chứng minh trên quy mô nhỏ rằng robot hình người đáng giá tiền này, là có thể đòn bẩy vốn vô hạn, lượng đòn bẩy tỷ lệ thuận với chất lượng chứng minh.
20. Những thứ hôm nay nhìn như giới hạn cứng của robot sẽ biến mất, bao gồm hiệu suất mẫu kém, dữ liệu tương đối khan hiếm, thiết kế phần cứng tay và motor vừa đắt vừa khó, độ phức tạp phân hình của thế giới vật lý, và cả những kiến thức ngầm chưa được ghi lại về cách chúng ta làm việc trong thế giới (như bộ nghề của thợ sửa ống nước). Mô hình thế giới nhìn có vẻ hữu ích, nhưng cụ thể là cái nào không quan trọng. Nghiên cứu scaling law sẽ được mài cho đến khi hiệu dụng giảm dần.
21. Nhu cầu toàn cầu đối với robot dễ dàng là hàng chục tỷ cái, đặc biệt nếu cộng tất cả các hình thái lại. Có quá nhiều việc chân tay đáng để tự động hóa. Thị trường sẽ tìm cách giải quyết chuyện này, và con người大概 sẽ không cản đường.
Tiến Bộ
22. Khoa học đang được tự động hóa, ảo hóa. Điều này có nghĩa là nhiều tiến bộ mà thế giới này cần, sẽ đến từ các phòng lab tự động hóa và mô phỏng. Chúng ta không biết giới hạn tính toán完整 của ảo hóa, nhưng các phòng lab điều khiển bởi robot trong các lĩnh vực như sinh học, khoa học vật liệu, sẽ tháo dỡ大量 nút thắt, trên đường đi còn đẩy cao ranh giới「ảo hóa đã kiểm chứng」, để nâng cao hiệu suất mẫu và lợi回报 ròng của「落地成真」. Về cơ bản trong mỗi lĩnh vực, chúng ta sẽ có một sự kết hợp nào đó của mô hình thần kinh, mô phỏng rõ ràng, thí nghiệm thế giới thực, cùng nhau nâng cao lợi回报 của mỗi đồng tiền, mỗi đơn vị thời gian trong các lĩnh vực như sinh học, khoa học vật liệu.
23. Định luật tiến bộ có ở khắp nơi. Trong học sâu chúng gọi là scaling law. Trên bất kỳ đường cong nào, rất khó phán đoán đường cong chữ S什么时候 bão hòa, cũng rất khó phán đoán phía bên kia chân trời có đường cong chữ S mới hay không. Điều cần hiểu ở đây là, bản thân cỗ máy tiến bộ văn minh cũng có một định luật tiến bộ. Tiến bộ của chúng ta rất có thể là loại bão hòa, giống như hầu hết các quá trình tự nhiên, nhưng chúng ta thực sự không biết bão hòa xảy ra ở đâu. Thời kỳ chín muồi của công nghệ và văn minh có thể rất gần, cũng có thể rất xa. Chúng ta đang ở một节点 lịch sử như thế này: một là chúng ta hầu như chưa đầu tư gì vào tiến bộ, nhưng điểm này đang thay đổi rất nhanh; hai là chúng ta đang tự động hóa cỗ máy trực tiếp sản xuất ra nhiều tiến bộ hơn. Chúng ta đang sống trong một thời đại thú vị.
24. Tương lai quy mô hướng lên hay quy mô hướng ra. Từ không đến một hay từ một đến n. Vũ trụ cho phép chúng ta đạt được bao nhiêu tiến bộ về chiều rộng và chiều sâu, là một vấn đề mở. Chiều rộng dễ ước tính hơn, vì nó đại khái là「từ giờ trở đi, định luật vật lý còn cho phép chúng ta làm bao nhiêu bước tính toán？」. Còn phép tính đó có thể「sâu」đến mức nào——theo nghĩa rộng nhất của từ này——là chưa biết. Trong một số phiên bản tương lai, cây công nghệ sâu đến không tưởng, vũ trụ tính toán có thể tiếp cận giàu có đến mức chúng ta sẽ mãi phát minh, mãi phát hiện, cho đến khi vật lý cản chúng ta, nếu nó cản được. Một số phiên bản khác bằng phẳng hơn: chúng ta很快 điểm满 một cây công nghệ khá nông, tương đối dễ dàng đạt đến thời kỳ chín muồi công nghệ, rồi mở rộng nó theo quy mô, cho đến khi hài lòng hoặc vật lý cản đường.
Vốn và Sản Xuất
25. Nhiều vốn cộng nhiều trí tuệ, nghĩa là một chủ nghĩa tư bản được tăng cường mạnh hơn, nghĩa là chúng ta lao nhanh hơn đến cân bằng thị trường. Về dài hạn điều này tự nhiên nên dẫn đến giảm phát, dẫn đến hầu hết hàng hóa quan trọng cạnh tranh đến gần chi phí biên bằng không, bao gồm AI, thực phẩm, nhà ở, y dược, sản phẩm điện tử, giải trí và du lịch. Với điều kiện chúng ta không để người cản đường. Một số trường hợp họ大概 sẽ cản.
26. Khai mỏ sẽ được tự động hóa. Vận tải biển đất không sẽ được tự động hóa. Nhà máy sẽ được tự động hóa. Công nhân sẽ được tự động hóa. Trung tâm phân phối sẽ được tự động hóa. Toàn bộ chuỗi cung ứng bảo trì, cải tiến và mở rộng sẽ được tự động hóa.
27. Sẽ có con người giữ được việc làm, giữ rất lâu rất lâu. Tỷ lệ这部分人 chiếm nhân loại là bao nhiêu, là một vấn đề mở. Người nói con số này sẽ rất cao quá tự tin, người nói con số này sẽ bằng không cũng vậy. Tuy nhiên thực sự khó tưởng tượng, trong phần「tri thức」của công việc tri thức, con người còn có thể đóng góp ở biên được bao lâu. Một số nhu cầu, như bác sĩ, có thể giảm mạnh——nếu chúng ta có bác sĩ AI siêu nhân 20 đô một tháng, cộng với kiểm tra theo nhu cầu, cộng với cải thiện sức khỏe lớn nhờ tiến bộ công nghệ y tế. Nhưng vì chúng ta hiện tại đã cartel hóa bác sĩ, chúng ta có thể tiếp tục làm vậy, làm bác sĩ vẫn sẽ là một nghề tốt. Nhu cầu giải trí大概 sẽ tăng, nhưng chi phí sản xuất sẽ giảm, nhu cầu kỹ thuật của giải trí đối với con người vốn đã giảm mạnh. Tuy nhiên chúng ta rất quan tâm đến con người khác, nên có lẽ chúng ta sẽ tiếp tục quan tâm họ, làm diễn viên sẽ trở nên kiếm tiền hơn. Có một思路 có thể giúp bạn nghĩ清楚 chuyện này diễn biến thế nào: từ một người lao động đến người tiêu dùng hôm nay, trong chuỗi cung ứng cách nhau bao nhiêu lớp trung gian. Đối với một influencer TikTok, không lớp. Đối với một bác sĩ, không lớp. Đối với một công nhân nhà máy, nhiều lớp. Một công việc có thể bị去中介化 hay không, có thể bị cạnh tranh đào thải hay không, có thể thay thế hay không,大概 sẽ quyết định lớn kết cục của nó. Bộ phân tích này khá tinh tế, đoạn này远远 nói không透彻, nhưng cuối cùng phải nhắc一句: tất cả tiền đề của chuyện này là chúng ta không gặp sự sụp đổ kiểu vực thẳm ở phía cầu——nếu quá nhiều người không làm việc, mà năng suất hoặc hiệu quả chính phủ lại không chống đỡ nổi thu nhập cơ bản toàn dân hoặc y tế cơ bản toàn dân, sự sụp đổ đó có thể xảy ra.
28. Liên quan đến mấy điểm trên nhưng không mâu thuẫn:「tầng lớp dưới đáy vĩnh viễn」có thể thực sự tồn tại. Trong những thế giới tốt hơn mà nó thành hiện thực, nó nhìn giống như năng lực chủ động bị hạn chế cao độ, hơn là thu nhập bị hại thảm. Đối với hầu hết mọi người cuối cùng điều này có thể chấp nhận được, năng lực chủ động của chúng ta早就 bị xã hội hiện đại hạn chế cao độ, nhưng nó cần sự thích ứng tâm lý, điều này có thể mất thời gian, cũng có thể rất đau khổ.
Văn Hóa và Tâm Lý
29. Tâm trí con người hiện tại trưởng thành và thích ứng rất chậm, nhưng điều này sẽ thay đổi. Chìa khóa là thay đổi theo hướng tốt, đối với một số người điều này không dễ. Trí tuệ và tự động hóa dồi dào sẽ cho phép chúng ta kỹ thuật hóa các cấu trúc tâm lý bền vững hơn nhiều so với hôm nay——bộ hôm nay là di sản tiến hóa không phù hợp với môi trường của chúng ta. Tâm thần học và tâm lý học sẽ trong vòng không quá vài thập kỷ, đi hết một nghìn năm đổi mới. Con người sẽ về cơ bản tốt lên. Cảm giác「kết nối sướng感」thô sơ, sa đọa bị đánh giá quá cao thành rủi ro, vì chúng ta sẽ có kỹ thuật tâm trí tinh tế hơn, đa dạng hơn để dùng.
30. Trong một thế giới cực kỳ không chắc chắn, con người sẽ tranh giành quyền lực, địa vị,财富 hung hãn hơn bất kỳ lúc nào trước đây, trong quá trình sẽ心安理得 phản bội đồng loại. Họ sẽ phát minh各种 lý do để nói hành vi của mình là tốt, thậm chí là vĩ đại. Nhìn xung quanh đi.
31. Bạn sẽ sống để thấy sự尴尬 mà bạn không thể tin nổi.
32. Hiện đang diễn ra một kiểu ngôn ngữ kép rõ rệt: những người sắp, hoặc đã là 0.01% giàu nhất, một mặt nói AI sẽ造福 mọi người, đừng lo việc làm, mặt khác又不肯 từ bỏ财富 của mình, để làm một thành viên ngẫu nhiên trên trái đất, thậm chí là ở Mỹ, bất kỳ thời hạn nào là một năm, năm năm hay hai mươi năm. Mọi người nhìn thấy điểm này, đã bắt đầu phản ứng. Nói rõ, tôi cũng sẽ không từ bỏ vị trí của mình, nhưng tôi cũng không nói mọi thứ sẽ hoàn hảo (tôi cũng không phải 0.01% giàu nhất). Kết quả là, chúng ta có rủi ro xây dựng một thế giới bất công. Một số người quan tâm đến điều này, tôi nghĩ chuyện này nên được thảo luận thường xuyên hơn. Và nói thẳng nữa, chính trị Mỹ xử lý这类 vấn đề的方式烂透了.
33. Elon nhìn rất có thể trở thành tỷ phú千万亿 đầu tiên. Nói rộng, không khó tưởng tượng nhu cầu chip, robot, tàu vũ trụ còn tăng hơn nghìn lần so với hiện tại, mà trong đó một khối lớn ông ấy大概 có thể ăn xuống.
Phối Hợp
34. Xã hội ở các quy mô đều cần phối hợp tốt hơn, điểm này rất rõ. Với hiểu biết hiện tại của chúng ta về phối hợp, nó có điểm yếu cũng có rủi ro, nhưng rất có thể chúng ta连 bề mặt của nó còn chưa刮到. Liệu sẽ có một nhân vật cấp độ Satoshi,来干掉 Moloch（tượng trưng cho cạnh tranh ác tính mà mọi người bị buộc tham gia, không ai có thể rút lui）?
35. Làm một số phối hợp quốc tế về AI,大概 là một ý hay. Chúng ta có lẽ sẽ muốn hiệp ước và đếm GPU. Bộ đồ này có thể thiết kế thành: một là làm chậm sự tích lũy đối kháng kiểu xoắn ốc tăng lên của quyền lực quân sự và chính phủ, hai là giảm thiểu ảnh hưởng đến khoa học và các lĩnh vực tiến bộ quan trọng khác. Chúng ta có thể không có được cái này, vì GPU quá普遍 mạnh mẽ. Về vũ khí hạt nhân chúng ta làm được, là vì ngoài kẻ điên không ai thực sự muốn dùng bom hạt nhân.
36. Một lần tạm dừng hoặc giảm tốc phối hợp phòng lab AI, hiện tại nhìn có vẻ khả thi hơn năm 2023. Ở đây cân nhắc nhiều, nhưng tôi nghĩ giá trị có thể tranh luận của việc tạm dừng, hôm nay cao hơn chút so với 2023. Luận điểm「tạm dừng sẽ bị lãng phí」khó đứng vững hơn, vì chúng ta đã có nghiên cứu tự động hóa——mặc dù chưa hoàn toàn có（chúng ta có là kỹ thuật tự động hóa）. Nói thật, cá nhân tôi hiện tại không ủng hộ tạm dừng, chủ yếu là vì nó sẽ ngắt quá nhiều phần khác trên sợi dây đi qua điểm kỳ dị, trong cây công nghệ có thể藏着 rồng, mà đối thủ là có thật.
Quyền Lực, Bạo Lực, An Ninh, Tự Do
37. Tôi rất tiếc告诉 bạn, vũ trụ của chúng ta có thể dễ tổn thương theo nghĩa Bostrom（giả thuyết thế giới dễ tổn thương của triết gia Bostrom: tiến bộ công nghệ có thể掏出某种 một khi被 phát hiện là đủ để hủy diệt văn minh）. Có khả năng thế giới hiện tại tồn tại một số độ tự do, chúng ta không thể trong khi giữ bộ quy chuẩn quản trị và tự do đó（bộ quy chuẩn này đối với chân lý thế giới của chúng ta là đầy đủ, ngoài nhà tù toàn cảnh）, đồng thời phối hợp nhanh kiểm soát chúng. Chú ý trong thế giới như vậy, tích lũy quyền lực là một dốc trượt. Nhiều thế giới loại này cuối cùng đối với hầu hết mọi người đều rất tệ. Giá mà điều này không thật thì tốt, nhưng nó có thể là thật.
38. Lan truyền AI sẽ xảy ra với một tốc độ lớn hơn không, bất kể có bao nhiêu yếu tố giới hạn tốc độ tiềm ẩn. Trên thế giới có quá nhiều máy tính, mà tỷ giá hối đoái FLOP đổi trí tuệ đang ở điểm thấp nhất trong lịch sử. Đừng cược chuyện sẽ陷入 đình trệ.
39.Khái niệm「tầng lớp dưới đáy vĩnh viễn」, ẩn含着 sự tồn tại của「tầng lớp trên đỉnh vĩnh viễn」. Điều này预设 một nhóm người vì một lý do tương đối không chính đáng nào đó,拥有 nhiều quyền hơn. Lý do này归根到底 mãi mãi là ngầm hoặc đã兑现, do bạo lực hỗ trợ thống trị. Nhưng có lẽ một thế giới có AI tiên tiến, là một thế giới con người không còn lý do chính đáng để thống trị, không có bất kỳ năng lực hoặc địa vị nào được công nhận vượt quá con người khác. Điều này mãi mãi không 100% thành hiện thực, nhưng nó có thể trở nên ngày càng quan trọng, đáng để nghĩ. Tôi nghi ngờ trong thực tiễn, lập luận cấp độ đạo đức và lập luận cấp độ thực dụng sẽ phân nhánh khá厉害, có lẽ như vậy反倒 đúng.
40. Các lực lượng đủ hướng đều sẽ逼 cơ quan chuyển đổi, và những lực lượng này có thể dẫn đến bạo chính. Con đường đến đó có nhiều, một số打着 cờ hiệu an ninh, một số là sự lan rộng quyền lực lành tính——trần nhà là AI mạnh cộng chuỗi cung ứng quân sự hoàn toàn tự động cộng vũ khí hoàn toàn tự động. Chúng ta cần các cơ quan tốt hơn.
41. Bên ngoài có thể có大量 lỗ hổng zero-day. Trong các lĩnh vực mạng, sinh học, cơ sở hạ tầng, thần kinh, meme, vật lý. Chúng ta根本不 hiểu lợi回报 của độ sâu thuật toán và tính nhất quán trong các lĩnh vực này,无论是 phía phòng thủ và robustness, hay phía phá hoại. Độ sâu thuật toán của vũ khí hạt nhân, đối với con người thông minh nhất thế giới không phải là với không tới. Ngày mai máy móc của chúng ta sẽ với tới cấp tiếp theo, rồi cấp tiếp theo. Hiện tại chúng ta biết一点 về tỷ lệ thảm họa ngẫu nhiên loại rất nông về thuật toán, còn đối với chuyện sẽ xảy ra trong một văn minh rất sâu về thuật toán, hầu như一无所知.
42. Một câu liên quan: trong cây công nghệ có thể có một số thứ thực sự tệ hại. Chúng ta thực sự không biết.
43. Năng lực robot quy mô hóa, mang lại rủi ro tiếp quản và đảo chính式 thực sự, vượt qua mô hình máy tính thuần túy, cũng mang lại những thứ bình thường hơn, như bề mặt mới và vector mới của tấn công mạng. Chúng ta nên nghiêm túc đối đãi những rủi ro này, nỗ lực giảm thiểu chúng.
44. Đảm bảo hủy diệt lẫn nhau建立在 công nghệ thế kỷ 20 và đầu thế kỷ 21. Chúng ta sẽ trải qua biến đổi công nghệ急剧, có thể là biến đổi khối lượng một nghìn năm nén trong thời gian rất ngắn. Điều này có nghĩa MAD không phải đương nhiên. Vấn đề này có thể giải quyết, nhưng vừa không hoàn toàn xác định, cũng không phải lật đổ sạch sẽ, vì để có được lợi thế quyết định, tỷ lệ dung sai cực thấp, có thể根本 không khả thi. Quá khứ một số người dùng cách khá không nghiêm túc đề cập chủ đề này, tôi nghĩ đó là sai, cũng là vô trách nhiệm. Đây là một trong những chủ đề nghiêm túc nhất chúng ta có thể thảo luận. Mọi người cảm thấy căng thẳng về nó là đúng, nhưng tôi nghĩ đã đến lúc nói rồi.
45. Quân đội, cảnh sát, và các cơ chế thực thi pháp luật chính của chính phủ, đều sẽ được tự động hóa, và thông minh hơn con người. Bạn tự看着办怎么 hiểu.
46. Cuối cùng: Các phòng lab AI cuối cùng có thể bị quốc hữu hóa theo nghĩa mạnh. Theo tôi, thể chế Mỹ thực ra không太 tương thích với cái này, nhưng con đường đến quốc hữu hóa có nhiều条, trong môi trường chính trị bảo thủ hoặc tự do, nhìn đều không bị vùng cấm chặn chết. Về nguyên tắc, phòng lab dường như có thể ở backend phối hợp với quân đội, bộ phận tình báo, mà không cần phô trương hơn tư thế đã bày ra hiện tại. Chính phủ liên bang sở hữu loại quyền lực đơn phương mà chúng ta nói, cũng cực kỳ nguy hiểm. Công ty tư nhân sở hữu loại quyền lực này là chuyện khác, vì chúng thường không trực tiếp thực thi bạo lực, về pháp luật cũng không được phép. Tôi không太 thích quốc hữu hóa, nhưng thế giới này khiến người ta困惑, và nhìn đang trở nên ngày càng hung hiểm.
Chào mừng tham gia cộng đồng chính thức TechFlow
Nhóm Telegram:https://t.me/TechFlowDaily
Tài khoản Twitter chính thức:https://x.com/TechFlowPost
Tài khoản Twitter tiếng Anh:https://x.com/BlockFlow_News
@bayeslord
