Cuộc chiến tranh giành kể chuyện: Đừng tập trung vào những tranh luận cực đoan, hãy tập trung vào bản thân câu chuyện

Tác giả: Packy

Biên dịch: TechFlow

Trong khoảng một năm trở lại đây, một trong những thay đổi lớn nhất trong cách tôi nhìn nhận thế giới là xem các cuộc tranh luận ý thức hệ như một trò chơi kéo co về mặt câu chuyện.

Với mỗi câu chuyện, luôn tồn tại một câu chuyện ngược lại tương đương, và điều này gần như là chắc chắn.

Một bên cố gắng kéo về cực đoan, trong khi bên kia kéo ngược lại vị trí của mình.

Ví dụ: Trí tuệ nhân tạo sẽ hủy diệt tất cả chúng ta ←→ Trí tuệ nhân tạo sẽ cứu rỗi thế giới.

Ban đầu chỉ là một bất đồng nhỏ, cuối cùng bị khuếch đại thành hai thế giới quan hoàn toàn đối lập. Ban đầu là một cuộc trao đổi tinh tế, rồi biến thành khẩu hiệu. Những người ban đầu là đối thủ cuối cùng trở thành kẻ thù.

Nếu bạn tập trung vào các cực đoan, vào những đội đang kéo dây, bạn dễ cảm thấy phấn khích. Dĩ nhiên, cũng rất dễ để chỉ trích từng lời họ nói và vạch ra mọi điều họ bỏ qua hoặc phớt lờ.

Nhưng tôi muốn nói rằng, đừng làm vậy, hãy tập trung vào nút ở giữa sợi dây.

Khi mỗi bên cố kéo nút về phía mình, nó di chuyển qua lại — và chính điểm đó là thứ đáng chú ý nhất.

Với họ, đó là cuộc chiến ý tưởng; với chúng ta, đó là nơi sinh ra cái mới.

Có một khái niệm gọi là Cửa sổ Overton (Overton Window): khoảng các chính sách mà phần lớn người dân có thể chấp nhận về mặt chính trị trong một giai đoạn nhất định.

Kể từ khi Joseph Overton đề xuất khái niệm này vào giữa những năm 1990, nó đã vượt ra ngoài phạm vi chính sách chính phủ. Hiện nay, nó được dùng để mô tả cách các ý tưởng xâm nhập vào cuộc đối thoại chủ lưu, từ đó ảnh hưởng đến dư luận công chúng, chuẩn mực xã hội và thực hành thể chế.

Cửa sổ Overton chính là nút thắt trong trò kéo co về câu chuyện. Những đội kéo dây ở hai bên thực ra không mong đợi mọi người đều đồng ý và áp dụng ý tưởng của họ; họ chỉ cần kéo đủ mạnh để Cửa sổ Overton dịch chuyển theo hướng của họ.

Một cách hiểu khác giống như kỹ thuật neo giá (price anchoring), khi một công ty đưa ra nhiều mức giá, biết rằng bạn sẽ chọn mức giá ở giữa.

Không ai mong bạn trả 7.000 đô la cho phiên bản siêu chuyên nghiệp. Họ chỉ biết rằng bằng cách cho bạn thấy mức giá đó, bạn sẽ dễ dàng chấp nhận trả 69 đô la cho phiên bản chuyên nghiệp.

Câu chuyện cũng vậy, nhưng thay vì một công ty cố tình đặt giá để tối đa hóa khả năng bạn mua phiên bản chuyên nghiệp, thì ở đây là những nhóm độc lập và đối lập nhau, cố gắng tìm cách kéo nút đủ mạnh để đưa nó trở về vị trí mà họ cho là chấp nhận được. Khi bạn nghĩ theo hướng này, đó chính là phép màu văn hóa.

Tôi có thể minh họa ý tưởng này bằng nhiều ví dụ: công nghệ. Cụ thể hơn, là chống tăng trưởng và tăng trưởng, hay EA và e/acc.

EA và e/acc

Một trong những cuộc tranh luận lớn nhất trong lĩnh vực của tôi (bùng phát ra thế giới trong sự kiện OpenAI tháng này) là giữa Chủ nghĩa vị lợi hiệu quả (Effective Altruism - EA) và Chủ nghĩa tăng tốc hiệu quả (effective accelerationism - e/acc).

Đây là biểu hiện mới nhất của cuộc đấu tranh lâu dài giữa những người tin rằng chúng ta nên tiếp tục tăng trưởng và những người không tin điều đó, đồng thời là một ví dụ hoàn hảo về việc khám phá sâu sắc thông qua trò kéo co về câu chuyện.

Nếu bạn xem xét riêng từng phía, cả hai quan điểm đều dường như cực đoan.

EA (tôi dùng để chỉ nhóm rủi ro AI) cho rằng trí tuệ nhân tạo có khả năng rất cao sẽ hủy diệt tất cả chúng ta. Khi xem xét rằng hàng nghìn tỷ con người sẽ sống trong hàng ngàn năm tới, ngay cả khi xác suất AI hủy diệt chúng ta là 1%, ngăn chặn điều này xảy ra cũng có thể cứu sống hàng chục hoặc hàng trăm tỷ mạng người. Chúng ta cần ngừng phát triển AI trước khi đạt được trí tuệ nhân tạo tổng quát, bất kể giá nào.

Eliezer Yudkowsky, người dẫn đầu nhóm này, đã viết trên tạp chí Time:

Tắt tất cả các cụm GPU lớn. Ngừng mọi buổi huấn luyện quy mô lớn. Đặt giới hạn về sức mạnh tính toán mà bất kỳ ai được phép sử dụng khi huấn luyện hệ thống AI, và dần dần giảm giới hạn này trong vài năm tới để bù đắp cho các thuật toán huấn luyện hiệu quả hơn. Không cho phép ngoại lệ với chính phủ hay quân đội. Ngay lập tức đạt được thỏa thuận xuyên quốc gia để ngăn các hoạt động bị cấm chuyển sang nơi khác. Theo dõi mọi GPU được bán ra. Nếu phát hiện trung tâm dữ liệu,宁愿通过空袭摧毁.

Ý tưởng oanh tạc trung tâm dữ liệu để ngăn phát triển AI thực sự là điên rồ.

e/acc (tôi dùng để chỉ nhóm ủng hộ AI) cho rằng AI sẽ không giết chết tất cả chúng ta, và chúng ta nên làm mọi thứ để thúc đẩy nó. Họ tin rằng công nghệ là tốt, chủ nghĩa tư bản là tốt, và sự kết hợp của cả hai, cỗ máy công nghệ-tư bản, là "động cơ vĩnh cửu của sáng tạo vật chất, tăng trưởng và phồn vinh". Chúng ta cần bảo vệ cỗ máy công nghệ-tư bản bằng mọi giá.

Marc Andreessen, người ghi rõ “e/acc” trong tiểu sử Twitter của mình, gần đây đã viết Bản Tuyên ngôn Lạc quan Công nghệ, trong đó trình bày lập luận ủng hộ tiến bộ công nghệ. Một số đoạn đặc biệt làm phật lòng những người phản đối AI:

Chúng ta có kẻ thù.

Họ không phải là người xấu, nhưng họ có những suy nghĩ xấu.

Trong sáu mươi năm qua, xã hội chúng ta đã chịu ảnh hưởng bởi một phong trào phá hủy quy mô lớn, chống lại công nghệ và chống lại sự sống, xuất hiện dưới nhiều danh nghĩa như “rủi ro tồn tại”, “bền vững”, “ESG”, “mục tiêu phát triển bền vững”, “trách nhiệm xã hội”, “chủ nghĩa tư bản vì các bên liên quan”, “nguyên tắc phòng ngừa”, “tin cậy và an toàn”, “đạo đức công nghệ”, “quản lý rủi ro”, “giảm tăng trưởng”, “giới hạn của tăng trưởng”.

Phong trào phá hủy này dựa trên những tư tưởng xấu từ quá khứ — nhiều tư tưởng xác sống bắt nguồn từ chủ nghĩa cộng sản, vốn đã và đang là thảm họa.

Như nhiều nhà báo và blogger nhanh chóng chỉ ra, những điều mà hầu hết mọi người cho là tích cực — như tính bền vững, đạo đức và quản lý rủi ro — trong cuộc tranh luận này lại trông có vẻ phi lý.

Các nhà phê bình của cả hai bài viết đều bỏ qua một điểm: luận điểm của bất kỳ bên nào cũng không nên được tách khỏi bối cảnh. Sự tinh tế không nằm ở từng luận điểm cụ thể. Bạn kéo mạnh ở rìa để sự tinh tế xuất hiện ở giữa.

Mặc dù cả hai bên đều có những người cực đoan nhất — một bên yêu cầu tắt hoàn toàn AI, bên kia yêu cầu tăng trưởng công nghệ-tư bản không bị kiểm soát bởi bất kỳ nhóm nào (dù là chính phủ hay công ty) — nhưng điều thực sự diễn ra là một cuộc kéo co về câu chuyện.

EA muốn thấy AI được quy định và muốn trở thành người lập ra quy định. e/acc muốn thấy AI duy trì mở, không bị kiểm soát bởi bất kỳ nhóm nào, dù là chính phủ hay công ty.

Một bên thu hút sự chú ý bằng cách cảnh báo AI sẽ giết chết tất cả chúng ta, nhằm hù dọa công chúng và chính phủ ban hành quy định nhanh chóng; bên kia phản kéo bằng lập luận AI sẽ cứu rỗi thế giới, nhằm ngăn quy định được ban hành quá sớm, để mọi người có thể trực tiếp trải nghiệm lợi ích của nó.

Cá nhân tôi, không ngạc nhiên gì, tôi đứng về phía những người lạc quan về công nghệ. Nhưng điều đó không có nghĩa là tôi cho rằng công nghệ là thần dược, hoặc không có vấn đề thực sự cần giải quyết.

Nó có nghĩa là tôi tin rằng phát triển tốt hơn đình trệ, các vấn đề có giải pháp, lịch sử cho thấy tiến bộ công nghệ và chủ nghĩa tư bản đều nâng cao mức sống con người, và quy định xấu còn rủi ro hơn việc không có quy định.

Dù thế giới thay đổi dựa trên trò kéo co về câu chuyện, nhưng vẫn tồn tại sự thật. Những người bi quan — từ Malthus đến Ehrlich — đã sai, nhưng nỗi sợ lan rộng, do đó câu chuyện chủ lưu vẫn nghiêng về phản công nghệ. Điều thực sự đáng lo ngại là các quy định hạn chế có thể được thiết lập trước khi sự thật nổi lên.

Bởi vì vấn đề với trò chơi kéo co về câu chuyện là nó không phải một trò chơi công bằng.

Phía phản phát triển chỉ cần kéo đủ lâu để quy định được thiết lập. Một khi đã có, sẽ rất khó đảo ngược; thường thì quy định còn ngày càng siết chặt thêm. Việc sử dụng năng lượng hạt nhân trên khắp thế giới là một ví dụ điển hình.

Nếu họ có thể kéo nút dây qua vạch quy định, họ thắng — và trò chơi kết thúc.

Phía ủng hộ tăng trưởng phải tiếp tục kéo đủ lâu để sự thật có thể nổi lên giữa sự hỗn loạn do công nghệ mới mang lại, để các doanh nhân có thể xây dựng những sản phẩm chứng minh được tiềm năng, và để những người sáng tạo có thể đề xuất các giải pháp giải quyết vấn đề mà không làm chậm tiến độ.

Họ cần duy trì cuộc kéo co đủ lâu để tìm ra giải pháp ở giữa.

Vitalik Buterin, đồng sáng lập Ethereum, đã viết một bài có tên My techno-optimism, trong đó đề xuất một giải pháp: d/acc.

Anh ấy viết rằng chữ “d” có thể đại diện cho nhiều thứ; đặc biệt là phòng thủ, phi tập trung, dân chủ và phân biệt. Ý nghĩa là sử dụng công nghệ để phát triển AI theo cách phòng ngừa các vấn đề tiềm tàng, ưu tiên sự phồn vinh của con người.

Ở một phía, phong trào an toàn AI tuyên truyền bằng thông điệp “bạn nên dừng lại”.

Ở phía kia, e/acc nói: “Bạn đã là một anh hùng rồi, cứ tiếp tục như hiện tại.” Hãy tiến lên.

Vitalik đề xuất d/acc như một cách thứ ba, ở giữa:

Một thông điệp từ d/acc nói rằng “bạn nên xây dựng, và xây dựng những thứ có lợi cho bạn và sự phồn vinh của nhân loại, nhưng hãy chọn lọc và có ý thức hơn để đảm bảo rằng những gì bạn đang xây dựng thực sự giúp bạn và nhân loại phát triển thịnh vượng”.

Anh ấy cho rằng đây là một sự tổng hợp, có thể thu hút mọi người, bất kể triết lý của họ là gì (miễn là triết lý đó không phải là “kiểm soát công nghệ đến mức nghiền nát nó”).

Nếu không có EA và e/acc gây áp lực ở hai cực, có lẽ sẽ không có chỗ cho d/acc của Vitalik ở giữa. Các cực đoan tự thân thiếu tinh tế, nhưng chính nhờ vậy mà tạo ra không gian cho sự tinh tế xuất hiện ở giữa.

Nếu EA thắng, quy định sẽ ngăn chặn phát triển hoặc khiến nó tập trung vào một vài công ty, thì không gian đó sẽ không tồn tại. Nếu mục tiêu là quy định, thì sẽ không có giải pháp nào không liên quan đến quy định.

Nhưng nếu mục tiêu là sự phồn vinh của nhân loại, thì sẽ có rất nhiều không gian cho các giải pháp.

Mặc dù Vitalik rõ ràng không đồng ý với một số nội dung của e/acc, nhưng Marc Andreessen và Beff Jezos, người đồng sáng lập vô danh của e/acc, đều chia sẻ bài đăng của Vitalik. Điều này cho thấy họ quan tâm đến những giải pháp tốt hơn, chứ không phải chỉ là giải pháp của riêng họ.

Cho dù d/acc có phải là câu trả lời hay không, nó đều nắm bắt hoàn hảo mục đích của các cực đoan. Chỉ khi e/acc thiết lập ranh giới bên ngoài, thì các giải pháp liên quan đến việc hợp nhất con người và AI thông qua Neuralinks mới có thể được coi là hợp lý và ôn hòa.

Trong cuộc kéo co về câu chuyện này và những cuộc khác, các cực đoan đóng một vai trò nhất định, nhưng chúng không phải là mục đích. Với mỗi EA, luôn có một e/acc đối lập tương đương. Miễn là trò chơi còn tiếp diễn, các giải pháp có thể xuất hiện từ chính sự căng thẳng đó.

Một lần nữa, xin nhắc lại: đừng tập trung vào những người kéo dây ở hai đầu, hãy tập trung vào nút dây ở giữa.