Các nhà đoạt giải Turing lo lắng sẽ trở thành "Oppenheimer của giới AI"
Tuyển chọn TechFlowTuyển chọn TechFlow
Các nhà đoạt giải Turing lo lắng sẽ trở thành "Oppenheimer của giới AI"
Từng là người đặt nền móng cho AI, nay trở thành tiên phong "chống AI".
Chuyên sâu báo cáo Web3Tác giả: Moonshot
Năm 1947, Alan Turing trong một bài phát biểu đã nói: "Điều chúng ta mong muốn là một cỗ máy có thể học hỏi từ kinh nghiệm".
78 năm sau, giải thưởng mang tên Turing – được mệnh danh là “giải Nobel của ngành khoa học máy tính” – đã được trao cho hai nhà khoa học dành cả đời để giải quyết câu hỏi mà Turing từng đặt ra.
Andrew Barto và Richard Sutton cùng giành giải thưởng Turing 2024. Họ là thầy trò cách nhau chín tuổi, là những người đặt nền móng về mặt công nghệ cho AlphaGo và ChatGPT, đồng thời cũng là những tiên phong trong lĩnh vực học máy.
Các nhà đoạt giải thưởng Turing Andrew Barto và Richard Sutton
Ảnh: Trang web chính thức giải thưởng Turing
Jeff Dean, nhà khoa học hàng đầu tại Google, trong bài phát biểu trao giải đã viết: "Công nghệ học tăng cường (reinforcement learning) do Barto và Sutton khai phá đã trực tiếp trả lời câu hỏi của Turing. Công trình của họ là chìa khóa thúc đẩy trí tuệ nhân tạo tiến bộ trong vài thập kỷ qua. Những công cụ mà họ phát triển vẫn là trụ cột nền tảng cho sự bùng nổ của AI... Google rất vinh dự khi tài trợ cho giải thưởng ACM A.M. Turing".
Google là đơn vị duy nhất tài trợ khoản tiền thưởng 1 triệu USD của giải thưởng Turing.
Song song đó, sau khi nhận giải, hai nhà khoa học nổi bật này lại lên tiếng chỉ trích các công ty lớn về AI. Họ gửi thông điệp cảm ơn giải thưởng đến giới truyền thông: hiện tại, các công ty AI đang hành động "theo động cơ thương mại" thay vì tập trung vào nghiên cứu công nghệ, và họ đang "xây một cây cầu chưa được kiểm chứng, rồi mời mọi người bước qua để thử nghiệm".
Cũng tương tự như vậy, lần gần nhất giải thưởng Turing trao cho các nhà khoa học trong lĩnh vực trí tuệ nhân tạo là vào năm 2018, khi ba nhà khoa học Yoshua Bengio, Geoffrey Hinton và Yann LeCun được vinh danh nhờ đóng góp trong lĩnh vực học sâu (deep learning).
Các nhà đoạt giải thưởng Turing năm 2018
Ảnh: eurekalert
Trong đó, hai "tổ phụ trí tuệ nhân tạo" Yoshua Bengio và Geoffrey Hinton (cũng là người đoạt giải Nobel Vật lý 2024) trong hai năm gần đây liên tục kêu gọi xã hội toàn cầu và cộng đồng khoa học cảnh giác trước việc các tập đoàn lớn lạm dụng trí tuệ nhân tạo.
Geoffrey Hinton thậm chí đã từ chức tại Google để có thể "nói tự do", còn Sutton trước đó từng làm nhà khoa học nghiên cứu tại DeepMind từ năm 2017 đến 2023.
Khi vinh dự cao nhất của ngành công nghệ thông tin ngày càng được trao cho những người đặt nền móng cho các công nghệ cốt lõi của AI, một hiện tượng đầy suy ngẫm dần lộ rõ:
Tại sao những nhà khoa học đứng trên đỉnh vinh quang lại luôn quay lưng cảnh báo về AI mỗi khi xuất hiện dưới ánh đèn sân khấu?
Những "người xây cầu" của trí tuệ nhân tạo
Nếu nói Alan Turing là người dẫn đường cho trí tuệ nhân tạo, thì Andrew Barto và Richard Sutton chính là những "người xây cầu" trên con đường ấy.
Ngay giữa lúc trí tuệ nhân tạo đang lao nhanh, ngay sau khi được tôn vinh, họ đang tự vấn liệu cây cầu mà mình dựng nên có thực sự đảm bảo an toàn cho con người đi qua hay không?
Câu trả lời có lẽ nằm trong suốt sự nghiệp học thuật kéo dài nửa thế kỷ của họ — chỉ khi trở lại với hành trình họ đã xây dựng "việc học của máy móc" ra sao, ta mới hiểu được tại sao họ lại lo ngại "sự mất kiểm soát của công nghệ".
Ảnh: Đại học Carnegie Mellon
Năm 1950, trong bài luận nổi tiếng "Máy tính và trí tuệ", Alan Turing mở đầu bằng một câu hỏi triết học và kỹ thuật:
«Máy móc có thể suy nghĩ được không?»
Từ đó, Turing đã thiết kế "trò chơi bắt chước" – tức là "kiểm định Turing" nổi tiếng sau này.
Ông cũng đề xuất rằng trí tuệ máy móc có thể đạt được thông qua quá trình học tập, chứ không chỉ dựa vào lập trình sẵn. Ông hình dung ra khái niệm "máy trẻ em (Child Machine)", nghĩa là thông qua huấn luyện và tích lũy kinh nghiệm, máy móc có thể học hỏi từng bước giống như một đứa trẻ.
Mục tiêu cốt lõi của trí tuệ nhân tạo là xây dựng các tác nhân (agent) có khả năng cảm nhận và hành động hiệu quả; thước đo trí tuệ chính là khả năng của tác nhân nhận biết rằng "một số hành động tốt hơn những hành động khác".
Học máy hướng tới mục đích này: đưa ra phản hồi phù hợp sau mỗi hành động của máy, và cho phép máy móc tự học từ kinh nghiệm phản hồi đó. Nói cách khác, cách tiếp cận học máy dựa trên phần thưởng và hình phạt mà Turing hình dung không khác mấy so với việc huấn luyện chó theo kiểu Pavlov.
Tôi chơi game càng thua càng mạnh lên, cũng là một dạng «học tăng cường»
Ảnh: zequance.ai
Con đường học máy do Turing mở ra, phải đến ba mươi năm sau mới được một cặp thầy trò xây thành cây cầu – đó chính là học tăng cường (Reinforcement Learning, RL).
Năm 1977, chịu ảnh hưởng từ tâm lý học và thần kinh học, Andrew Barto bắt đầu khám phá một lý thuyết mới về trí tuệ con người: các nơ-ron giống như những "kẻ hưởng lạc", hàng tỷ tế bào thần kinh trong não người đều cố gắng tối đa hóa niềm vui (phần thưởng) và giảm thiểu nỗi đau (hình phạt). Các nơ-ron không đơn thuần chỉ nhận và truyền tín hiệu một cách máy móc; nếu hoạt động của một nơ-ron tạo ra phản hồi tích cực, nó sẽ có xu hướng lặp lại mô hình đó, từ đó cùng nhau thúc đẩy quá trình học của con người.
Đến thập niên 1980, Barto hướng dẫn sinh viên tiến sĩ của mình, Richard Sutton, áp dụng lý thuyết "liên tục thử nghiệm, điều chỉnh kết nối theo phản hồi, tìm ra mô hình hành vi tối ưu" này vào trí tuệ nhân tạo, từ đó khai sinh ra học tăng cường.
Sách «Học tăng cường: Dẫn luận» trở thành giáo trình kinh điển, đã được trích dẫn gần 80.000 lần
Ảnh: IEEE
Cặp thầy trò này sử dụng cơ sở toán học của quá trình ra quyết định Markov để phát triển và viết nhiều thuật toán cốt lõi của học tăng cường, hệ thống hóa khung lý thuyết cho lĩnh vực này, đồng thời biên soạn sách giáo khoa «Học tăng cường: Dẫn luận», giúp hàng vạn nhà nghiên cứu tiếp cận lĩnh vực học tăng cường. Họ xứng đáng được gọi là cha đẻ của học tăng cường.
Mục đích nghiên cứu học tăng cường của họ là tìm ra phương pháp học máy hiệu quả, chính xác, tối ưu hóa lợi ích và hành động tốt nhất.
"Nước đi thần thánh" của học tăng cường
Nếu học máy truyền thống giống như kiểu "nhồi nhét kiến thức", thì học tăng cường giống như kiểu "thả tự nhiên".
Học máy truyền thống là việc cung cấp lượng lớn dữ liệu đã được gán nhãn cho mô hình, nhằm thiết lập mối quan hệ ánh xạ cố định giữa đầu vào và đầu ra. Trường hợp điển hình nhất là đưa cho máy tính xem hàng loạt ảnh mèo và chó, nói rõ bức nào là mèo, bức nào là chó; chỉ cần "cho ăn" đủ ảnh, máy tính sẽ phân biệt được mèo và chó.
Còn học tăng cường là việc trong điều kiện không có chỉ dẫn rõ ràng, máy móc tự điều chỉnh hành vi thông qua thử sai và cơ chế phần thưởng/hình phạt để dần cải thiện kết quả. Giống như một robot học đi: không cần con người liên tục nói "bước này đúng, bước kia sai", nó chỉ cần thử, ngã, điều chỉnh, cuối cùng tự biết cách đi, thậm chí còn phát triển kiểu đi riêng biệt.
Rõ ràng, nguyên lý của học tăng cường gần với trí tuệ con người hơn: như một đứa trẻ học đi qua những lần vấp ngã, học cầm nắm qua mò mẫm, học ngôn ngữ qua bắt chước âm tiết.
Phía sau "robot đá xoay vòng" gây sốt cũng là quá trình huấn luyện bằng học tăng cường
Ảnh: Unitree Robotics
Thời khắc rực rỡ nhất của học tăng cường chính là "nước đi thần thánh" của AlphaGo năm 2016. Trong trận đấu với Lee Sedol, nước đi thứ 37 của AlphaGo là một nước trắng khiến tất cả con người đều bất ngờ, đảo ngược tình thế và giành chiến thắng trước Lee Sedol.
Các kỳ thủ hàng đầu và bình luận viên đều không đoán được AlphaGo sẽ đánh ở vị trí đó, bởi theo kinh nghiệm của con người, nước cờ này thật "vô lý". Sau trận đấu, Lee Sedol thừa nhận ông hoàn toàn không nghĩ tới nước đi này.
"Nước đi thần thánh" của AlphaGo không phải là học thuộc lòng các ván cờ, mà là kết quả tự khám phá sau vô số lần tự chơi với chính mình, thử sai, lập kế hoạch dài hạn và tối ưu hóa chiến lược – đó chính là bản chất của học tăng cường.
Lee Sedol bị rối nhịp bởi "nước đi thần thánh" của AlphaGo
Ảnh: AP
Học tăng cường thậm chí còn ngược lại ảnh hưởng đến trí tuệ con người: sau khi AlphaGo thể hiện "nước đi thần thánh", các kỳ thủ bắt đầu học hỏi và nghiên cứu cách đánh cờ của AI. Các nhà khoa học cũng đang dùng các thuật toán và nguyên lý của học tăng cường để tìm hiểu cơ chế học tập trong não người. Một trong những thành quả nghiên cứu của Barto và Sutton là xây dựng một mô hình tính toán để giải thích vai trò của dopamine trong ra quyết định và học tập của con người.
Hơn nữa, học tăng cường đặc biệt giỏi xử lý môi trường phức tạp, biến đổi nhanh và tìm ra giải pháp tối ưu, ví dụ như cờ vây, xe tự lái, điều khiển robot, hay giao tiếp trôi chảy với con người dù thông tin mơ hồ.
Chính là những lĩnh vực AI tiên tiến và nóng bỏng nhất hiện nay, đặc biệt trong mô hình ngôn ngữ lớn (LLM), hầu hết các mô hình hàng đầu đều sử dụng phương pháp huấn luyện RLHF (Học tăng cường từ phản hồi của con người), tức là con người chấm điểm các câu trả lời của mô hình, mô hình dựa vào phản hồi để cải thiện.
Nhưng chính điều này làm Barto lo lắng: các công ty lớn xây xong cầu, rồi bắt mọi người đi qua để thử độ an toàn của cầu.
"Việc tung phần mềm trực tiếp đến hàng triệu người dùng mà không có biện pháp bảo đảm nào là hành động thiếu trách nhiệm," Barto nói trong cuộc phỏng vấn sau khi nhận giải.
"Sự phát triển công nghệ lẽ ra phải đi kèm với việc kiểm soát và ngăn ngừa các tác động tiêu cực tiềm tàng, nhưng tôi không thấy các công ty AI nào thực sự làm được điều đó," ông bổ sung.
Các chuyên gia AI hàng đầu đang lo sợ điều gì?
Luận điểm về mối đe dọa từ AI cứ tiếp diễn, vì các nhà khoa học sợ nhất là tương lai do chính họ tạo ra lại mất kiểm soát.
Trong "lời cảm ơn giải thưởng" của Barto và Sutton, không hề có lời chỉ trích công nghệ AI hiện tại, mà tràn ngập sự bất mãn với các công ty AI.
Họ cảnh báo trong các cuộc phỏng vấn rằng hiện nay sự phát triển của trí tuệ nhân tạo đang dựa trên việc các công ty lớn đua nhau tung ra các mô hình mạnh mẽ nhưng dễ mắc lỗi, dùng chúng để huy động vốn khổng lồ, rồi tiếp tục đổ hàng tỷ đô la vào cuộc chạy đua vũ trang về chip và dữ liệu.
Các ngân hàng đầu tư lớn đang định giá lại ngành AI
Ảnh: Goldman Sachs
Thật vậy, theo nghiên cứu của Deutsche Bank, tổng đầu tư hiện tại của các tập đoàn công nghệ lớn vào lĩnh vực AI khoảng 340 tỷ USD, quy mô này vượt quá GDP hàng năm của Hy Lạp. Công ty dẫn đầu OpenAI có định giá lên tới 260 tỷ USD và đang chuẩn bị gọi vốn thêm 40 tỷ USD trong vòng mới.
Thực tế, nhiều chuyên gia AI có quan điểm trùng khớp với Barto và Sutton.
Trước đó, cựu giám đốc Microsoft Steven Sinofsky từng nói rằng ngành AI đang sa vào bế tắc về quy mô: lấy tiền đốt để đổi tiến bộ công nghệ, điều này trái ngược với xu hướng lịch sử phát triển công nghệ – chi phí phải dần giảm chứ không phải tăng.
Chỉ mới ngày 7 tháng 3, Eric Schmidt (cựu CEO Google), Alex Wang (người sáng lập Scale AI) và Dan Hendrycks (Giám đốc Trung tâm An toàn AI) đã cùng ký tên vào một bài báo cảnh báo.
Ba nhân vật hàng đầu trong giới công nghệ cho rằng tình hình phát triển hiện nay của lĩnh vực AI phía trước tương tự như cuộc chạy đua vũ khí hạt nhân từng dẫn đến Dự án Manhattan. Các công ty AI đang âm thầm thực hiện "Dự án Manhattan" riêng của mình. Trong gần mười năm qua, mức đầu tư vào AI của họ tăng gấp đôi mỗi năm. Nếu không can thiệp và giám sát, AI có thể trở thành công nghệ bất ổn nhất kể từ khi bom hạt nhân ra đời.
Cuốn «Chiến lược Siêu trí tuệ» và các đồng tác giả
Ảnh: nationalsecurity.ai
Yoshua Bengio, người từng nhận giải thưởng Turing năm 2019 nhờ học sâu, cũng đăng một bài viết dài trên blog cảnh báo rằng hiện nay ngành công nghiệp AI có giá trị hàng chục nghìn tỷ USD để các nhà đầu tư tranh giành, đồng thời sở hữu sức ảnh hưởng đủ để phá vỡ nghiêm trọng trật tự thế giới hiện tại.
Nhiều nhân vật công nghệ có xuất thân kỹ thuật cho rằng ngành AI hiện nay đã lệch khỏi con đường nghiên cứu công nghệ, suy ngẫm về trí tuệ và cảnh giác lạm dụng công nghệ, mà đang chuyển sang mô hình săn lợi nhuận bằng vốn lớn, đốt tiền và tích tụ chip.
"Xây trung tâm dữ liệu khổng lồ, thu tiền người dùng rồi bắt họ dùng phần mềm chưa chắc đã an toàn – đó không phải là động lực tôi chấp nhận," Barto nói trong cuộc phỏng vấn sau khi nhận giải.
Bản báo cáo khoa học quốc tế đầu tiên về an toàn trí tuệ nhân tạo tiên tiến, do 75 chuyên gia AI từ 30 quốc gia cùng soạn thảo, viết rằng: "Các phương pháp quản lý rủi ro từ trí tuệ nhân tạo tổng quát (AGI) thường dựa trên giả định rằng các nhà phát triển AI và nhà hoạch định chính sách có thể đánh giá chính xác năng lực và tác động tiềm tàng của các mô hình và hệ thống AGI. Tuy nhiên, hiểu biết khoa học về vận hành bên trong, năng lực và ảnh hưởng xã hội của AGI thực ra rất hạn chế."
Bài cảnh báo dài của Yoshua Bengio
Ảnh: Yoshua Bengio
Dễ thấy rằng, luận điểm "đe dọa từ AI" hiện nay đã chuyển mũi nhọn từ công nghệ sang các tập đoàn lớn.
Các chuyên gia đang cảnh báo các công ty lớn: các bạn đốt tiền, tích tụ linh kiện, đua tham số, nhưng liệu các bạn thực sự hiểu sản phẩm mình phát triển hay không? Cũng chính vì vậy mà Barto và Sutton dùng ẩn dụ "xây cầu": vì công nghệ thuộc về toàn nhân loại, còn vốn thì chỉ thuộc về các công ty lớn.
Hơn nữa, lĩnh vực nghiên cứu lâu nay của Barto và Sutton – học tăng cường – có nguyên lý sát với trí tuệ con người hơn, và đặc trưng "hộp đen", đặc biệt trong học tăng cường sâu (deep reinforcement learning), khi mô hình hành vi của AI trở nên phức tạp và khó giải thích.
Đây cũng chính là nỗi lo của các nhà khoa học: họ hỗ trợ và chứng kiến sự trưởng thành của trí tuệ nhân tạo, nhưng lại không thể diễn giải được ý đồ của nó.
Và những người đoạt giải thưởng Turing – những người khai sinh học sâu và học tăng cường – không phải đang lo sợ sự phát triển của AGI (trí tuệ nhân tạo tổng quát), mà lo sợ cuộc chạy đua vũ trang giữa các công ty lớn trong lĩnh vực AGI sẽ dẫn đến "bùng nổ trí tuệ", vô tình tạo ra ASI (siêu trí tuệ nhân tạo). Sự phân biệt giữa hai khái niệm này không chỉ là vấn đề kỹ thuật, mà còn liên quan đến vận mệnh tương lai của nền văn minh nhân loại.
ASI – trí tuệ vượt xa con người – về khối lượng thông tin nắm giữ, tốc độ ra quyết định và khả năng tự tiến hóa sẽ vượt xa khả năng hiểu biết của con người. Nếu không thiết kế và quản trị ASI một cách thận trọng cực độ, nó có thể trở thành điểm kỳ dị công nghệ cuối cùng và cũng là không thể chống đỡ nhất trong lịch sử nhân loại.
Giữa cơn cuồng nhiệt AI hiện nay, những nhà khoa học này có lẽ là những người có đủ tư cách nhất để "rót nước lạnh". Bởi cách đây năm mươi năm, khi máy tính còn là những cỗ máy khổng lồ, họ đã bắt đầu nghiên cứu về trí tuệ nhân tạo, họ đã định hình hiện tại từ quá khứ, và vì vậy họ cũng có lập trường để nghi ngờ về tương lai.
Liệu các nhà lãnh đạo AI có gặp kết cục giống Oppenheimer?
Ảnh: The Economist
Trong cuộc phỏng vấn tháng 2 của tờ The Economist, các CEO của DeepMind và Anthropic cho biết:
Họ lo sợ mình sẽ trở thành Oppenheimer tiếp theo, đến mức không thể ngủ yên suốt đêm.
Chào mừng tham gia cộng đồng chính thức TechFlow
Nhóm Telegram:https://t.me/TechFlowDaily
Tài khoản Twitter chính thức:https://x.com/TechFlowPost
Tài khoản Twitter tiếng Anh:https://x.com/BlockFlow_News
极客公园
