Góc nhìn nghiên cứu của người nước ngoài: Ai đang sợ mô hình AI Trung Quốc?
Tuyển chọn TechFlowTuyển chọn TechFlow
Góc nhìn nghiên cứu của người nước ngoài: Ai đang sợ mô hình AI Trung Quốc?
Sự hoảng loạn của các phòng thí nghiệm tiên phong phần nhiều là do chưa thích nghi với quy tắc trò chơi mới từ chi phối bởi chi phí huấn luyện sang chi phối bởi quy mô suy luận.
Chuyên sâu báo cáo Web3Tác giả: Stratechery
Biên dịch: TechFlow
Đọc dẫn từ TechFlow: Kimi K3 tác động mạnh đến thị trường mô hình nhận thức, tại sao Phố Wall và Thung lũng Silicon lại phản ứng thái quá? Bài viết này phân tích sau khi AI bước từ kỷ nguyên ChatGPT sang kỷ nguyên Agent, token đã không còn là hàng hóa, hàng hóa thực sự là chính trí tuệ — và trong cuộc chiến mà chi phí biên là vua này, các mô hình mã nguồn mở Trung Quốc看似 miễn phí, thực ra chi phí dịch vụ không hề thấp. Sự hoảng loạn của các phòng thí nghiệm tiên phong phần lớn là do chưa thích nghi với luật chơi mới chuyển từ chi phí huấn luyện主导 sang quy mô inference 主导。
Tôi từng kể một câu chuyện về trải nghiệm của tôi vào ngày đầu tiên của khóa học STRT-431 tại Trường Kinh doanh Kellogg, đây là khóa học bắt buộc cho mọi sinh viên MBA mới. Tôi xem qua tài liệu khóa học và các nghiên cứu tình huống, thất vọng khi nhận thấy không có công ty công nghệ nào trong lịch trình. Tôi chạy đi hỏi giáo sư tại sao, và nhận được câu trả lời rằng: mục tiêu của khóa học này không phải là nghiên cứu các ngành cụ thể, mà là khám phá các nguyên tắc phổ quát có thể áp dụng cho bất kỳ ngành nào và bất kỳ công ty nào.
Như tôi thường nói, lúc đó tôi không hài lòng với câu trả lời này: theo tôi, bản chất của công nghệ, đặc biệt là phần mềm và phân phối với chi phí biên bằng không (và chi phí giao dịch bằng không), là sự khác biệt cơ bản. Việc điền số không vào công thức thường sẽ làm đảo lộn mọi thứ. Nhưng tôi很快 nhận ra rằng đây chính là cơ hội của mình.洞察 cốt lõi của Lý thuyết Aggregation là: chi phí biên bằng không dẫn đến chuỗi giá trị hoàn toàn khác với những gì mọi người từng kỳ vọng về internet — trong một thế giới mà việc kiểm soát nhu cầu quan trọng hơn phân phối cung cấp, bạn sẽ thấy sự tập trung hóa và quy mô hóa.
Tuy nhiên, điều thú vị về AI là những nguyên tắc phổ quát cổ xưa đó đang quay trở lại vị trí trung tâm. Điều này thể hiện rõ nhất vào cuối tuần trước, khi một cuộc tranh luận gay nổ ra trên X về Kimi K3. Kimi K3 là một mô hình trọng số mã nguồn mở khác được Trung Quốc ra mắt, với khả năng đang tiệm cận mức tiên tiến nhất. Nói ngắn gọn: chi phí biên đã quay trở lại một cách đáng kể, dù là xét về tác động ngắn hạn của các mô hình miễn phí tiên tiến nhất, hay từ góc độ cấu trúc dài hạn của ngành.
COGS và Chi tiêu R&D
Một trong những hiểu lầm phổ biến nhất về các mô hình trọng số mã nguồn mở là chúng rẻ hơn — thậm chí là miễn phí. Rốt cuộc bạn có thể tải trực tiếp trọng số xuống, bỏ qua thời gian, chi phí và năng lực cần thiết để tạo ra mô hình của riêng mình. Điều này当然 đúng, nhưng "miễn phí" ở đây đề cập đến số tiền bạn cần chi cho R&D. R&D là chi phí cố định, không liên quan đến doanh thu bạn tạo ra. Nếu bạn chi 1 triệu đô la cho R&D, bất kể doanh thu của bạn là 100.000 đô la hay 100 triệu đô la, bạn vẫn đã chi 1 triệu đô la cho R&D (tất nhiên điều này sẽ ảnh hưởng đến khả năng sinh lời của bạn).
Thứ liên quan đến doanh thu là COGS — giá vốn hàng bán — và COGS đối với AI là có thật, đây là điều mà ngành phần mềm đã không gặp phải trong một thời gian dài. Cụ thể, chạy inference trên mô hình — dù là Kimi hay Fable — đều tốn tiền, và số tiền các nhà cung cấp AI chi cho inference, ít nhất là trong hầu hết các mô hình kinh doanh, liên quan trực tiếp đến doanh thu. Sử dụng lại ví dụ trên, tạo ra doanh thu 100 triệu đô la so với 100.000 đô la, có thể yêu cầu COGS gấp 1000 lần. Cụ thể, nếu chi phí token để tạo ra 1 đô la doanh thu là 50 xu, thì doanh thu 100 triệu đô la sẽ có 50 triệu đô la COGS, còn doanh thu 100.000 đô la chỉ có 50.000 đô la COGS.
Điểm mấu chốt về các mô hình trọng số mã nguồn mở là chúng không phải là dịch vụ miễn phí. Chi phí của Kimi K3 là 3 đô la cho mỗi triệu token đầu vào và 15 đô la cho mỗi triệu token đầu ra. Điều này rẻ hơn so với mức 5 đô la cho mỗi triệu token đầu vào và 30 đô la cho mỗi triệu token đầu ra của Sol, nhưng đây có thể không phải là thước đo chính xác.
Token và Trí tuệ
CEO Nvidia Jensen Huang mô tả những gì Nvidia đang xây dựng là "nhà máy token", và nói từ góc độ của Nvidia thì cách nói này hợp lý. GPU của Nvidia không nhắm vào các mô hình cụ thể: chúng tạo ra token, và làm điều đó một cách nhanh nhất và hiệu quả nhất. Điều này dẫn đến các số liệu như token mỗi giây, thời gian đến token đầu tiên, token mỗi watt, chi phí token, mà Jensen Huang cho rằng sẽ trở thành cơ sở cho các quyết định.
Khuôn khổ này thực sự có ý nghĩa trong范式 đầu tiên của AI — kỷ nguyên ChatGPT — khi token được phân phối trực tiếp cho người dùng cuối. Tuy nhiên,范式 thứ hai của AI, kỷ nguyên inference, đã làm đảo lộn cách đo lường này. Inference đồng nghĩa với sự bùng nổ của token chain-of-thought, và các mô hình khác nhau cần số lượng token inference khác nhau để có được câu trả lời đúng. Ví dụ, theo báo cáo Kimi sử dụng số lượng token nhiều hơn đáng kể so với Sol, điều này làm cho lợi thế về giá của nó trở nên vô nghĩa. Agent 引入了 động lực tương tự: một số mô hình hiệu quả hơn về số lượng token cần thiết để thực hiện các quy trình làm việc của Agent.
Điều này có nghĩa là token không phải là hàng hóa. Đặc điểm xác định của hàng hóa là nó có thể thay thế cho nhau: một gallon dầu mỏ là một gallon dầu mỏ, một tấn đồng là một tấn đồng, một giạ lúa mì là một giạ lúa mì. Nhưng token của mô hình này khác với token của mô hình khác. Thứ có thể thay thế cho nhau là thứ được xây dựng từ token, đó là trí tuệ. Nói cách khác, nếu Kimi và Sol đều tạo ra câu trả lời đúng, thì câu trả lời đó có thể thay thế cho nhau. Sự khác biệt về số lượng token cần thiết để tạo ra câu trả lời đúng sẽ dẫn đến sự khác biệt về COGS.
COGS của trí tuệ là hàm số của một số yếu tố khác nhau:
Không gian mô hình: Trọng số và trạng thái runtime quyết định cần bao nhiêu bộ nhớ đắt tiền và bao nhiêu bộ tăng tốc để lưu trữ mỗi bản sao dịch vụ
Hiệu suất inference: Các lựa chọn kiến trúc (như Mixture of Experts) giảm lượng tính toán cho mỗi token được tạo ra
Hiệu suất bộ nhớ: Các lựa chọn kiến trúc có thể giảm nhu cầu KV cache, cho phép nhiều yêu cầu đồng thời hơn và tỷ lệ sử dụng GPU tốt hơn
Hiệu suất dịch vụ: Xử lý hàng loạt, lập lịch, prefix cache và các tối ưu hóa inference khác tối đa hóa tỷ lệ sử dụng và chia sẻ công việc giữa các yêu cầu
Hiệu suất token: Càng ít token cần thiết để đạt được câu trả lời đúng, chi phí inference càng thấp
Điều này rất quan trọng vì chúng ta đang nhanh chóng tiến gần đến trạng thái mà đối với nhiều nhiệm vụ có lợi ích kinh tế, trí tuệ thực sự là một hàng hóa. Ví dụ, bất kỳ ai xây dựng ứng dụng CRUD cơ bản đều có thể sử dụng các mô hình từ nhiều nhà cung cấp khác nhau để hoàn thành. Và trong thị trường hàng hóa, con đường đến lợi nhuận không phải là thu phí cao hơn — bạn có thể (hoặc sớm sẽ có thể) sử dụng nhiều mô hình để tạo ra cùng một ứng dụng — mà là có cấu trúc chi phí vượt trội.
Hiểu về thị trường hàng hóa
Ở đây đáng để梳理 các cơ chế, vì như tôi đã chỉ ra trong "Độ bền của Amazon" vài tháng trước, động lực của thị trường hàng hóa không phải là điều mà những người trong ngành công nghệ quen thuộc:
Trong thị trường hàng hóa, mọi người thu cùng một mức giá, vì mọi người đều bán cùng một thứ. Mức giá này được quyết định bởi cung và cầu
Nhu cầu về hàng hóa là hàm số của độ co giãn giá: hàng hóa càng rẻ, nhu cầu càng lớn, và ngược lại
Cung về hàng hóa là hàm số của chi phí biên để sản xuất hàng hóa
Điều quan trọng cần hiểu là chi phí biên để sản xuất hàng hóa của các nhà cung cấp khác nhau là khác nhau. Trong thực tế, điều này có nghĩa là nhà cung cấp có cấu trúc chi phí kém nhất cuối cùng sẽ bán hàng hóa ở mức chi phí biên của họ (nếu họ còn có thể sản xuất). Lợi nhuận của tất cả những người khác phụ thuộc vào cấu trúc chi phí của họ tốt hơn nhà cung cấp biên bao nhiêu.
Một ví dụ:
Nhà cung cấp A có thể sản xuất 10 đơn vị hàng hóa với chi phí 10 đô la mỗi đơn vị
Nhà cung cấp B có thể sản xuất 10 đơn vị hàng hóa với chi phí 15 đô la mỗi đơn vị
Nhà cung cấp C có thể sản xuất 10 đơn vị hàng hóa với chi phí 20 đô la mỗi đơn vị
Giả sử độ co giãn giá khiến nhu cầu về hàng hóa là 25 đơn vị ở mức 20 đô la. Điều này có nghĩa là:
Nhà cung cấp A sẽ bán 10 đơn vị với giá 20 đô la, kiếm 10 đô la mỗi đơn vị
Nhà cung cấp B sẽ bán 10 đơn vị với giá 20 đô la, kiếm 5 đô la mỗi đơn vị
Nhà cung cấp C sẽ bán 5 đơn vị với giá 20 đô la, kiếm 0 đô la mỗi đơn vị
Điều này không hoàn toàn chính xác: lý do Nhà cung cấp C chịu thiệt thòi là vì Nhà cung cấp A và B có thể ép giá họ xuống một chút, điều này当然 sẽ ảnh hưởng đến nhu cầu (có co giãn), nhưng điều này minh họa vấn đề. Nhà cung cấp A có một生意 tốt, Nhà cung cấp B có một生意 khá, Nhà cung cấp C sắp phá sản.
Rủi ro phá sản là nơi chi phí cố định quay trở lại vị trí trung tâm: Nhà cung cấp C có cả chi phí cố định (như chi tiêu R&D có thể có), và cũng có thể đã vay nợ để tài trợ cho thiết bị cần thiết để sản xuất hàng hóa. Họ không thể định giá hàng hóa dựa trên những chi phí này — hãy nhớ, giá thị trường clearing gần với chi phí biên của đơn vị chi phí cao nhất cần thiết để đáp ứng nhu cầu — nhưng những chi phí này hoàn toàn có thể đẩy nhà cung cấp ra khỏi thị trường. Nếu nhà cung cấp phá sản, giá sẽ tăng cho đến khi một nhà cung cấp khác quyết định gia nhập (hoặc các nhà cung cấp khác mở rộng).
Thị trường trí tuệ
Quay trở lại với các mô hình. Hiện tại, tất cả các phân tích trên đều không áp dụng, vì nhu cầu về các mô hình tiên phong vượt quá cung, và cung bị giới hạn bởi sự thiếu hụt sức mạnh tính toán. Sự thiếu hụt sức mạnh tính toán này không chỉ có nghĩa là các nhà cung cấp sức mạnh tính toán như Nvidia có thể đạt được biên lợi nhuận rất cao, mà còn có nghĩa là khách hàng của Nvidia, như SpaceXAI, cũng có thể bán lại sức mạnh tính toán với biên lợi nhuận cao cho các công ty như Anthropic. Đồng thời, Anthropic có thể trả mức giá cộng thêm, vì họ có thể bán token với mức giá cộng thêm cao hơn.
Tuy nhiên, không chỉ nhu cầu vượt quá cung mang lại cho Anthropic biên lợi nhuận khổng lồ: Anthropic và OpenAI có thể có chi phí trên mỗi đơn vị trí tuệ chất lượng tiên phong thấp nhất, nhờ vào khả năng mô hình, quy mô dịch vụ và hiệu suất token. Họ phục vụ các mô hình ở mức độ khả năng cụ thể sớm hơn đối thủ vài tháng, đồng thời áp dụng các mô hình tốt nhất để tối ưu hóa những chi phí này.
Cũng đáng lưu ý rằng thị trường chưa xem trí tuệ là hàng hóa: nhu cầu dành riêng cho Anthropic và OpenAI, nhu cầu đối với các mô hình kém tốt hơn ít hơn nhiều (do đó SpaceXAI và Meta bán năng lực cho Anthropic). Một cách nghĩ về động lực tối ưu hóa chi phí là, đây là hàm số của công việc cần hoàn thành được xác định bởi mức độ trí tuệ, sao cho người mua trí tuệ có thể tạo ra một thị trường mà trí tuệ được hàng hóa hóa. Tuy nhiên về dài hạn, bất kể ai ở vị trí tiên phong, đều có khả năng nhất để thống lĩnh thị trường không tiên phong, những thị trường này chỉ là tiên phong trừ đi n tháng,也就是 những tháng mà các nhà sản xuất mô hình tiên phong đã tối ưu hóa chi phí dịch vụ của họ.
Tất cả những điều này nói rằng, tôi cho rằng phản ứng chung đối với Kimi và các mô hình Trung Quốc là khá thái quá, ít nhất là từ góc độ kinh tế. Hiện tại có một chiếc ô bảo vệ giá, đây là kết quả下游 của sự thiếu hụt sức mạnh tính toán. Tôi rất nghi ngờ liệu các mô hình Trung Quốc có rẻ hơn để dịch vụ trên cơ sở chi phí biên hay không, chúng chỉ trông có vẻ rẻ hơn vì nguồn cung của Anthropic và OpenAI bị giới hạn đến mức họ thu mức giá cao hơn nhiều so với mức giá nếu có đủ cung để đáp ứng nhu cầu về trí tuệ.
Sự hoảng loạn của các phòng thí nghiệm tiên phong
Vậy tại sao các nhà sản xuất mô hình dường như lại hoảng loạn trước các mô hình Trung Quốc?
Đầu tiên, tôi cho rằng các phòng thí nghiệm tiên phong đang neo vào một thế giới mà chi phí huấn luyện thống trị mô hình tài chính của họ. Chừng nào huấn luyện tiêu thụ GPU nhiều hơn inference, thì việc tối đa hóa doanh thu inference để giúp tài trợ cho lần chạy huấn luyện tiếp theo là cực kỳ quan trọng, điều này có nghĩa là thu phí rất cao cho inference.
Tuy nhiên, nhìn về tương lai, tôi dự đoán thị trường inference sẽ tăng trưởng nhanh hơn nhiều so với chi phí huấn luyện (điều này bao gồm giả định rằng chi phí huấn luyện sẽ tiếp tục tăng vọt), có nghĩa là họ thực sự có thể lấy lượng bù chất. Cho đến tám tháng trước, liệu điều này có trở thành hiện thực vẫn chưa rõ ràng, nhưng sự mở khóa của范式 Agent lớn đến mức các phòng thí nghiệm tiên phong nên tự tin hơn rằng họ không chỉ có thể tồn tại với mức giá thấp hơn, mà còn phát triển mạnh (một khi họ có đủ sức mạnh tính toán).
Thứ hai, trí tuệ thực sự không phải là một hàng hóa hoàn hảo, một phần vì việc áp dụng trí tuệ sẽ khiến nó trở nên thông minh hơn. Cụ thể, bất kể ai chạy inference, cũng đang thu thập dữ liệu, và những dữ liệu này sẽ được sử dụng để làm cho mô hình của lần lặp tiếp theo trở nên tốt hơn. Một mặt, đây là lý do nữa để các phòng thí nghiệm tiên phong giảm giá và tăng mức sử dụng khi có nhiều sức mạnh tính toán hơn. Mặt khác, đây là lý do tại sao các công ty như Microsoft ngày càng bị ám ảnh với việc giúp các công ty chạy các mô hình của riêng họ. Nếu các mô hình Trung Quốc là các lựa chọn thay thế khả thi, thì điều này càng khả thi hơn.
Thứ ba, một cách khác mà các phòng thí nghiệm tiên phong không chỉ có thể nổi bật so với các mô hình Trung Quốc, mà còn phân biệt với nhau là tiếp tục tích hợp dọc lên trải nghiệm khách hàng. Claude Code và Codex đã được chứng minh là khá dính, điều này thật đáng kinh ngạc. Bất kể bạn bắt đầu sử dụng công cụ nào, đó cũng có thể là công cụ mà bạn kiên trì sử dụng, đặc biệt là đối với người dùng không kỹ thuật. Về dài hạn, sự cần thiết phải di chuyển lên trên này thực sự có nghĩa là các mô hình tiên phong chắc chắn là mối đe dọa đối với các nhà cung cấp phần mềm, bao gồm Microsoft. Mặt khác, mức độ mà các công ty phần mềm hiện đang sở hữu trải nghiệm khách hàng có thể có được các mô hình cạnh tranh, chính là mức độ mà họ có thể chống lại sự xói mòn từ các phòng thí nghiệm tiên phong.
Cuối cùng, góc độ ý thức hệ của Anthropic đặc biệt không thể bỏ qua. Đây là một công ty tin rằng chỉ họ mới có thể được tin tưởng giao phó AI, và sự tồn tại của các lựa chọn thay thế trọng số mã nguồn mở là một đòn chí mạng vào giả định này.
Động cơ của Trung Quốc
Kimi không phải là mô hình Trung Quốc mới duy nhất. Bloomberg đưa tin:
Cổ phiếu của Alibaba Group Holding Limited tăng 5,4% vào thứ Hai, sau khi công ty ra mắt phiên bản xem trước của mô hình chủ lực Qwen3.8 Max, cho biết nó chỉ đứng sau Fable 5 của Anthropic. Lần ra mắt vào Chủ nhật này diễn ra chỉ vài ngày sau khi startup Moonshot AI giới thiệu sản phẩm mới mạnh mẽ,后者 làm rung chuyển thị trường và gây ra lo ngại tại Mỹ về việc Trung Quốc thu hẹp khoảng cách với các nhà lãnh đạo toàn cầu như Anthropic và OpenAI. Qwen3.8 Max có 2,4 nghìn tỷ tham số, cùng với Kimi K3 của Moonshot bước vào hạng mục trọng lượng nặng. K3 có 2,8 nghìn tỷ tham số, có thể so sánh với các sản phẩm hàng đầu, và Alibaba cũng đặt kỳ vọng cao tương tự.
Các nhà phát triển giờ đây có thể truy cập Qwen3.8 Max thông qua nền tảng mã hóa của Alibaba, bao gồm Qoder. Alibaba计划 sớm mở trọng số của mô hình này, mở rộng quyền truy cập ra ngoài phiên bản xem trước. Sự quan tâm đối với các hệ thống và mô hình AI sản xuất tại Trung Quốc này cao đến mức Moonshot buộc phải tạm chấp nhận đăng ký mới vào cuối tối Chủ nhật để đối phó với nhu cầu áp đảo.
Cổ phiếu của Alibaba Group Holding Limited一度 tăng 5,4% vào thứ Hai, sau khi công ty ra mắt phiên bản xem trước của mô hình chủ lực Qwen3.8 Max, và cho biết nó chỉ đứng sau Fable 5 của Anthropic PBC. Lần ra mắt vào Chủ nhật này diễn ra chỉ vài ngày sau khi Moonshot AI giới thiệu sản phẩm mới mạnh mẽ,后者 làm rung chuyển thị trường và gây ra lo ngại tại Mỹ về việc Trung Quốc đang đuổi kịp các nhà lãnh đạo toàn cầu như Anthropic và OpenAI. Qwen3.8 Max có 2,4 nghìn tỷ tham số, cùng với Kimi K3 của Moonshot bước vào hạng mục trọng lượng nặng. K3 có 2,8 nghìn tỷ tham số, có thể so sánh với các sản phẩm hàng đầu, và Alibaba cũng đặt kỳ vọng cao tương tự.
Các nhà phát triển giờ đây có thể truy cập Qwen3.8 Max thông qua nền tảng mã hóa của Alibaba, bao gồm Qoder. Alibaba计划 sớm mở trọng số của mô hình này, mở rộng quyền truy cập ra ngoài phiên bản xem trước. Nhu cầu đối với các hệ thống và mô hình AI sản xuất tại Trung Quốc này cao đến mức Moonshot buộc phải tạm chấp nhận đăng ký mới vào cuối tối Chủ nhật để đối phó với nhu cầu áp đảo.
Thực tế Qwen3.8 Max cũng sẽ mở trọng số là đáng chú ý. Alibaba đã ngừng phát hành trọng số của các mô hình dẫn đầu của mình vào đầu năm nay, nhưng dường như đã thay đổi quyết định này; tôi nghi ngờ sự chuyển đổi này liên quan đến bài phát biểu của Tập Cận Bình về AI vào tuần trước, bài phát biểu này nhấn mạnh gấp đôi phương pháp mở trọng số:
Chúng ta nên坚持 nguyên tắc mở và cùng có lợi, thúc đẩy phát triển đổi mới sáng tạo. Là động cơ mới của tăng trưởng kinh tế thế giới và chất xúc tác cho chuyển đổi động lực tăng trưởng, trí tuệ nhân tạo đang đi từ thế giới số sang thế giới vật lý. Chúng ta nên nắm bắt cơ hội lịch sử hiếm có này, khuyến khích mã nguồn mở, mở, hợp tác và chia sẻ. Chúng ta nên thúc đẩy đổi mới công nghệ, phát triển công nghiệp và ứng dụng kịch bản của trí tuệ nhân tạo. Chúng ta nên phối hợp thúc đẩy chuyển đổi và nâng cấp các ngành công nghiệp truyền thống, nuôi dưỡng và mở rộng các ngành công nghiệp mới nổi, và quy hoạch tiên phong cho các ngành công nghiệp tương lai, để mọi ngành đều có thể hưởng lợi từ trí tuệ nhân tạo.
Chiến lược của Trung Quốc rất rõ ràng: hàng hóa hóa các sản phẩm bổ sung của bạn. Lưu ý rằng Tập Cận Bình rõ ràng liên kết sự mở rộng với AI "đi từ thế giới số sang thế giới vật lý"; thế giới vật lý là thế giới do Trung Quốc thống trị, và vị thế dẫn đầu của Trung Quốc trong các lĩnh vực như robot sẽ hưởng lợi rất nhiều từ các mô hình AI có sẵn rộng rãi.
Tương tự, Trung Quốc không muốn Mỹ đạt được lợi thế bất đối xứng về AI; nếu Trung Quốc có thể làm suy yếu các phòng thí nghiệm tiên phong của Mỹ đồng thời tăng cường bất kỳ và tất cả các đối thủ tiềm năng của Mỹ, thì càng tốt, và họ có thể hưởng lợi từ sự đổi mới gắn liền với hệ sinh thái mở.
Vấn đề chưng cất
Tương tự, đừng mong đợi bất kỳ biện pháp nào từ Trung Quốc đối với các cuộc tấn công chưng cất vào các phòng thí nghiệm tiên phong. Tôi cho rằng quy kết mọi thành công của các phòng thí nghiệm Trung Quốc cho chưng cất là sai, nhưng giả vờ rằng chưng cất không mang lại lợi thế khổng lồ cho các phòng thí nghiệm Trung Quốc cũng là sai. Lợi thế này thực sự显现 ra trong năm qua, khi học tăng cường sau huấn luyện trở nên ngày càng quan trọng đối với hiệu suất mô hình. Các phòng thí nghiệm Trung Quốc không phải xây dựng môi trường học tăng cường từ đầu, mà có thể đơn giản sử dụng các mô hình của phòng thí nghiệm tiên phong làm giáo viên, để đạt được cải thiện nhanh chóng với chi phí thấp hơn nhiều (đây không phải là lý do duy nhất khiến chi phí phát triển mô hình Trung Quốc thấp hơn, nhưng đây là một lý do quan trọng).
Thật thú vị, một trong những trường hợp sử dụng quan trọng nhất của các mô hình Trung Quốc ở phương Tây chính là chưng cất. Ví dụ, Thinking Machines, vừa phát hành mô hình trọng số mở, dựa vào các mô hình Trung Quốc để giải quyết vấn đề khởi động lạnh của học tăng cường. Dean Meyer và Konstantine Buhler đã viết một bài viết xuất sắc trên X, giải thích chưng cất có nghĩa là các mô hình trọng số mở phương Tây về cơ bản处于劣势 so với Trung Quốc:
Chưng cất không thể giải thích toàn bộ lợi thế dẫn đầu của Trung Quốc về các mô hình mở. Các phòng thí nghiệm Trung Quốc có các nhà nghiên cứu đẳng cấp thế giới, sức mạnh tính toán lớn, các mô hình pre-training mạnh mẽ, thiết kế đồng bộ phần cứng và phần mềm, và khả năng sau huấn luyện được cải thiện nhanh chóng. Nhưng chưng cất nén khoảng cách cuối cùng tốn kém giữa nền tảng mạnh mẽ và các hệ thống gần tiên phong. Ngay cả khi chưng cất chiếm tỷ lệ nhỏ trong tổng năng lực của mô hình Trung Quốc, nó cũng chiếm một phần quan trọng trong lợi thế tương đối của chúng so với các mô hình mở của Mỹ.
Các cơ chế thực thi mới sẽ khiến việc chưng cất quy mô lớn trở nên khó khăn hơn, chậm hơn và đắt đỏ hơn đối với các công ty Trung Quốc. Tuy nhiên, thực thi không thể loại bỏ chưng cất được hỗ trợ bởi các tác nhân quốc gia. Do đó, mỗi tiến bộ tiên phong của phương Tây đều tạo ra một giáo viên khác cho các phòng thí nghiệm Trung Quốc. Các nhà xây dựng phương Tây phải độc lập sao chép những khả năng này, hoặc chờ đợi học hỏi từ các mô hình Trung Quốc. Khoảng cách này mang lại cho các phòng thí nghiệm Trung Quốc lợi thế cấu trúc lặp đi lặp lại tương đối so với các công ty phương Tây.
Điểm này đáng được nhắc lại: vì các nhà sản xuất mô hình trọng số mở của Mỹ phải tuân thủ các điều khoản dịch vụ của các phòng thí nghiệm tiên phong, họ (1) kém hơn các lựa chọn thay thế của Trung Quốc, (2) cuối cùng chưng cất chính là chưng cất, chỉ là đi đường vòng qua các phòng thí nghiệm Trung Quốc. Wouldn't it be better if các nhà sản xuất mô hình trọng số mở phương Tây có thể truy cập trực tiếp từ nguồn?
Vì điều này, có một câu hỏi thú vị hơn xung quanh chưng cất: rốt cuộc tại sao nó lại không tốt? Rốt cuộc, các mô hình ngôn ngữ lớn chẳng phải là sự chưng cất của tất cả kiến thức trên internet mở, được các phòng thí nghiệm tiên phong thu thập và chưng cất thành các mô hình đang được chưng cất sao? Rốt cuộc ai ở đây bị xâm hại?
Trên thực tế, nghịch lý này chính là giải pháp. Tôi tin rằng các mô hình trọng số mở có lợi cho đổi mới (và, dựa trên nội dung trên, tôi cho rằng các phòng thí nghiệm tiên phong sẽ ổn), nhưng phụ thuộc vào Trung Quốc là một vấn đề. Mỹ nên thông qua một luật, (1) xác nhận rõ ràng rằng việc thu thập dữ liệu để huấn luyện mô hình thuộc sử dụng hợp lý, (2) ít nhất cấm các điều khoản dịch vụ禁止 chưng cất đối với các công ty Mỹ. Ngăn chặn chưng cất — thực chất là truy vấn API — là gần như không thể; Mỹ nên đi theo con đường khác, nghiêng về một chính sách bản quyền mới, vừa bảo vệ các phòng thí nghiệm, vừa đảm bảo rằng kiến thức họ học được cung cấp động lực cho đổi mới tiếp theo của người khác.
Lý do đáng lo ngại
Toàn bộ bài viết一直在消除对 Kimi K3 以及中国开放权重模型的过度反应; tuy nhiên, có một lý do đáng lo ngại, đó là an ninh mạng. Hãy xem câu chuyện này của The Stack:
Hugging Face cho biết cơ sở hạ tầng sản xuất của họ đã bị xâm nhập bởi hệ thống代理 AI "tự chủ" vào đầu tuần trước. Nhóm bảo mật của nền tảng ban đầu bị cản trở trong phản hồi sự cố (IR) bởi các rào cản mô hình tiên phong LLM của Mỹ không rõ tên, "chúng không thể phân biệt giữa người phản hồi sự cố và kẻ tấn công," họ nói. Do đó, những người bảo vệ của Hugging Face chuyển sang sử dụng mô hình mã nguồn mở GLM 5.2 từ phòng thí nghiệm Z.ai của Trung Quốc — chạy nó trên cơ sở hạ tầng của riêng họ để phân tích hơn 17.000 nhật ký hoặc dấu vết mà kẻ tấn công để lại.
Đối với Hugging Face có trụ sở tại New York, đây là một sự thừa nhận công khai đáng chú ý, công ty cho phép người dùng cộng tác trên các mô hình, bộ dữ liệu và ứng dụng, đã đạt mốc ARR 100 triệu đô la vào mùa hè năm nay. Trong một báo cáo sự cố, công ty khuyến nghị những người bảo vệ "chuẩn bị trước khi sự cố xảy ra một mô hình có năng lực có thể chạy trên cơ sở hạ tầng của riêng bạn [in nghiêng của chúng tôi],既 để tránh khóa rào cản, cũng để ngăn dữ liệu và thông tin xác thực của kẻ tấn công rời khỏi môi trường của bạn."
Thật khó để phóng đại phản ứng hoảng loạn của chính quyền Trump đối với việc Anthropic phát hành Fable sai lầm như thế nào, đặc biệt là vì nó làm trầm trọng thêm xu hướng tồi tệ nhất của Anthropic,即 giả định chỉ họ mới có thể được tin tưởng sử dụng AI mạnh mẽ. Trong một thế giới chỉ có một AI, có thể có lý do để giữ lại các khả năng an ninh mạng mạnh mẽ nhất cho chính phủ Mỹ và các đồng minh đáng tin cậy; tuy nhiên, đây không phải là thế giới chúng ta đang sống.
Đã có và sẽ có các mô hình hoàn toàn có khả năng thực hiện các cuộc tấn công an ninh mạng vào cơ sở hạ tầng hiện có, và các mô hình này sẽ — đã — có sẵn rộng rãi. Phòng thủ tốt nhất — trên thực tế là phòng thủ khả thi duy nhất — sẽ là đảm bảo những người bảo vệ cũng có được các mô hình tốt nhất. Hiện tại, do chỉ thị của chính quyền Trump, những người bảo vệ thực tế bị cấm sử dụng Fable hoặc Sol cho an ninh mạng; điều này có nghĩa là lựa chọn thay thế tốt nhất là sử dụng các mô hình từ một quốc gia đã nhiều năm cố gắng làm suy yếu phòng thủ mạng của chúng ta. Thật điên rồ!
Cách làm tốt hơn là rõ ràng: đầu tiên, nới lỏng các hạn chế đối với Fable và Sol trong an ninh mạng, thứ hai, đảm bảo các nhà sản xuất mô hình trọng số mở của Mỹ处于 môi trường cạnh tranh bình đẳng với Trung Quốc. Vâng, các phòng thí nghiệm tiên phong sẽ ồn ào, nhưng chính phủ nên nhận ra rằng việc nghe theo sự hoảng loạn của họ đã dẫn đến tình trạng các công ty Mỹ phụ thuộc vào Trung Quốc để phòng thủ. Hãy để các phòng thí nghiệm tiên phong chiến thắng bằng cách làm tốt hơn; đừng để họ định nghĩa bảo mật hoặc đảm bảo, và đừng để họ kéo thang kiến thức tập thể của loài người. Trung Quốc đã đủ khó để cạnh tranh; để họ gánh vác lá cờ mở và đổi mới简直 là từ bỏ lợi thế lớn nhất của chúng ta.
Chào mừng tham gia cộng đồng chính thức TechFlow
Nhóm Telegram:https://t.me/TechFlowDaily
Tài khoản Twitter chính thức:https://x.com/TechFlowPost
Tài khoản Twitter tiếng Anh:https://x.com/BlockFlow_News
@stratechery
