Vi mạch AI "giống não người" mà OpenAI đầu tư nặng tay rốt cuộc là gì?
Tuyển chọn TechFlowTuyển chọn TechFlow
Vi mạch AI "giống não người" mà OpenAI đầu tư nặng tay rốt cuộc là gì?
Thoát thai từ RISC-V, có thể nâng cao hiệu suất năng lượng trong suy luận và huấn luyện lên 10.000 lần.
Chuyên sâu báo cáo Web3Tác giả: Mỹ Dị, GeekPark
Cuộc đấu tranh quyền lực tại OpenAI vừa mới hạ màn, thì một thương vụ then chốt đã âm thầm lộ diện.
Theo tờ Wired của phương Tây đưa tin, trong thời gian Sam Altman đảm nhiệm CEO tại OpenAI, công ty này đã ký một bản ghi nhớ trị giá 51 triệu USD với Rain AI, cam kết sẽ mua chip từ Rain AI ngay sau khi sản phẩm ra mắt.
Rain AI là một công ty khởi nghiệp chuyên về chip AI, hướng tới mục tiêu giảm mạnh chi phí tính toán cho trí tuệ nhân tạo. Bằng cách phát triển một loại chip AI mô phỏng cơ chế hoạt động của bộ não người—NPU—nhằm cung cấp phần cứng "chi phí thấp, hiệu suất năng lượng cao" cho các công ty AI như OpenAI và Anthropic.
Công ty khẳng định rằng: «So với GPU truyền thống, NPU có thể mang lại tiềm năng tăng cường 100 lần khả năng xử lý cho các nhà phát triển AI (ví dụ như OpenAI), đồng thời nâng cao hiệu suất năng lượng lên đến 10.000 lần trong quá trình huấn luyện.»
Xét thấy OpenAI luôn bị ám ảnh bởi tình trạng thiếu hụt năng lực tính toán, cũng không khó hiểu khi họ sẵn sàng chi hàng loạt tiền nhằm đảm bảo nguồn cung cấp chip cho các dự án AI của mình.
Chip do Rain AI phát triển có đặc điểm gì? Công ty này nổi lên như thế nào? Thương vụ đầu tư này tiết lộ điều gì về chiến lược của Altman và OpenAI trong lĩnh vực chip?
01 Chip AI «giống não người»
Sản phẩm chủ lực của Rain AI là chip AI «giống não người»—NPU—dựa trên công nghệ thần kinh mô phỏng (Neuromorphic). Chip được thiết kế nhằm xử lý thông tin hiệu quả và tiết kiệm điện năng, đáp ứng nhu cầu tính toán khắt khe của các tác vụ AI.
Nó mô phỏng cấu trúc và chức năng của bộ não người, tương tự như các kết nối thần kinh trong não, xây dựng mạng lưới dựa trên các khớp nối nhân tạo. Kiến trúc này cho phép NPU xử lý thông tin theo cách song song và phân tán, rất phù hợp với các «nhiệm vụ đòi hỏi nhiều tài nguyên tính toán» trong các ứng dụng AI.
Hơn nữa, Rain AI là công ty tiên phong áp dụng mô hình tính toán số trong bộ nhớ (D-IMC), tiếp tục cải thiện hiệu quả xử lý, di chuyển và lưu trữ dữ liệu AI.
NPU của Rain AI nhằm xử lý thông tin hiệu quả với mức tiêu thụ điện thấp, đáp ứng yêu cầu tính toán nghiêm ngặt của các tác vụ AI | Ảnh: Website chính thức Rain AI
Ngoài ra, Rain còn cung cấp cơ hội cấp phép sở hữu trí tuệ (IP) đối với các tile tính toán bộ nhớ kỹ thuật số và phần mềm stack, IP này được tùy chỉnh riêng cho các tải trọng AI trên các thiết bị đòi hỏi độ trễ cực thấp và hiệu suất năng lượng cao, bao gồm một loạt trường hợp sử dụng tính toán Ethernet khoảng cách xa (Long Reach Ethernet - LRE), như ô tô thông minh, đồng hồ thông minh, v.v.
Đối với sản phẩm của mình, Rain đặt khẩu hiệu «định nghĩa lại giới hạn của tính toán AI», đồng thời tuyên truyền rằng «bộ gia tốc AI của chúng tôi đạt được sự cân bằng chưa từng có giữa tốc độ, tiêu thụ điện, diện tích, độ chính xác và chi phí».
Xét thấy chip «giống não người» (NPU) mà Rain thiết kế hứa hẹn vận hành hiệu quả và tiết kiệm điện, điều này vô cùng quan trọng để vượt qua các «nút thắt cổ chai» liên quan đến các con chip cồng kềnh do Nvidia, AMD và các công ty khác sản xuất.
Bao gồm nhiều trường hợp tính toán LRE | Ảnh: Website chính thức Rain AI
Một trong những người sáng lập Rain AI, Gordon Wilson, còn thẳng thắn nói trên LinkedIn rằng: «Chip NPU sẽ định hình thị trường chip AI mới và làm đảo lộn mạnh mẽ thị trường hiện tại.»
Tuy nhiên, cần lưu ý rằng mặc dù Rain AI tuyên bố hiệu suất năng lượng tốt hơn GPU của Nvidia, nhưng chip ban đầu của Rain thực chất dựa trên kiến trúc mã nguồn mở RISC-V truyền thống, được hỗ trợ bởi Google, Qualcomm và các công ty công nghệ khác, nhằm phục vụ các thiết bị biên nằm ngoài trung tâm dữ liệu như điện thoại, máy bay không người lái, xe hơi và robot.
Tuy nhiên, phần lớn thiết kế chip biên hiện nay, ví dụ như chip dùng trong điện thoại thông minh, đều tập trung vào giai đoạn suy luận (inference) của mạng thần kinh. Trong khi đó, mục tiêu của Rain là cung cấp một loại chip có thể vừa dùng để huấn luyện mô hình và thuật toán, vừa dùng cho các hoạt động suy luận sau đó.
Hiện tại, Rain AI đã ra mắt nền tảng AI đầu tiên có thể thực hiện cả suy luận và huấn luyện, đồng thời tuyên bố chip «giống não người» (NPU) sẽ cho phép các mô hình AI tùy chỉnh hoặc tinh chỉnh theo môi trường xung quanh theo thời gian thực.
Về vấn đề này, Sam Altman từng công khai phát biểu: «Phương pháp thần kinh mô phỏng này có thể giảm đáng kể chi phí phát triển AI và hứa hẹn hỗ trợ việc đạt được AGI thực sự.»
Theo tin đồn, OpenAI hy vọng sử dụng những con chip này để giảm chi phí trung tâm dữ liệu, đồng thời triển khai các mô hình của mình lên các thiết bị như điện thoại và đồng hồ, do đó, chip «giống não người» (NPU) rõ ràng có sức hấp dẫn to lớn đối với OpenAI.
Tuy nhiên, tất cả những điều này vẫn chỉ là phỏng đoán. Hiện tại, cách OpenAI sẽ sử dụng chip Rain vẫn chưa được tiết lộ.
02 Mối liên hệ chặt chẽ với OpenAI
Rain AI được thành lập năm 2017, với mục tiêu xây dựng nền tảng tính toán «chi phí thấp» cho AI trong tương lai.
Rain AI có ba nhà đồng sáng lập: Jack Kendall, Gordon Wilson, Juan Claudio Nino, họ quen nhau tại Đại học Florida. Ngoài ra, công ty còn thuê Scott Gray, kỹ sư phần mềm của OpenAI, làm cố vấn.
Hiện tại, Rain AI có khoảng 40 nhân viên, bao gồm các chuyên gia về phát triển thuật toán AI và thiết kế chip truyền thống.
Nhóm sáng lập Rain AI｜Rain AI
Thú vị là, trụ sở của Rain AI cũng nằm ở San Francisco, cách OpenAI chưa đầy một dặm.
Ngay năm sau khi thành lập, Rain AI đã huy động được 5 triệu USD trong vòng hạt giống, với các nhà đầu tư bao gồm vườn ươm khởi nghiệp nổi tiếng Y Combinator.
Lúc đó, Altman đang giữ chức CEO của Y Combinator, đồng thời cá nhân ông cũng đầu tư 1 triệu USD vào Rain AI. Một năm sau, OpenAI thông qua thỏa thuận mua chip trị giá 51 triệu USD.
Tính đến tháng 4 năm 2022, sau vòng gọi vốn 25 triệu USD do quỹ thuộc Saudi Arabia Prosperity7 Ventures dẫn đầu, tổng số vốn huy động của Rain đạt 33 triệu USD, định giá cũng đạt 90 triệu USD.
Đầu năm nay, công ty tự hào khoe tiến độ với các nhà đầu tư tiềm năng, cho biết dự kiến tháng này có thể tung ra chip «thử nghiệm», điều này có nghĩa thiết kế chip đã hoàn tất và có thể bắt đầu sản xuất.
Rain AI cũng cho biết sớm nhất vào tháng 10 năm sau sẽ cung cấp lô chip đầu tiên cho khách hàng, thậm chí nhấn mạnh với các nhà đầu tư rằng họ đã tiến hành các cuộc đàm phán cấp cao với các gã khổng lồ công nghệ như Google, Oracle, Meta, Microsoft và Amazon để bán hệ thống cho họ. Tuy nhiên, Microsoft từ chối bình luận, các công ty khác không phản hồi yêu cầu bình luận.
Tóm lại, Rain AI vẫn đang trong giai đoạn phát triển, chưa rõ khi nào mới có thể thương mại hóa. Dù công nghệ chip «giống não người» (NPU) của công ty triển vọng rộng lớn và có nhiều người ủng hộ nổi bật, nhưng nó vẫn phải đối mặt với nhiều thách thức.
03 Tham vọng của OpenAI
Dù động thái đầu tư của Altman vào Rain AI có hay không chứa động cơ cá nhân, thì tình trạng thiếu hụt chip thực sự là một bài toán nan giải mà OpenAI đang phải đối mặt.
Thực tế, một năm trước, chỉ vài ngày sau khi ChatGPT ra mắt, Altman đã cảm thấy chi phí tính toán «kinh khủng». Sau đó, ông còn không ít lần than phiền công khai về sự «khan hiếm tàn khốc» và chi phí «kinh ngạc» của chip AI.
Tháng 5 năm nay, Altman còn bất lực thừa nhận: «OpenAI đang trải qua tình trạng thiếu hụt năng lực tính toán nghiêm trọng, khiến nhiều kế hoạch ngắn hạn bị trì hoãn.»
Ai cũng biết OpenAI tận dụng dịch vụ đám mây mạnh mẽ từ nhà đầu tư chính Microsoft, nhưng do giới hạn phần cứng, họ thường xuyên phải tắt một số chức năng nhất định của ChatGPT.
Altman phát biểu: «Tốc độ phát triển của AI có thể phụ thuộc vào thiết kế chip mới và chuỗi cung ứng.» Dù sao đi nữa, trong thời điểm hiện tại, năng lực tính toán là tất cả.
Thực tế, bản thân Altman từ lâu đã đầu tư và bố trí chiến lược trong lĩnh vực chip. Ngoài Rain AI, khoảng năm 2021 ông còn tham gia đầu tư vào Cerbras—công ty AI nổi tiếng với con chip to như cái đĩa, phải dùng hai tay bưng.
Chip to như cái đĩa | Ảnh: Website chính thức Cerbras
Đầu năm nay, khi «tiên tri silicon» Jim Keller và «thần đồng silicon» Sam Zeloof thành lập Atomic Semi (thông qua đơn giản hóa và thu nhỏ nhà máy bán dẫn và mẫu mạch tích hợp để nhanh chóng sản xuất chip giá cả phải chăng), Altman cũng chú ý theo dõi, và Quỹ khởi nghiệp OpenAI (OpenAI Startup Fund) còn tham gia đầu tư.
Nguồn ảnh: Analytics India Magazine
Ngoài ra, chỉ vài tuần trước khi bị OpenAI sa thải, còn có tin đồn rằng Altman đang tìm cách huy động hàng tỷ USD để thành lập một công ty chip mới.
Chi tiết dự án vẫn chưa rõ, chỉ biết mật danh là «Tigris», với mục tiêu cạnh tranh với Nvidia trong lĩnh vực chip AI.
Theo tin đồn, để thực hiện dự án «Tigris», Altman từng gây quỹ tại Trung Đông. Sự trùng hợp về địa điểm khiến người ta không khỏi nghi ngờ dự án này có liên quan gì đến Rain hay không.
Ngoài ra, Altman còn từng thảo luận với các lãnh đạo bán dẫn, bao gồm cả công ty thiết kế chip Arm, về cách thiết kế chip mới sớm nhất có thể nhằm giảm chi phí cho các công ty mô hình ngôn ngữ lớn như OpenAI.
Hơn nữa, không chỉ riêng Altman, bản thân OpenAI cũng đang tìm kiếm khả năng tạo ra mô hình lớn với chi phí thấp hơn, nhằm thoát khỏi sự phụ thuộc vào Nvidia.
Ngoài việc tìm kiếm các nhà cung cấp chip như Rain AI và đầu tư bên ngoài, thời gian gần đây OpenAI cũng bắt đầu thử tự nghiên cứu chip, đánh giá các mục tiêu tiềm năng để mua lại, đồng thời tuyển dụng nhân sự liên quan đến phần cứng.
Nguồn ảnh: Website chính thức OpenAI
Gần đây, OpenAI bổ nhiệm Richard Ho, cựu trưởng nhóm TPU của Google, làm giám đốc phần cứng, đồng thời tuyển dụng nhiều chuyên gia về trình biên dịch và kernel, và hiện đang tìm kiếm «chuyên gia thiết kế cơ sở hạ tầng trung tâm dữ liệu».
Richard Ho sẽ lãnh đạo một bộ phận mới tại OpenAI, đồng thời hỗ trợ tối ưu hóa mạng trung tâm dữ liệu, giá đỡ và tòa nhà của các đối tác.
Tuy nhiên, những khoản đầu tư chiến lược dài hạn này vẫn rất khó giải quyết vấn đề thiếu hụt GPU trước mắt. Hiện tại, OpenAI vẫn đang sử dụng quy mô lớn các chip của Nvidia.
Theo quan sát, OpenAI đang điều chỉnh linh hoạt năng lực của các sản phẩm như ChatGPT để tiết kiệm năng lực tính toán. Cũng vì vậy mà không khó hiểu khi gần đây người dùng phát hiện GPT-4 có xu hướng «lười biếng» hơn so với GPT-3.5.
Khi các mô hình lớn xuất hiện, mọi người bắt đầu quan tâm đến mức tiêu thụ điện năng của các trung tâm dữ liệu AI. Rain và một số công ty khởi nghiệp chip khác hướng tới việc sắp xếp lại cách xử lý dữ liệu nhằm giảm nhu cầu truyền tải và tiêu thụ điện.
Google, Microsoft, AMD, Intel, Amazon, cũng như các công ty khởi nghiệp như Cerabras, Sambanova, Rain... lần lượt tham gia vào cuộc đua chip AI tương lai. Liệu thị trường cung ứng năng lực tính toán AI có thay đổi? Và OpenAI có thể thoát khỏi tình trạng bị phụ thuộc vào năng lực tính toán hay không? Xét theo chu kỳ kéo dài của ngành chip, những thách thức này sẽ còn tồn tại trong một thời gian khá dài.
Chào mừng tham gia cộng đồng chính thức TechFlow
Nhóm Telegram:https://t.me/TechFlowDaily
Tài khoản Twitter chính thức:https://x.com/TechFlowPost
Tài khoản Twitter tiếng Anh:https://x.com/BlockFlow_News
极客公园
