AI+Web3: Con đường phát triển tương lai (Phần 2): Lĩnh vực hạ tầng
Tuyển chọn TechFlowTuyển chọn TechFlow
AI+Web3: Con đường phát triển tương lai (Phần 2): Lĩnh vực hạ tầng
Các dự án chính trong tầng cơ sở hạ tầng của ngành công nghiệp AI+Web3 chủ yếu theo hướng đi là mạng tính toán phi tập trung, với lợi thế chủ yếu là chi phí thấp, mở rộng mạng thông qua cơ chế khuyến khích bằng token và hướng tới mục tiêu phục vụ khách hàng AI+Web3.
Chuyên sâu báo cáo Web3Tác giả: Future3 Campus
Bài viết này là phần thứ hai trong báo cáo nghiên cứu ngành AI+Web3 của Future3 Campus, phân tích sâu tiềm năng phát triển, logic câu chuyện và các dự án tiêu biểu ở tầng cơ sở hạ tầng. Phần một: Con đường phát triển tương lai của AI+Web3 (Phần 1): Bối cảnh ngành và logic kể chuyện.
Cơ sở hạ tầng là hướng tăng trưởng chắc chắn trong sự phát triển của AI
Nhu cầu về sức mạnh tính toán AI bùng nổ
Trong những năm gần đây, nhu cầu về khả năng xử lý đã tăng nhanh chóng, đặc biệt sau khi ra mắt mô hình lớn LLM, nhu cầu về sức mạnh tính toán AI đã làm bùng nổ thị trường máy tính hiệu suất cao. Theo dữ liệu từ OpenAI, kể từ năm 2012, việc sử dụng tính toán để huấn luyện các mô hình AI lớn nhất đã tăng theo cấp số nhân, trung bình cứ 3-4 tháng lại tăng gấp đôi, tốc độ tăng trưởng này vượt xa định luật Moore. Sự gia tăng nhu cầu ứng dụng AI dẫn đến nhu cầu ngày càng tăng đối với phần cứng tính toán, dự kiến đến năm 2025, nhu cầu về phần cứng tính toán cho các ứng dụng AI sẽ tăng khoảng 10% đến 15%.
Chịu ảnh hưởng từ nhu cầu sức mạnh tính toán AI, doanh thu mảng trung tâm dữ liệu của nhà sản xuất phần cứng GPU NVIDIA liên tục tăng, đạt 10,32 tỷ USD trong quý 2/2023, tăng 141% so với quý 1/2023 và tăng 171% so với cùng kỳ năm trước. Trong quý 4 tài chính 2024, mảng trung tâm dữ liệu chiếm hơn 83% doanh thu, tăng 409% so với cùng kỳ, trong đó 40% dành cho các tình huống suy luận mô hình lớn, cho thấy nhu cầu mạnh mẽ đối với sức mạnh tính toán hiệu suất cao.
Đồng thời, lượng dữ liệu khổng lồ cũng đặt ra yêu cầu cao đối với lưu trữ và bộ nhớ phần cứng, đặc biệt trong giai đoạn huấn luyện mô hình, cần nhập tham số quy mô lớn và lưu trữ khối lượng dữ liệu lớn. Các chip lưu trữ được sử dụng chủ yếu trong máy chủ AI gồm: Bộ nhớ băng thông cao (HBM), DRAM và SSD, cần cung cấp dung lượng lớn hơn, hiệu suất cao hơn, độ trễ thấp hơn và tốc độ phản hồi nhanh hơn nhằm phù hợp với môi trường làm việc của máy chủ AI. Theo ước tính của Micron, lượng DRAM trong máy chủ AI gấp 8 lần máy chủ truyền thống, NAND gấp 3 lần.
Mất cân bằng cung - cầu đẩy chi phí tính toán lên cao
Thông thường, sức mạnh tính toán chủ yếu được dùng trong các giai đoạn huấn luyện, tinh chỉnh và suy luận mô hình AI, đặc biệt trong giai đoạn huấn luyện và tinh chỉnh, do đầu vào dữ liệu và tham số lớn hơn, đồng thời yêu cầu cao hơn về kết nối tính toán song song, nên cần phần cứng GPU hiệu suất cao hơn, thường là cụm GPU hiệu suất cao. Khi mô hình lớn phát triển, độ phức tạp tính toán cũng tăng vọt, đòi hỏi nhiều phần cứng cao cấp hơn để đáp ứng nhu cầu huấn luyện mô hình.
Lấy GPT-3 làm ví dụ, trong trường hợp có 13 triệu người dùng độc lập truy cập, nhu cầu về chip tương ứng là hơn 30.000 chiếc A100GPU. Chi phí đầu tư ban đầu sẽ lên tới con số kinh ngạc 800 triệu USD, chi phí suy luận mô hình hàng ngày ước tính khoảng 700.000 USD.
Đồng thời, theo báo cáo ngành, trong quý 4 năm 2023, nguồn cung GPU của NVIDIA trên toàn cầu bị hạn chế nghiêm trọng, dẫn đến tình trạng cầu vượt cung rõ rệt trên thị trường toàn cầu. Năng lực sản xuất của NVIDIA bị giới hạn bởi năng lực sản xuất của TSMC, HBM, đóng gói CoWos... Vấn đề thiếu hụt nghiêm trọng GPU H100 ít nhất sẽ kéo dài đến cuối năm 2024.
Do đó, cả nhu cầu tăng cao đối với GPU cao cấp và nguồn cung bị gián đoạn đã cùng nhau đẩy giá phần cứng như GPU lên mức rất cao, đặc biệt là những công ty như NVIDIA nắm giữ vị trí then chốt trong chuỗi ngành, có thể tiếp tục thu lợi thêm nhờ độc quyền. Ví dụ, chi phí vật liệu của card tăng tốc AI H100 của NVIDIA khoảng 3.000 USD, nhưng đến giữa năm 2023, giá bán đã đạt khoảng 35.000 USD, thậm chí trên eBay còn bán được hơn 40.000 USD.
Cơ sở hạ tầng AI chiếm vị trí tăng trưởng giá trị trọng tâm trong chuỗi ngành
Báo cáo của Grand View Research cho biết, quy mô thị trường AI đám mây toàn cầu được ước tính đạt 62,63 tỷ USD vào năm 2023 và dự kiến sẽ tăng lên 647,6 tỷ USD vào năm 2030, tốc độ tăng trưởng kép hàng năm đạt 39,6%. Dữ liệu này phản ánh tiềm năng tăng trưởng của dịch vụ AI đám mây và tỷ trọng quan trọng của nó trong toàn bộ chuỗi ngành AI.
Theo ước tính của a16z, một lượng lớn vốn trong thị trường AIGC cuối cùng chảy vào các công ty cơ sở hạ tầng. Trung bình, các công ty ứng dụng dành khoảng 20-40% doanh thu cho suy luận và tinh chỉnh riêng cho từng khách hàng. Khoản này thường được thanh toán trực tiếp cho nhà cung cấp dịch vụ đám mây hoặc nhà cung cấp mô hình bên thứ ba—lại tiếp tục, nhà cung cấp mô hình bên thứ ba chi khoảng một nửa doanh thu cho cơ sở hạ tầng đám mây. Do đó, có lý do để cho rằng khoảng 10-20% tổng doanh thu hiện tại của AIGC đang chảy về các nhà cung cấp đám mây.
Đồng thời, phần lớn hơn nhu cầu tính toán nằm ở việc huấn luyện các mô hình AI lớn, chẳng hạn như các mô hình LLM khác nhau, đặc biệt với các công ty khởi nghiệp mô hình, 80-90% chi phí được dùng cho việc sử dụng sức mạnh tính toán AI. Tổng thể, cơ sở hạ tầng tính toán AI (bao gồm điện toán đám mây và phần cứng) dự kiến chiếm hơn 50% giá trị thị trường trong giai đoạn đầu.
Tính toán AI phi tập trung
Như đã nêu ở trên, chi phí tính toán AI tập trung hiện tại rất cao, một nguyên nhân quan trọng là nhu cầu về cơ sở hạ tầng hiệu suất cao cho việc huấn luyện AI tăng mạnh. Nhưng thực tế, trên thị trường vẫn tồn tại lượng lớn sức mạnh tính toán bị闲置, gây ra tình trạng mất cân bằng cung - cầu. Nguyên nhân chính là:
-
Do giới hạn bộ nhớ, độ phức tạp mô hình và số lượng GPU cần thiết không tăng theo tỷ lệ tuyến tính: GPU hiện tại có lợi thế về sức mạnh tính toán, nhưng huấn luyện mô hình cần lưu trữ lượng lớn tham số trong bộ nhớ. Ví dụ, với GPT-3, để huấn luyện mô hình 175 tỷ tham số, cần lưu trữ hơn 1TB dữ liệu trong bộ nhớ—vượt quá bất kỳ GPU nào hiện nay, do đó cần nhiều GPU hơn để tính toán và lưu trữ song song, điều này lại khiến sức mạnh tính toán GPU bị闲置. Chẳng hạn, từ GPT-3 đến GPT-4, quy mô tham số mô hình tăng khoảng 10 lần, nhưng số lượng GPU cần thiết tăng 24 lần (chưa tính đến thời gian huấn luyện tăng). Theo phân tích liên quan, OpenAI đã sử dụng khoảng 2,15e25 FLOPS để huấn luyện GPT-4, trên khoảng 25.000 GPU A100 trong 90-100 ngày, hiệu suất sử dụng sức mạnh tính toán chỉ khoảng 32%-36%.
Trước những vấn đề trên, việc thiết kế chip hiệu suất cao hoặc chip ASIC chuyên dụng phù hợp hơn với công việc AI là hướng đi mà nhiều nhà phát triển và doanh nghiệp lớn đang khám phá, một góc nhìn khác là tận dụng tổng hợp các tài nguyên tính toán hiện có, xây dựng mạng lưới sức mạnh tính toán phân tán, thông qua thuê, chia sẻ, điều phối sức mạnh tính toán để giảm chi phí. Ngoài ra, hiện nay thị trường có rất nhiều GPU và CPU tiêu dùng闲置, dù sức mạnh tính toán đơn lẻ không mạnh, nhưng trong một số tình huống hoặc khi cấu hình cùng chip hiệu suất cao hiện tại vẫn có thể đáp ứng nhu cầu tính toán hiện tại, quan trọng nhất là nguồn cung dồi dào, có thể giảm chi phí hơn nữa thông qua điều phối mạng phân tán.
Do đó, sức mạnh tính toán phân tán trở thành một hướng phát triển của cơ sở hạ tầng AI. Đồng thời vì Web3 và phân tán có khái niệm tương đồng, mạng lưới sức mạnh tính toán phi tập trung cũng là hướng ứng dụng chính hiện tại của cơ sở hạ tầng Web3+AI. Các nền tảng sức mạnh tính toán phi tập trung Web3 trên thị trường hiện nay đều có thể cung cấp giá rẻ hơn 80%-90% so với sức mạnh tính toán đám mây tập trung.
Dù lưu trữ cũng là cơ sở hạ tầng quan trọng nhất đối với AI, nhưng yêu cầu về quy mô lớn, dễ sử dụng, độ trễ thấp khiến lưu trữ tập trung hiện nay có lợi thế lớn hơn. Trong khi mạng tính toán phân tán nhờ lợi thế chi phí rõ rệt, nên có thị trường thực tế hơn, có thể tận hưởng tốt hơn lợi ích từ sự bùng nổ thị trường AI.
-
Suy luận mô hình và huấn luyện mô hình nhỏ là các tình huống cốt lõi hiện tại của sức mạnh tính toán phân tán. Do tài nguyên tính toán phân tán, không tránh khỏi việc gia tăng vấn đề truyền thông giữa các GPU, do đó làm giảm hiệu suất tính toán. Vì vậy, sức mạnh tính toán phân tán trước hết phù hợp hơn với các tình huống yêu cầu truyền thông ít, hỗ trợ song song, ví dụ như giai đoạn suy luận mô hình AI lớn, và các mô hình nhỏ với số lượng tham số ít, chịu ảnh hưởng hiệu suất nhỏ hơn. Thực tế, khi AI ứng dụng phát triển trong tương lai, suy luận mới là nhu cầu cốt lõi ở lớp ứng dụng, phần lớn công ty không đủ khả năng huấn luyện mô hình lớn, do đó sức mạnh tính toán phân tán vẫn có tiềm năng thị trường lâu dài.
-
-
Các khung huấn luyện phân tán hiệu suất cao được thiết kế cho tính toán song song quy mô lớn cũng liên tục xuất hiện. Ví dụ như các khung tính toán phân tán mã nguồn mở sáng tạo như Pytorch, Ray, DeepSpeed đã cung cấp hỗ trợ nền tảng mạnh mẽ hơn cho nhà phát triển sử dụng sức mạnh tính toán phân tán để huấn luyện mô hình, khiến sức mạnh tính toán phân tán trong tương lai sẽ có tính ứng dụng mạnh hơn trên thị trường AI.
Logic kể chuyện của các dự án cơ sở hạ tầng AI+Web3
Chúng ta thấy rằng nhu cầu về cơ sở hạ tầng AI phân tán mạnh mẽ và có tiềm năng tăng trưởng dài hạn, do đó đây là lĩnh vực dễ kể chuyện và được giới vốn ưa chuộng. Hiện tại, các dự án chính ở tầng cơ sở hạ tầng ngành AI+Web3 chủ yếu tập trung vào câu chuyện mạng tính toán phi tập trung, lấy ưu thế chi phí thấp, sử dụng hình thức mở rộng mạng bằng thưởng token, và hướng tới mục tiêu phục vụ khách hàng AI+Web3. Bao gồm hai cấp độ chính:
1.Nền tảng chia sẻ và cho thuê tài nguyên điện toán đám mây phi tập trung khá thuần túy: Có nhiều dự án AI sớm, ví dụ Render Network, Akash Network, v.v.;
-
Tài nguyên tính toán là lợi thế cạnh tranh chính: Lợi thế cạnh tranh cốt lõi và tài nguyên thường là khả năng tiếp cận lượng lớn nhà cung cấp sức mạnh tính toán, nhanh chóng xây dựng mạng lưới cơ bản, đồng thời cung cấp sản phẩm dễ sử dụng cho khách hàng. Trong thị trường sơ khai, nhiều công ty điện toán đám mây và thợ đào tiền mã hóa sẽ dễ dàng thâm nhập lĩnh vực này hơn.
-
Ngưỡng sản phẩm thấp, ra mắt nhanh: Với các sản phẩm trưởng thành như Render Network, Akash Network, đã có thể thấy dữ liệu tăng trưởng thực tế, có lợi thế dẫn đầu nhất định.
-
Dự án mới gia nhập sản phẩm đồng nhất hóa: Do điểm nóng hiện tại của lĩnh vực và đặc điểm ngưỡng thấp của loại sản phẩm này, gần đây đã có một loạt dự án kể chuyện chia sẻ sức mạnh tính toán, thuê sức mạnh tính toán, nhưng sản phẩm khá đồng nhất, cần thêm lợi thế cạnh tranh khác biệt hóa.
-
Xu hướng phục vụ khách hàng có nhu cầu tính toán đơn giản: Ví dụ Render Network chủ yếu phục vụ nhu cầu render, Akash Network cung cấp nhiều tài nguyên CPU hơn. Việc thuê tài nguyên tính toán đơn giản phần lớn đáp ứng nhu cầu nhiệm vụ AI đơn giản, không thể đáp ứng nhu cầu vòng đời đầy đủ như huấn luyện, tinh chỉnh, suy luận AI phức tạp.
2.Cung cấp dịch vụ tính toán phi tập trung + quy trình làm việc ML: Có nhiều dự án mới nổi nhận được tài trợ lớn gần đây, ví dụ như Gensyn, io.net, Ritual, v.v.;
-
Tính toán phi tập trung nâng nền định giá. Vì sức mạnh tính toán là câu chuyện chắc chắn trong phát triển AI, các dự án có nền tảng sức mạnh tính toán thường có mô hình kinh doanh ổn định và tiềm năng cao hơn, khiến định giá cao hơn so với các dự án thuần lớp trung gian.
-
Dịch vụ lớp trung gian tạo ra lợi thế khác biệt. Dịch vụ lớp trung gian là phần mang lại lợi thế cạnh tranh cho các cơ sở hạ tầng sức mạnh tính toán này, ví dụ như oracles và trình xác minh đồng bộ tính toán trên và ngoài chuỗi cho AI, công cụ triển khai và quản lý quy trình làm việc AI tổng thể, v.v. Quy trình làm việc AI có đặc điểm cộng tác, phản hồi liên tục, độ phức tạp cao, cần sử dụng sức mạnh tính toán ở nhiều khâu, do đó một cơ sở hạ tầng lớp trung gian dễ sử dụng, tính cộng tác cao, đáp ứng nhu cầu phức tạp của nhà phát triển AI sẽ có tính cạnh tranh, đặc biệt trong lĩnh vực Web3 cần đáp ứng nhu cầu AI của nhà phát triển Web3. Những dịch vụ như vậy dễ dàng tiếp cận thị trường ứng dụng AI tiềm năng, chứ không chỉ hỗ trợ nhu cầu tính toán đơn giản.
-
Thường cần đội ngũ dự án có kinh nghiệm vận hành chuyên môn trong lĩnh vực ML. Đội ngũ cung cấp các dịch vụ lớp trung gian trên cần hiểu rõ chi tiết toàn bộ quy trình làm việc ML để đáp ứng tốt hơn nhu cầu vòng đời đầy đủ của nhà phát triển. Dù các dịch vụ này thường sử dụng nhiều khung và công cụ mã nguồn mở hiện có, không nhất thiết phải có đổi mới công nghệ mạnh, nhưng vẫn cần đội ngũ giàu kinh nghiệm và năng lực kỹ thuật mạnh, đây cũng là lợi thế cạnh tranh của dự án.
Bằng cách cung cấp dịch vụ giá rẻ hơn so với dịch vụ điện toán đám mây tập trung, nhưng đi kèm trải nghiệm sử dụng tương đương, các dự án này đã nhận được sự công nhận từ nhiều nhà đầu tư hàng đầu, tuy nhiên độ phức tạp kỹ thuật cũng cao hơn, hiện tại chủ yếu ở giai đoạn kể chuyện và phát triển, chưa có sản phẩm hoàn thiện ra mắt.
Các dự án tiêu biểu
Render Network
Render Network là một nền tảng render toàn cầu dựa trên blockchain, cung cấp GPU phân tán, mang lại dịch vụ render 3D chi phí thấp hơn và nhanh hơn cho các nhà sáng tạo. Sau khi nhà sáng tạo xác nhận kết quả render, mạng blockchain sẽ gửi thưởng token cho các nút. Nền tảng cung cấp mạng điều phối và phân bổ GPU phân tán, phân bổ công việc theo mức sử dụng và uy tín của nút, tối đa hóa hiệu quả tính toán, giảm thiểu tài nguyên闲置 và giảm chi phí.
Token RNDR của Render Network là token thanh toán trong nền tảng, nhà sáng tạo có thể dùng RNDR để thanh toán dịch vụ render, nhà cung cấp dịch vụ nhận thưởng RNDR bằng cách cung cấp sức mạnh tính toán hoàn thành công việc render. Giá dịch vụ render sẽ điều chỉnh động theo tình hình sử dụng mạng hiện tại.
Render là tình huống áp dụng kiến trúc sức mạnh tính toán phân tán tương đối phù hợp và trưởng thành, vì có thể chia nhiệm vụ render thành nhiều nhiệm vụ con thực hiện song song cao độ, không cần nhiều truyền thông và tương tác giữa các nhiệm vụ, do đó có thể tối đa hóa tránh nhược điểm kiến trúc sức mạnh tính toán phân tán, đồng thời tận dụng hiệu quả mạng nút GPU rộng rãi, giảm chi phí hiệu quả.
Do đó, nhu cầu người dùng Render Network cũng khá đáng kể, kể từ khi thành lập năm 2017, mạng lưới Render Network đã render hơn 16 triệu khung hình và gần 500.000 cảnh, số khung hình render và số nút hoạt động đều xu hướng tăng. Ngoài ra, Render Network đã ra mắt tích hợp gốc bộ công cụ Stability AI trong quý 1/2023, người dùng có thể dùng chức năng này đưa nhiệm vụ Stable Diffusion, kinh doanh cũng không còn giới hạn ở nhiệm vụ render mà mở rộng sang lĩnh vực AI.
Gensyn.ai
Gensyn là một mạng lưới siêu cụm tính toán toàn cầu dành cho tính toán học sâu, dựa trên giao thức L1 Polkadot, năm 2023 đã huy động được 43 triệu USD vòng Series A do a16z dẫn đầu.
Trong cấu trúc kể chuyện của Gensyn không chỉ bao gồm cụm sức mạnh tính toán phân tán ở tầng cơ sở hạ tầng, mà còn hệ thống xác minh ở tầng trên, chứng minh rằng tính toán quy mô lớn thực hiện ngoài chuỗi tuân thủ yêu cầu của chuỗi, tức là dùng blockchain để xác minh, từ đó xây dựng một mạng học máy tin cậy.
Về sức mạnh tính toán phân tán, Gensyn có thể hỗ trợ từ trung tâm dữ liệu có dung lượng dư thừa đến laptop cá nhân có GPU tiềm năng, kết nối các thiết bị này thành một cụm ảo duy nhất, nhà phát triển có thể truy cập theo nhu cầu và sử dụng điểm-điểm. Gensyn sẽ tạo ra một thị trường với giá cả do thị trường quyết định động và mở cửa cho tất cả người tham gia, giúp chi phí đơn vị tính toán ML đạt cân bằng công bằng.
Hệ thống xác minh là khái niệm quan trọng hơn của Gensyn, nó mong muốn mạng lưới có thể xác minh nhiệm vụ học máy có được hoàn thành đúng như yêu cầu hay không, nó đổi mới một phương pháp xác minh hiệu quả hơn, bao gồm ba điểm công nghệ cốt lõi: bằng chứng học xác suất, giao thức định vị chính xác dựa trên đồ thị và trò chơi khuyến khích kiểu Truebit, hiệu quả hơn nhiều so với phương pháp xác minh lặp lại truyền thống trong blockchain. Người tham gia trong mạng gồm người nộp, người giải, người xác minh và người tố cáo, để hoàn thành toàn bộ quy trình xác minh.
Theo dữ liệu kiểm tra tổng hợp trong sách trắng của Gensyn, hiện tại lợi thế nổi bật của nó là:
-
Có thể giảm chi phí huấn luyện mô hình AI: Dự kiến chi phí mỗi giờ tính toán tương đương NVIDIA V100 trên giao thức Gensyn khoảng 0,40 USD, rẻ hơn 80% so với tính toán theo nhu cầu của AWS.
-
Mạng xác minh tin cậy hiệu quả hơn: Theo kiểm tra trong sách trắng, thời gian chi phí huấn luyện mô hình của giao thức Gensyn, so với sao chép kiểu Truebit, hiệu suất tăng 1.350%, so với Ethereum, hiệu suất tăng 2.522.477%.
Tuy nhiên, so với huấn luyện cục bộ, sức mạnh tính toán phân tán do vấn đề truyền thông và mạng, không tránh khỏi việc tăng thời gian huấn luyện, trong dữ liệu kiểm tra, giao thức Gensyn làm tăng khoảng 46% thời gian chi phí cho huấn luyện mô hình.
Akash network
Akash network là một nền tảng điện toán đám mây phân tán, kết hợp các thành phần công nghệ khác nhau, cho phép người dùng triển khai và quản lý ứng dụng một cách hiệu quả, linh hoạt trong môi trường đám mây phi tập trung, nói đơn giản là cung cấp dịch vụ thuê tài nguyên tính toán phân tán.
Lớp nền của Akash là nhiều nhà cung cấp dịch vụ cơ sở hạ tầng trên toàn cầu, cung cấp tài nguyên CPU, GPU, bộ nhớ, lưu trữ, và thông qua cụm Kubernetes ở tầng trên cung cấp tài nguyên cho người dùng thuê. Người dùng có thể triển khai ứng dụng dưới dạng container Docker để sử dụng dịch vụ cơ sở hạ tầng chi phí thấp hơn. Đồng thời, Akash sử dụng phương thức «đấu giá ngược» để tiếp tục giảm giá tài nguyên. Theo ước tính trên website Akash, chi phí dịch vụ nền tảng thấp hơn khoảng 80% so với máy chủ tập trung.
io.net
io.net là một mạng tính toán phi tập trung, kết nối GPU phân tán toàn cầu, cung cấp sức mạnh tính toán cho huấn luyện và suy luận mô hình AI. io.net vừa hoàn thành vòng Series A huy động 30 triệu USD, định giá đạt 1 tỷ USD.
So với Render, Akash..., io.net là một mạng tính toán phi tập trung toàn diện và mở rộng tốt hơn, tích hợp công cụ phát triển ở nhiều tầng, đặc điểm bao gồm:
-
Tập hợp tài nguyên tính toán phong phú hơn: Trung tâm dữ liệu độc lập, thợ đào tiền mã hóa và GPU từ các dự án mã hóa như Filecoin, Render.
-
Hỗ trợ cốt lõi nhu cầu AI: Các chức năng dịch vụ cốt lõi bao gồm suy luận theo lô và dịch vụ mô hình, huấn luyện song song, điều chỉnh siêu tham số song song và học tăng cường.
-
Ngăn xếp công nghệ toàn diện hơn để hỗ trợ quy trình làm việc hiệu quả trong môi trường đám mây: Bao gồm nhiều công cụ biên đạo, khung ML (phân bổ tài nguyên tính toán, thực thi thuật toán, huấn luyện và suy luận mô hình, v.v.), giải pháp lưu trữ dữ liệu, công cụ giám sát và quản lý GPU, v.v.
-
Khả năng tính toán song song: Tích hợp khung tính toán phân tán mã nguồn mở Ray, đón nhận tính song song gốc của Ray, dễ dàng song song hóa hàm Python, từ đó đạt được thực thi nhiệm vụ động. Bộ nhớ trong của nó đảm bảo chia sẻ dữ liệu nhanh giữa các nhiệm vụ, loại bỏ độ trễ serial hóa. Ngoài ra, io.net không chỉ giới hạn ở Python, còn tích hợp các khung ML hàng đầu khác như PyTorch và TensorFlow, khiến khả năng mở rộng mạnh hơn.
Về giá cả, website io.net dự kiến giá sẽ giảm khoảng 90% so với dịch vụ điện toán đám mây tập trung.
Ngoài ra, token IO coin của io.net trong tương lai chủ yếu dùng để thanh toán và thưởng trong hệ sinh thái, hoặc bên có nhu cầu cũng có thể dùng mô hình giống Helium đốt IO coin để đổi lấy stablecoin «điểm IOSD» để thanh toán.
Chào mừng tham gia cộng đồng chính thức TechFlow
Nhóm Telegram:https://t.me/TechFlowDaily
Tài khoản Twitter chính thức:https://x.com/TechFlowPost
Tài khoản Twitter tiếng Anh:https://x.com/BlockFlow_News
