
Lilli Case của McKinsey cung cấp những định hướng phát triển nào cho thị trường AI doanh nghiệp?
Tuyển chọn TechFlowTuyển chọn TechFlow

Lilli Case của McKinsey cung cấp những định hướng phát triển nào cho thị trường AI doanh nghiệp?
So với việc trước đây cạnh tranh nhau theo kiểu độc quyền tài nguyên về năng lực tính toán và thuật toán, khi thị trường chuyển trọng tâm sang phương thức điện toán biên kết hợp với mô hình nhỏ sẽ mang lại sức sống thị trường lớn hơn.
Bài viết: Haotian
Trường hợp Lilli của McKinsey đã cung cấp định hướng phát triển then chốt cho thị trường AI doanh nghiệp: cơ hội thị trường tiềm tàng từ điện toán biên + mô hình nhỏ. Trợ lý AI này, được tích hợp 100.000 tài liệu nội bộ, không chỉ đạt tỷ lệ sử dụng bởi 70% nhân viên mà còn được dùng trung bình 17 lần mỗi tuần — mức độ gắn kết sản phẩm như vậy rất hiếm trong các công cụ doanh nghiệp. Dưới đây là suy nghĩ của tôi:
1) Bảo mật dữ liệu doanh nghiệp là vấn đề nan giải: Tài sản tri thức cốt lõi tích lũy trong 100 năm của McKinsey cũng như những dữ liệu đặc thù mà các doanh nghiệp vừa và nhỏ tích lũy được đều có tính nhạy cảm dữ liệu cực cao, không thể xử lý trên đám mây công cộng. Làm thế nào để tìm ra trạng thái cân bằng “dữ liệu không rời khỏi nội bộ, năng lực AI không giảm sút” chính là nhu cầu thực tế của thị trường. Điện toán biên là một hướng đi khả thi;
2) Mô hình nhỏ chuyên biệt sẽ thay thế mô hình lớn phổ thông: Người dùng doanh nghiệp không cần một mô hình tổng quát “có hàng trăm tỷ tham số, đa năng”, mà cần một trợ lý chuyên biệt có thể trả lời chính xác các câu hỏi trong lĩnh vực cụ thể. So với đó, sự mâu thuẫn vốn có giữa tính phổ quát và độ sâu chuyên môn của mô hình lớn khiến các doanh nghiệp thường ưu tiên mô hình nhỏ hơn trong bối cảnh ứng dụng thực tế;
3) Cân bằng chi phí giữa tự xây dựng hạ tầng AI và gọi API: Mặc dù tổ hợp điện toán biên và mô hình nhỏ đòi hỏi chi phí đầu tư ban đầu lớn, nhưng chi phí vận hành dài hạn giảm đáng kể. Hãy tưởng tượng nếu mô hình AI lớn được 45.000 nhân viên sử dụng thường xuyên phải phụ thuộc vào việc gọi API, thì sự phụ thuộc, quy mô sử dụng và chi phí tăng dần theo thời gian sẽ khiến việc tự xây dựng hạ tầng AI trở thành lựa chọn hợp lý đối với các doanh nghiệp vừa và lớn;
4) Cơ hội mới cho thị trường phần cứng biên: Việc huấn luyện mô hình lớn không thể thiếu GPU cao cấp, nhưng yêu cầu phần cứng cho suy luận biên hoàn toàn khác biệt. Các nhà sản xuất chip như Qualcomm, MediaTek đang đón cơ hội thị trường tốt nhờ các bộ xử lý được tối ưu hóa cho AI biên. Khi mọi doanh nghiệp đều muốn tạo ra "Lilli" riêng, chip AI biên được thiết kế riêng cho tiêu thụ điện thấp và hiệu suất cao sẽ trở thành phần thiết yếu của hạ tầng;
5) Thị trường web3 AI phi tập trung cũng đồng thời gia tăng: Một khi nhu cầu về sức mạnh tính toán, tinh chỉnh, thuật toán cho mô hình nhỏ tại doanh nghiệp được thúc đẩy, bài toán cân bằng phân bổ tài nguyên sẽ nảy sinh. Cách phân bổ tài nguyên truyền thống, tập trung sẽ trở nên khó khăn, điều này trực tiếp tạo ra nhu cầu lớn đối với các mạng lưới tinh chỉnh mô hình nhỏ phi tập trung, nền tảng dịch vụ tính toán phi tập trung trong web3AI;
Khi thị trường vẫn đang tranh luận về giới hạn năng lực tổng quát của AGI, thật đáng mừng khi thấy nhiều người dùng doanh nghiệp đã bắt đầu khai thác giá trị thực tiễn của AI. Rõ ràng, so với cách tiếp cận trước đây dựa trên cuộc đua độc quyền tài nguyên về sức mạnh tính toán và thuật toán, việc chuyển trọng tâm sang điện toán biên + mô hình nhỏ sẽ mang lại sức sống lớn hơn cho thị trường.
Chào mừng tham gia cộng đồng chính thức TechFlow
Nhóm Telegram:https://t.me/TechFlowDaily
Tài khoản Twitter chính thức:https://x.com/TechFlowPost
Tài khoản Twitter tiếng Anh:https://x.com/BlockFlow_News














