Trường hợp Lilli của McKinsey cung cấp những suy nghĩ phát triển quan trọng cho thị trường AI doanh nghiệp: Điện toán biên + cơ hội thị trường tiềm năng từ mô hình nhỏ. Trợ lý AI này, tích hợp 100.000 tài liệu nội bộ, không chỉ đạt được tỷ lệ áp dụng 70% từ nhân viên, mà còn được sử dụng trung bình 17 lần mỗi tuần, độ bám dính của sản phẩm này trong các công cụ doanh nghiệp là điều hiếm thấy. Dưới đây, tôi xin trình bày những suy nghĩ của mình:
1）Bảo mật dữ liệu doanh nghiệp là điểm đau: Tài sản tri thức cốt lõi tích lũy trong 100 năm của McKinsey cùng với một số dữ liệu cụ thể của các doanh nghiệp vừa và nhỏ đều có độ nhạy cảm dữ liệu rất cao, không thể xử lý trên đám mây công cộng. Cách khám phá một trạng thái cân bằng "dữ liệu không ra khỏi địa phương, khả năng AI không bị giảm" là nhu cầu thực sự trên thị trường. Điện toán biên là một hướng khám phá;
Các mô hình nhỏ chuyên nghiệp sẽ thay thế các mô hình lớn tổng quát: Người dùng doanh nghiệp không cần một mô hình tổng quát "hàng trăm tỷ tham số, toàn năng", mà là một trợ lý chuyên môn có khả năng trả lời chính xác các câu hỏi trong lĩnh vực cụ thể. So với đó, sự tổng quát của mô hình lớn và độ chuyên sâu của nó có mâu thuẫn tự nhiên, trong các bối cảnh doanh nghiệp thường chú trọng đến mô hình nhỏ hơn.
Cân bằng chi phí xây dựng hạ tầng AI và gọi API: Mặc dù sự kết hợp giữa điện toán biên và mô hình nhỏ có đầu tư ban đầu lớn, nhưng chi phí vận hành lâu dài giảm đáng kể. Hãy tưởng tượng nếu 45000 nhân viên thường xuyên sử dụng mô hình AI lớn qua việc gọi API, sự phụ thuộc này, quy mô sử dụng và sự gia tăng ý kiến sẽ làm cho việc tự xây dựng hạ tầng AI trở thành lựa chọn hợp lý cho các doanh nghiệp vừa và lớn;
Cơ hội mới trên thị trường phần cứng biên: Đào tạo mô hình lớn không thể thiếu GPU cao cấp, nhưng yêu cầu phần cứng cho suy luận biên thì hoàn toàn khác. Các nhà sản xuất chip như Qualcomm, MediaTek đang đón nhận cơ hội thị trường với bộ xử lý tối ưu cho AI biên. Khi mỗi doanh nghiệp đều muốn tạo ra "Lilli" của riêng mình, chip AI biên được thiết kế cho tiêu thụ điện năng thấp và hiệu suất cao sẽ trở thành những thứ thiết yếu của hạ tầng;
5）Thị trường AI web3 phi tập trung cũng được tăng cường đồng bộ: một khi nhu cầu về sức mạnh tính toán, tinh chỉnh, thuật toán trên mô hình nhỏ của doanh nghiệp được kích hoạt, việc cân bằng điều phối tài nguyên sẽ trở thành vấn đề, điều phối tài nguyên tập trung truyền thống sẽ trở thành thách thức, điều này sẽ trực tiếp mang lại nhu cầu thị trường lớn cho mạng tinh chỉnh mô hình nhỏ web3AI phi tập trung, nền tảng dịch vụ sức mạnh tính toán phi tập trung, v.v.
Khi thị trường vẫn đang thảo luận về ranh giới khả năng tổng quát của AGI, thì rất vui khi thấy nhiều người dùng doanh nghiệp đã bắt đầu khai thác giá trị thực tiễn của AI. Rõ ràng, so với những bước nhảy vọt độc quyền về tài nguyên như so sánh sức mạnh tính toán và thuật toán trong quá khứ, khi thị trường chuyển trọng tâm sang điện toán biên + mô hình nhỏ, sẽ mang lại sức sống mạnh mẽ hơn cho thị trường.
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Phân tích ngắn gọn về Lilli của McKinsey: Đã cung cấp những hướng phát triển nào cho thị trường AI doanh nghiệp?
Trường hợp Lilli của McKinsey cung cấp những suy nghĩ phát triển quan trọng cho thị trường AI doanh nghiệp: Điện toán biên + cơ hội thị trường tiềm năng từ mô hình nhỏ. Trợ lý AI này, tích hợp 100.000 tài liệu nội bộ, không chỉ đạt được tỷ lệ áp dụng 70% từ nhân viên, mà còn được sử dụng trung bình 17 lần mỗi tuần, độ bám dính của sản phẩm này trong các công cụ doanh nghiệp là điều hiếm thấy. Dưới đây, tôi xin trình bày những suy nghĩ của mình:
1）Bảo mật dữ liệu doanh nghiệp là điểm đau: Tài sản tri thức cốt lõi tích lũy trong 100 năm của McKinsey cùng với một số dữ liệu cụ thể của các doanh nghiệp vừa và nhỏ đều có độ nhạy cảm dữ liệu rất cao, không thể xử lý trên đám mây công cộng. Cách khám phá một trạng thái cân bằng "dữ liệu không ra khỏi địa phương, khả năng AI không bị giảm" là nhu cầu thực sự trên thị trường. Điện toán biên là một hướng khám phá;
Các mô hình nhỏ chuyên nghiệp sẽ thay thế các mô hình lớn tổng quát: Người dùng doanh nghiệp không cần một mô hình tổng quát "hàng trăm tỷ tham số, toàn năng", mà là một trợ lý chuyên môn có khả năng trả lời chính xác các câu hỏi trong lĩnh vực cụ thể. So với đó, sự tổng quát của mô hình lớn và độ chuyên sâu của nó có mâu thuẫn tự nhiên, trong các bối cảnh doanh nghiệp thường chú trọng đến mô hình nhỏ hơn.
Cân bằng chi phí xây dựng hạ tầng AI và gọi API: Mặc dù sự kết hợp giữa điện toán biên và mô hình nhỏ có đầu tư ban đầu lớn, nhưng chi phí vận hành lâu dài giảm đáng kể. Hãy tưởng tượng nếu 45000 nhân viên thường xuyên sử dụng mô hình AI lớn qua việc gọi API, sự phụ thuộc này, quy mô sử dụng và sự gia tăng ý kiến sẽ làm cho việc tự xây dựng hạ tầng AI trở thành lựa chọn hợp lý cho các doanh nghiệp vừa và lớn;
Cơ hội mới trên thị trường phần cứng biên: Đào tạo mô hình lớn không thể thiếu GPU cao cấp, nhưng yêu cầu phần cứng cho suy luận biên thì hoàn toàn khác. Các nhà sản xuất chip như Qualcomm, MediaTek đang đón nhận cơ hội thị trường với bộ xử lý tối ưu cho AI biên. Khi mỗi doanh nghiệp đều muốn tạo ra "Lilli" của riêng mình, chip AI biên được thiết kế cho tiêu thụ điện năng thấp và hiệu suất cao sẽ trở thành những thứ thiết yếu của hạ tầng;
5）Thị trường AI web3 phi tập trung cũng được tăng cường đồng bộ: một khi nhu cầu về sức mạnh tính toán, tinh chỉnh, thuật toán trên mô hình nhỏ của doanh nghiệp được kích hoạt, việc cân bằng điều phối tài nguyên sẽ trở thành vấn đề, điều phối tài nguyên tập trung truyền thống sẽ trở thành thách thức, điều này sẽ trực tiếp mang lại nhu cầu thị trường lớn cho mạng tinh chỉnh mô hình nhỏ web3AI phi tập trung, nền tảng dịch vụ sức mạnh tính toán phi tập trung, v.v.
Khi thị trường vẫn đang thảo luận về ranh giới khả năng tổng quát của AGI, thì rất vui khi thấy nhiều người dùng doanh nghiệp đã bắt đầu khai thác giá trị thực tiễn của AI. Rõ ràng, so với những bước nhảy vọt độc quyền về tài nguyên như so sánh sức mạnh tính toán và thuật toán trong quá khứ, khi thị trường chuyển trọng tâm sang điện toán biên + mô hình nhỏ, sẽ mang lại sức sống mạnh mẽ hơn cho thị trường.