Le cas Lilli de McKinsey offre des idées clés pour le développement du marché de l'IA d'entreprise : Informatique de pointe + opportunités de marché potentielles des petits modèles. Cet assistant IA, qui intègre 100 000 documents internes, a non seulement obtenu un taux d'adoption de 70 % parmi les employés, mais est également utilisé en moyenne 17 fois par semaine, une telle fidélité des produits est rare dans les outils d'entreprise. Voici mes réflexions :
La sécurité des données d'entreprise est un point de douleur : les actifs de connaissances essentiels accumulés par McKinsey au cours de 100 ans ainsi que certaines données spécifiques accumulées par des PME ont une sensibilité aux données très forte et ne devraient pas être traitées sur le cloud public. Comment explorer un état d'équilibre où "les données ne sortent pas du local, les capacités d'IA ne sont pas compromises" est une réelle nécessité sur le marché. L'informatique de pointe est une direction à explorer ;
Les petits modèles spécialisés remplaceront les grands modèles généraux : les utilisateurs d'entreprise n'ont pas besoin d'un modèle général "multi-usage de plusieurs milliards de paramètres", mais d'un assistant spécialisé capable de répondre précisément aux questions d'un domaine spécifique. En comparaison, il existe une contradiction naturelle entre la polyvalence des grands modèles et leur profondeur spécialisée, et dans les scénarios d'entreprise, les petits modèles sont souvent plus valorisés ;
Équilibre des coûts pour la construction de l'infrastructure AI et l'appel d'API : Bien que la combinaison de l'informatique de pointe et des petits modèles nécessite un investissement initial relativement important, les coûts d'exploitation à long terme sont considérablement réduits. Imaginez si un grand modèle AI utilisé fréquemment par 45000 employés provient d'appels d'API, cette dépendance, l'augmentation de l'échelle d'utilisation et des commentaires feraient de la construction d'une infrastructure AI une option rationnelle pour les entreprises de taille moyenne à grande.
Nouvelles opportunités sur le marché du matériel de pointe : l'entraînement de grands modèles nécessite des GPU haut de gamme, mais les exigences matérielles pour l'inférence en périphérie sont complètement différentes. Les fabricants de puces comme Qualcomm et MediaTek voient une belle opportunité sur le marché avec leurs processeurs optimisés pour l'IA en périphérie. Lorsque chaque entreprise souhaite créer son propre "Lilli", les puces AI en périphérie conçues pour une faible consommation d'énergie et une haute efficacité deviendront des éléments essentiels de l'infrastructure ;
Le marché de l'IA web3 décentralisé est également renforcé : une fois que la demande de puissance de calcul, de réglage fin, d'algorithmes, etc., sur de petits modèles est stimulée par les entreprises, la façon de équilibrer la répartition des ressources deviendra un problème. La répartition des ressources centralisée traditionnelle posera des difficultés, ce qui engendrera une grande demande sur le marché pour les réseaux de réglage fin de petits modèles web3AI décentralisés, les plateformes de services de puissance de calcul décentralisées, etc.
Alors que le marché discute encore des limites des capacités générales de l'AGI, il est réjouissant de voir de nombreux utilisateurs professionnels déjà en train d'explorer la valeur pratique de l'IA. Il est évident qu'en comparaison avec le saut monopolistique des ressources basé sur la puissance de calcul et les algorithmes du passé, le marché, en plaçant son attention sur l'Informatique de pointe + les petits modèles, apportera une plus grande vitalité au marché.
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
Analyse succincte de Lilli de McKinsey : quelles pistes de développement pour le marché de l'IA des entreprises ?
Le cas Lilli de McKinsey offre des idées clés pour le développement du marché de l'IA d'entreprise : Informatique de pointe + opportunités de marché potentielles des petits modèles. Cet assistant IA, qui intègre 100 000 documents internes, a non seulement obtenu un taux d'adoption de 70 % parmi les employés, mais est également utilisé en moyenne 17 fois par semaine, une telle fidélité des produits est rare dans les outils d'entreprise. Voici mes réflexions :
La sécurité des données d'entreprise est un point de douleur : les actifs de connaissances essentiels accumulés par McKinsey au cours de 100 ans ainsi que certaines données spécifiques accumulées par des PME ont une sensibilité aux données très forte et ne devraient pas être traitées sur le cloud public. Comment explorer un état d'équilibre où "les données ne sortent pas du local, les capacités d'IA ne sont pas compromises" est une réelle nécessité sur le marché. L'informatique de pointe est une direction à explorer ;
Les petits modèles spécialisés remplaceront les grands modèles généraux : les utilisateurs d'entreprise n'ont pas besoin d'un modèle général "multi-usage de plusieurs milliards de paramètres", mais d'un assistant spécialisé capable de répondre précisément aux questions d'un domaine spécifique. En comparaison, il existe une contradiction naturelle entre la polyvalence des grands modèles et leur profondeur spécialisée, et dans les scénarios d'entreprise, les petits modèles sont souvent plus valorisés ;
Équilibre des coûts pour la construction de l'infrastructure AI et l'appel d'API : Bien que la combinaison de l'informatique de pointe et des petits modèles nécessite un investissement initial relativement important, les coûts d'exploitation à long terme sont considérablement réduits. Imaginez si un grand modèle AI utilisé fréquemment par 45000 employés provient d'appels d'API, cette dépendance, l'augmentation de l'échelle d'utilisation et des commentaires feraient de la construction d'une infrastructure AI une option rationnelle pour les entreprises de taille moyenne à grande.
Nouvelles opportunités sur le marché du matériel de pointe : l'entraînement de grands modèles nécessite des GPU haut de gamme, mais les exigences matérielles pour l'inférence en périphérie sont complètement différentes. Les fabricants de puces comme Qualcomm et MediaTek voient une belle opportunité sur le marché avec leurs processeurs optimisés pour l'IA en périphérie. Lorsque chaque entreprise souhaite créer son propre "Lilli", les puces AI en périphérie conçues pour une faible consommation d'énergie et une haute efficacité deviendront des éléments essentiels de l'infrastructure ;
Le marché de l'IA web3 décentralisé est également renforcé : une fois que la demande de puissance de calcul, de réglage fin, d'algorithmes, etc., sur de petits modèles est stimulée par les entreprises, la façon de équilibrer la répartition des ressources deviendra un problème. La répartition des ressources centralisée traditionnelle posera des difficultés, ce qui engendrera une grande demande sur le marché pour les réseaux de réglage fin de petits modèles web3AI décentralisés, les plateformes de services de puissance de calcul décentralisées, etc.
Alors que le marché discute encore des limites des capacités générales de l'AGI, il est réjouissant de voir de nombreux utilisateurs professionnels déjà en train d'explorer la valeur pratique de l'IA. Il est évident qu'en comparaison avec le saut monopolistique des ressources basé sur la puissance de calcul et les algorithmes du passé, le marché, en plaçant son attention sur l'Informatique de pointe + les petits modèles, apportera une plus grande vitalité au marché.