L'analogie même du boom de l'IA annonce une issue : quelques modèles seulement
Un court essai soutient que GPT a déclenché une explosion cambrienne de l'IA, puis prédit que cette diversité s'effondrera en une poignée de modèles. Ces deux affirmations méritent d'être examinées de près.
Le déclencheur que nous pouvons nommer
Un court billet publié sur Readables rapproche le moment actuel de l'explosion cambrienne, cette période qui a débuté il y a environ 539 millions d'années et durant laquelle la vie animale s'est rapidement diversifiée dans les océans de la Terre, et relève une différence. Personne ne sait exactement ce qui a déclenché la première. L'auteur affirme que nous savons précisément ce qui a déclenché celle-ci : GPT.
C'est la moitié facile de l'argument. La moitié la plus difficile arrive à la fin du même billet, où l'auteur prolonge l'analogie et prédit que le pouvoir se concentrera entre les mains d'une poignée de modèles. Une explosion de variété qui se termine par une courte liste de gagnants n'est pas une contradiction. C'est la partie de l'histoire que la plupart de ceux qui construisent sur cette technologie n'ont pas encore dite à voix haute.
Ce qui a réellement changé en profondeur
Le billet nomme quatre ingrédients : davantage de puissance de calcul, davantage de données d'entraînement, de meilleures architectures, et des modèles préentraînés capables de traiter des tâches généralistes. Ce ne sont pas quatre versions d'une même chose, et le quatrième est celui qui compte le plus.
L'architecture désigne l'agencement des mathématiques, c'est-à-dire la manière dont l'information circule dans le système pendant son apprentissage. Préentraîné signifie que la partie coûteuse de l'apprentissage a déjà eu lieu, aux frais de quelqu'un d'autre, sur le matériel de quelqu'un d'autre. Généraliste signifie que le même modèle traite des tâches pour lesquelles il n'a jamais été spécifiquement entraîné.
Empilez ces éléments et l'économie s'inverse. Auparavant, apprendre à un logiciel à faire quelque chose de nouveau supposait de constituer un jeu de données propre à cette tâche et de payer une session d'entraînement. Une seule capacité étroite était un projet. Aujourd'hui, la capacité se loue, et le travail se déplace vers la couche supérieure : ce que vous demandez, les outils que vous connectez, la manière dont vous vérifiez le résultat. Le billet décrit exactement cela : des gens construisent de plus en plus de logiciels par-dessus l'IA, ce qui rend l'IA elle-même plus puissante, et il énumère les domaines où cela se concrétise : le code, le tutorat, le design et la recherche.
La moitié biologique de l'analogie est plus pertinente qu'il n'y paraît. La source attribue l'éclosion initiale de variété en partie à des changements dans la façon dont les gènes étaient régulés : pas de nouvelle matière première, mais un nouveau contrôle sur la matière existante. C'est une description juste des dernières années dans le logiciel. Le substrat ne s'est pas multiplié. Le contrôle sur celui-ci, si.
Nouveau, ou simplement reconditionné ?
Ce qui est réellement nouveau, c'est le coût d'une tentative. Ce qui est reconditionné, c'est l'essentiel de la variété que ce coût permet d'obtenir. Des milliers de produits visiblement différents peuvent reposer sur un petit nombre de modèles préentraînés, ce qui explique que les deux affirmations de l'auteur s'accordent : diversification au sommet, consolidation à la base.
Il faut prendre la prédiction pour ce qu'elle est. Le billet n'avance aucune donnée à l'appui et ne prétend pas le faire : le vocabulaire est celui de « nous pourrions théoriser » et de « je pense ». La compétition qu'il décrit est réelle et précise : chercheurs et entreprises poussent sur l'utilité, la fiabilité, la rapidité et le coût. Que cette course aboutisse à une poignée de survivants est une inférence tirée d'un précédent vieux de 539 millions d'années, pas un constat. L'autre prévision de l'auteur est plus mesurée et probablement plus sûre : le monde devient plus complexe et moins facile à appréhender, puis nous finissons par l'absorber comme nous avons absorbé les ordinateurs et Internet.
Les questions à vous poser
- Si l'avantage de votre produit se situe dans la couche au-dessus du modèle, que reste-t-il de cet avantage le jour où un modèle de base absorbe cette couche ?
- Demandez à votre fournisseur de nommer le modèle préentraîné qui se trouve sous son produit. S'il refuse, que achetez-vous exactement ?
- Parmi les quatre critères de compétition (utilité, fiabilité, rapidité, coût), lequel votre cas d'usage exige-t-il réellement, et payez-vous une surprime pour les trois autres ?
- Si la concentration est l'issue, quel levier vous reste-t-il ? Vos données, votre distribution, les coûts de changement de vos clients, ou rien du tout ?
- Quel est votre plan de repli si le modèle dont vous dépendez modifie son comportement, ses conditions ou son prix sans préavis ?
Ce qu'il faut surveiller ensuite
Le signal à surveiller est l'absorption. Observez si les logiciels construits par-dessus ces modèles continuent de produire des capacités que la prochaine version du modèle de base n'avale pas tout simplement. Si chaque mise à niveau fait discrètement disparaître une catégorie de startups, la thèse de la concentration se déroule comme prévu. Surveillez aussi la tarification : la concentration se manifeste par des conditions fixées unilatéralement bien avant d'apparaître dans un graphique de parts de marché.
- 1Construisez votre application avec une couche d'abstraction indépendante du modèle, afin de pouvoir changer de fournisseur lorsque la consolidation réduira le champ à deux ou trois gagnants.
- 2Évitez les dépendances profondes envers les fonctionnalités propriétaires d'un seul fournisseur : outils, fine-tunings ou formats non portables sont autant de coûts de sortie à venir.
- 3Gardez la maîtrise en interne de vos données, de vos prompts et de vos jeux d'évaluation, pour que changer de modèle devienne une simple tâche de benchmark et non une reconstruction.
Ready to implement AI in your business?
Our team builds the AI systems you just read about. Start with a free 30-minute discovery meeting.
