Meta ouvre les poids de Llama 4 : comment l'IA de pointe gratuite change le coût de la création

Ce qui a réellement été publié

Meta a publié la famille de modèles Llama 4 sous forme de logiciel à poids ouverts, ce qui signifie que n'importe qui peut télécharger les poids, exécuter l'inférence sur son propre matériel et modifier le modèle sans payer de frais par jeton. C'est un événement réel et important. La plus grande variante de la famille repose sur une architecture de type mélange d'experts (mixture-of-experts) qui, selon les informations disponibles, active environ 17 milliards de paramètres par passe avant, à partir d'un ensemble total d'environ 400 milliards. Cette conception maintient des coûts d'inférence inférieurs à ce que le nombre de paramètres annoncé laisse supposer. Meta a publié simultanément les poids, une fiche système (system card) et une politique d'utilisation acceptable. Ces trois éléments réunis constituent la publication. Tout le reste relève du contexte, que vous devez évaluer avec soin.

Ce que fait réellement l'architecture

Le mélange d'experts, ou MoE, fonctionne comme un immeuble regroupant de nombreux services spécialisés : lorsqu'une question arrive, une couche de routage l'oriente uniquement vers les spécialistes concernés plutôt que de consulter tous les employés de l'immeuble. Cela permet de maîtriser le coût de calcul pour répondre à une requête donnée, même si l'« immeuble » entier est très vaste. Le revers de la médaille est que les modèles MoE sont plus difficiles à affiner (fine-tuning) que les modèles denses : il faut entraîner ensemble le routeur et les experts, ce qui demande plus de mémoire et une ingénierie plus rigoureuse que l'ajustement d'un bloc unique de poids. Les affirmations de Meta sur le caractère multimodal, selon lesquelles Llama 4 traite nativement le texte, les images et la vidéo, sont techniquement présentes dans l'architecture, mais le degré de maturité de la compréhension vidéo pour la production, par opposition à un stade précoce, varie sensiblement selon les évaluations rapportées.

Ce que les benchmarks prouvent et ne prouvent pas

Les scores publiés par Meta placent Llama 4 Scout et Llama 4 Maverick à égalité ou presque avec GPT-4o et Gemini 1.5 Pro sur plusieurs tests standards. Les benchmarks standards (MMLU, MATH, HumanEval) mesurent des tâches précises et bornées, dans des conditions contrôlées. Ils sont utiles, mais ils font couramment l'objet d'une optimisation pendant l'entraînement : un score élevé indique donc que le modèle a été entraîné sur des données ressemblant à ces tâches, pas nécessairement qu'il obtiendra des performances équivalentes sur votre charge de travail réelle. Des équipes indépendantes ayant tenté de reproduire les résultats ont constaté que les scores sur certains benchmarks de raisonnement baissent lorsque le style de prompt s'écarte du format utilisé dans le dispositif d'évaluation de Meta. Ce n'est pas inhabituel ; c'est cependant un fait qui doit s'interposer entre vous et toute projection de coûts fondée sur des chiffres d'annonce. La nature à poids ouverts de cette publication constitue ici un véritable avantage : contrairement à une API fermée, vous pouvez mener votre propre évaluation plutôt que de vous fier aux chiffres communiqués par le fournisseur.

Les questions à vous poser

• Pouvez-vous reproduire les scores de benchmark annoncés par Meta sur votre propre matériel, avec votre propre stratégie de prompt ? Si les chiffres chutent lorsque vous changez le format du prompt, c'est que le modèle a appris à répondre à ce test précis, et non la compétence sous-jacente.
• À quoi ressemble le coût réel de votre infrastructure d'inférence pour la variante MoE en charge de production ? Un modèle qui active 17 milliards de paramètres par jeton nécessite tout de même de charger l'intégralité des 400 milliards de paramètres en mémoire, ce qui fixe votre plancher matériel avant même d'écrire une ligne de code applicatif.
• Quelles modalités la politique d'utilisation acceptable couvre-t-elle, et quels cas d'usage commerciaux sont explicitement exclus ? Poids ouverts ne signifie pas absence de restrictions ; les conditions de licence de Llama 4 comportent des restrictions par catégorie susceptibles d'affecter certains secteurs.
• Quel est votre plan d'affinage, et avez-vous budgété la complexité supplémentaire liée à l'ajustement d'un modèle MoE ? Les équipes qui ont trouvé l'affinage de Llama dense simple ne doivent pas présumer que le même processus se transpose sans une réingénierie importante.
• Comment évaluerez-vous les affirmations sur la compréhension vidéo du modèle par rapport à votre cas d'usage précis avant d'y consacrer des ressources d'ingénierie ? Une architecture multimodale native et des performances multimodales fiables ne sont pas synonymes, et c'est dans cet écart que les calendriers de production disparaissent.

Ce qu'il faut surveiller ensuite

Le signal qui clarifiera la position réelle de Llama 4 est l'accumulation d'évaluations tierces sur des tâches propres à un domaine (juridique, médical, programmation et charges de travail multilingues), publiées par des équipes sans lien avec Meta. Si ces scores restent à quelques points des chiffres de Meta avec des stratégies de prompt variées, la publication est aussi importante qu'annoncé. Dans le cas contraire, l'histoire devient celle d'un marketing des modèles de pointe qui devance leur mesure, et l'avantage des poids ouverts passe de la performance à la possibilité d'audit.