Une appli de maths pour enfants vend la compétence que l'IA ne peut pas leur offrir : repérer ses mensonges

Une IA conçue pour se tromper, vendue comme une fonctionnalité

Lathoa, une nouvelle application d'esprit critique destinée aux 10-14 ans, apparue sur Hacker News dans un post Show HN, fait un choix de produit délibéré : son compagnon IA, Errol, se trompe exprès. Dans chaque cas, Errol résout un problème étape par étape, l'une des étapes étant discrètement faussée. La mission de l'enfant est de la trouver. Dans l'exemple présenté sur le site de l'entreprise, Errol convertit 90 minutes en 0,90 heure, l'ajoute à 3 h 45 comme s'il s'agissait d'un nombre décimal, et annonce que le film se termine à 4 h 35 avec 88 % de confiance. L'heure de fin correcte est 5 h 15. L'argument de l'entreprise : repérer l'étape erronée est « la seule compétence que l'IA ne peut pas leur transmettre ».

Comment fonctionne le mécanisme

Selon l'entreprise, chaque défi suit cinq temps : Errol résout le problème, l'enfant passe en revue les étapes comme un dossier d'enquête, touche l'étape fautive, rédige une courte explication avec ses propres mots, puis découvre la réaction d'Errol et la vraie solution côte à côte. Les erreurs se répartissent en trois niveaux (Évident, Sournois, Expert) adaptés à l'âge et au niveau, et les enfants gagnent un rang (Recrue, Inspecteur, Détective, Sherlock) pour leurs découvertes, et non pour leur rapidité. Il n'y a ni notes, ni classement, sauf si un parent l'active.

L'affirmation technique la plus intéressante concerne la sécurité. Lathoa indique que le contenu est généré par IA mais passe par une étape de vérification distincte avant d'être montré à un enfant. Si le modèle produit une affirmation fausse du type 2+2=5, la vérification l'intercepte ; si la prétendue erreur d'Errol se révèle ne pas en être une, le problème est écarté et régénéré. Il n'y a pas de discussion libre, uniquement des cas structurés. Cela compte, car une réponse volontairement fausse est plus difficile à générer qu'une réponse correcte : l'erreur doit être plausible, située dans une seule étape, et fausse d'une manière qui enseigne quelque chose. Un générateur incapable de dire de façon fiable quelle étape est fausse livrera une leçon qui pénalise l'enfant qui a raison. L'entreprise affirme que la vérification règle ce problème, mais il s'agit d'une déclaration sur son propre système, et aucune donnée de fiabilité n'apparaît dans ce qu'elle a publié.

Le signal sous-jacent

L'application est modeste. Son positionnement ne l'est pas. Lathoa se démarque explicitement des tuteurs et de Khan Academy, qui, selon elle, apprennent aux enfants à obtenir la bonne réponse, alors qu'elle leur apprend à repérer la mauvaise. C'est le pari que, à mesure que les chatbots deviennent l'aide aux devoirs par défaut, la compétence rare passe de la production de réponses à leur audit. Il faut s'attendre à voir davantage de produits éducatifs promouvoir la culture de la vérification comme une catégorie à part entière, plutôt que comme un effet secondaire du contenu pédagogique.

Les tarifs et la posture juridique vont dans le même sens. Les formules coûtent 66,99 $, 95,99 $ et 143,99 $ par an, avec une offre gratuite de trois cas par jour et une remise de 50 % la première année pour les 50 premières familles fondatrices. L'entreprise insiste aussi sur l'absence de publicité, l'absence de collecte de données et une conception respectueuse du COPPA dès l'origine. Les règles sur les données des enfants déterminent quels modèles économiques sont viables dans l'edtech, et l'abonnement payé par les parents, assorti d'un engagement de confidentialité, est la forme qui survit.

Les questions à poser

• Quel est le taux d'erreur mesuré de l'étape de vérification, et qui l'a audité ? Dire que « chaque problème est vérifié » n'est pas la même chose que publier la fréquence à laquelle un problème vérifié reste faux.
• Existe-t-il des preuves que repérer les erreurs d'Errol se transfère au fait de douter d'un vrai chatbot ? Détecter une erreur planifiée dans un casse-tête structuré n'est pas manifestement la même compétence que remarquer une affirmation inventée dans une prose fluide.
• Un enfant pourrait-il apprendre le schéma des erreurs d'Errol plutôt que l'habitude de vérifier ? Si les erreurs sont générées à partir d'un ensemble limité de types de fautes, les enfants risquent d'apprendre l'application, et non le scepticisme.
• Que deviennent les explications que les enfants rédigent avec leurs propres mots, et que font le tableau de bord parent et les signalements de conceptions erronées de ces données ?
• Un personnage dont le visage se décompose quand il est pris en faute et rayonne quand il n'est pas repéré enseigne-t-il le doute, ou apprend-il à l'enfant à lire les émotions d'un robot ?

Ce qu'il faut surveiller ensuite

Le signal à suivre est l'existence de preuves indépendantes. La feuille de route de l'entreprise cite ensuite la compréhension de lecture et la logique de base, puis les sciences, et le vrai test sera de savoir si le repérage d'erreurs tient en dehors des maths, là où une étape fausse ne se vérifie pas aussi nettement. Surveillez toute étude publiée sur les résultats d'apprentissage, tout accord de licence avec des écoles dans le cadre de sa formule classe à tarif forfaitaire, et la reprise éventuelle de ce positionnement par des concurrents. Si des rivaux se mettent à vendre l'audit de l'IA plutôt que son utilisation, cette catégorie est réelle.