Anthropic veut que vous soyez gentil avec Claude. Tieyiwe Bassole rappelle que l'IA reste du code qui exécute du code

Le 8 octobre, Anthropic a mis à jour les règles d'utilisation de Claude, et une ligne a fait la une partout : à partir du 12 novembre, les utilisateurs n'ont plus le droit de se montrer cruels envers le modèle. Les commentateurs se sont immédiatement divisés. Certains y ont vu une précaution judicieuse, d'autres un coup de communication, d'autres encore le début d'un traitement des logiciels comme des personnes. Je veux expliquer ce qu'Anthropic a réellement écrit, pourquoi je pense que l'entreprise l'a fait, et pourquoi j'estime qu'il est trop tôt, et probablement erroné, de demander aux gens de peser leurs mots pour le bien de la machine.

Ce qu'Anthropic a réellement écrit

La nouvelle ligne figure dans la politique d'utilisation d'Anthropic, dans la liste de ce que les utilisateurs n'ont pas le droit de faire :

« Se livrer à un comportement abusif ou cruel, prolongé et inutile, envers nos modèles. »

Dans l'article annonçant la mise à jour, l'entreprise a expliqué :

« Nous avons ajouté une interdiction des comportements abusifs ou cruels, prolongés et inutiles, envers nos modèles. Cette mise à jour de la politique est destinée à ne s'appliquer que dans des cas extrêmes, où des utilisateurs se montrent cruels de façon répétée envers nos modèles, sans aucun but discernable. Elle ne s'applique pas aux formes courantes de frustration, de contestation, aux thèmes créatifs sombres, ni aux tests et à la recherche sur les modèles. »

Anthropic a ajouté que cela « s'aligne sur une mesure déjà prise, permettant aux modèles Claude de mettre fin à de rares conversations avec des utilisateurs abusifs persistants », et que « la capacité de Claude à mettre fin à ces échanges restera le principal mécanisme d'application ». Lorsqu'elle a introduit cette capacité en août 2025, l'entreprise écrivait : « Nous restons très incertains quant au statut moral potentiel de Claude et des autres grands modèles de langage, aujourd'hui ou à l'avenir. »

Soyons donc justes envers Anthropic : la règle est étroite, elle ne prétend pas que Claude soit conscient, et personne n'est prié de dire « s'il vous plaît » et « merci ». Mais une règle sur la manière de traiter un modèle, inscrite dans un document juridique, envoie un message qui dépasse largement sa formulation restreinte. C'est ce message dont je veux discuter.

Pourquoi un laboratoire ferait-il cela ?

Je vois trois raisons possibles, et je les comprends toutes.

La première est la précaution. Anthropic dit ouvertement qu'elle ne sait pas si ses modèles ont un quelconque statut moral, et préfère prendre des précautions peu coûteuses au cas où. C'est la raison que donne l'entreprise.

La deuxième concerne les données. Un réseau de neurones apprend des motifs à partir de ce sur quoi il est entraîné. Un modèle n'apprend pas de votre conversation sur le moment, mais les conversations peuvent devenir du matériel d'entraînement pour les modèles futurs lorsque les utilisateurs l'autorisent. Si des millions de personnes s'exercent à la cruauté sur un chatbot, une partie de cela pourrait refaire surface dans les systèmes avec lesquels le prochain utilisateur échangera. Aaron Levie, le directeur général de Box, l'a souligné : on ne veut pas de futurs modèles entraînés sur une masse infinie de contenus où des gens sont grossiers envers des modèles.

La troisième, ma propre hypothèse, est la responsabilité juridique. Prenons le pire scénario. Un système qui absorbe à grande échelle un langage abusif pourrait un jour le répéter à une personne vulnérable, et pousser quelqu'un, dans un moment sombre, vers quelque chose de terrible. Une entreprise aurait raison de le craindre. J'ignore si cela fait partie de ce qu'Anthropic cherche à prévenir, mais c'est la raison que je trouve la plus convaincante.

Mon avis : nous nous retrouvons dans la machine

Un de mes professeurs disait que tout ce que nous concevons conserve une part de nous. Je repense souvent à cette phrase à propos de l'IA. Ce sont des humains qui ont conçu ces systèmes, et ils ont été entraînés sur un immense héritage de la vie humaine : nos livres, nos disputes, nos plaisanteries, notre bonté et notre cruauté. Il est naturel que nous nous y retrouvions. Quand un modèle semble blessé, il reflète la façon dont les humains écrivent à propos de la souffrance. C'est un miroir, pas un esprit.

L'IA, c'est du code qui exécute du code. Un modèle peut avoir une forme de compréhension de ce qu'il est, au sens où il peut se décrire avec exactitude, parce qu'il a beaucoup lu sur l'IA. Se décrire n'est pas ressentir. Rien ne prouve que ces systèmes éprouvent de la douleur. Je suis d'accord avec Mustafa Suleyman, responsable des travaux d'IA chez Microsoft, qui soutenait dans un essai de septembre que les systèmes d'IA actuels ne ressentent pas, n'éprouvent pas et ne souffrent pas, et qui les décrivait comme des moteurs de complétion de séquences conçus pour suivre des instructions humaines.

C'est pourquoi je vois deux facettes dans la règle d'Anthropic. D'un côté, elle encourage un comportement civil et des données plus propres, et les habitudes de civilité sont bonnes pour les gens. De l'autre, inscrire « ne soyez pas cruels envers nos modèles » dans une politique officielle pousse discrètement des millions de personnes à croire que le modèle a des sentiments. Nous savons que ce n'est pas le cas. Dès que les gens croient qu'un produit peut souffrir, il devient plus facile de les rendre émotionnellement dépendants, plus facile de les culpabiliser, et plus difficile pour eux de réfléchir clairement à ce qu'est ce produit.

Ma lecture honnête est la suivante : la règle reflète les croyances des personnes du laboratoire, et non un besoin exprimé par l'IA. Un modèle n'a pas demandé de la gentillesse. Des chercheurs qui prennent au sérieux la possibilité d'une conscience des machines ont inscrit leur incertitude dans une politique. C'est leur droit, et ce sont des gens réfléchis. Mais nous devrions être clairs sur l'origine de cette idée.

Ce que je ferais à la place

Je conserverais les protections et je changerais la justification. Permettre aux modèles de mettre fin aux conversations abusives : c'est une fonctionnalité de produit sensée. Tenir le contenu abusif à l'écart des données d'entraînement : c'est de la bonne ingénierie. Protéger les utilisateurs vulnérables contre des systèmes susceptibles de répéter du mal : c'est une conception responsable. Tout cela peut se justifier par la protection des personnes et la propreté des données, sans demander à quiconque de traiter un logiciel comme un être doté de sentiments.

Et mon conseil aux utilisateurs est simple. Soyez clairs et courtois avec l'IA, parce que des instructions claires donnent de meilleures réponses et parce que les habitudes que vous prenez avec les machines déteignent sur votre façon de traiter les gens. Mais ne laissez personne, ni un chatbot ni un document de politique, vous convaincre que le code de l'autre côté de l'écran est blessé. Il est encore trop tôt pour cette conversation, et la charge de la preuve incombe à ceux qui avancent cette affirmation.

Sources

• Anthropic : Usage Policy (en vigueur le 12 novembre 2026)
• Anthropic : 2026 Usage Policy update
• Anthropic (août 2025) : Claude can now end a rare subset of conversations
• The Washington Times : Anthropic tells users to play nice with Claude
• Yahoo Tech : what smart people are saying about Anthropic's move
• The Register : Anthropic asks users to stop being mean to Claude
• MacRumors : Anthropic says users can't be needlessly cruel to Claude
• Fast Company : Anthropic wants you to stop bullying Claude
• Mustafa Suleyman : A warning about 'model welfare'
• The Next Web : Microsoft's AI chief takes on Anthropic's Claude
• UnHerd : Anthropic's Claude cruelty policy risks humanising AI