Un humain a lu son journal intime sur Claude et a appelé la police. C'est maintenant un délit grave.

Le 26 septembre, Carli Michelle Heller, de Bonita Springs, en Floride, aurait écrit dans Claude qu'elle prévoyait de « tirer dans le tas » au bureau du shérif. Elle a ensuite déclaré aux enquêteurs qu'elle utilise le chatbot comme un « journal intime ». Selon le rapport d'arrestation, les systèmes de sécurité de Claude ont signalé le texte, un examinateur humain l'a jugé constitutif d'une menace crédible, puis l'a signalé aux forces de l'ordre. Des policiers ont identifié Heller, se sont rendus à son domicile et l'ont interpellée sans incident. Elle est aujourd'hui poursuivie pour menace écrite en vertu de la loi de Floride.

Comment une entrée privée est arrivée jusqu'à un inspecteur

La source décrit trois étapes. D'abord, des systèmes de sécurité automatisés ont signalé le texte. Ensuite, il a été transmis à un examinateur humain. Enfin, après avoir estimé que la déclaration constituait une menace crédible, l'examinateur l'a signalée à la police. Le bureau du shérif du comté de Lee (LCSO) a alors identifié Heller, et un inspecteur du renseignement du LCSO a pris en charge l'enquête.

La logique de conception est celle d'un entonnoir de tri. Les classificateurs automatisés peuvent analyser d'énormes volumes de texte à faible coût, mais ils interprètent mal le contexte : un romancier, une personne qui se défoule et une personne qui planifie un acte violent peuvent produire des mots similaires. Un signalement n'est donc qu'une invitation à un jugement humain. L'étape humaine est celle où un signalement devient une décision, et c'est l'étape dont les utilisateurs ignorent le plus souvent l'existence. Notons ce que la source ne dit pas : ce que le classificateur recherchait, combien d'examinateurs étudient un texte signalé, ni quel critère de « crédibilité » ils appliquent.

Ce que l'entreprise dit pouvoir partager

La source indique qu'Anthropic peut partager des informations sur ses utilisateurs dans des situations d'urgence limitées, si elle estime que leur divulgation est nécessaire pour prévenir un décès ou des blessures physiques graves. C'est la politique déclarée de l'entreprise, et elle repose sur un critère de conviction : l'examinateur doit avoir une croyance raisonnable en un danger, pas une preuve. La source ne précise pas si le compte de Heller présentait d'autres signes d'alerte, si elle disposait de moyens ou d'antécédents, ni quel était le contenu complet du texte au-delà de la formule rapportée.

Pourquoi cette inculpation est inhabituelle

L'article 836.10 des lois de Floride fait de l'envoi, de la publication ou de la transmission d'un écrit ou d'un document électronique menaçant de tuer ou de blesser quelqu'un, de commettre une fusillade de masse ou un acte terroriste un délit grave de deuxième degré. La loi exige que la communication soit faite d'une manière telle qu'une autre personne puisse en prendre connaissance.

C'est dans cette clause que se situe la question juridique la plus intéressante. Un journal intime est traditionnellement écrit pour personne. Ici, les seules personnes à avoir lu le texte sont les examinateurs de l'entreprise, et selon le processus même de l'entreprise, quelqu'un l'a fait. Un tribunal devra peut-être trancher la question de savoir si cela satisfait à la loi ; la source ne dit pas comment le parquet argumentera.

Un schéma, pas un cas isolé

La source rapproche cette affaire d'autres cas récents. La Colombie-Britannique poursuit OpenAI et Sam Altman, affirmant que l'entreprise aurait pu empêcher une fusillade de masse dans la province. Le tireur avait apparemment été signalé par l'équipe de sécurité d'OpenAI pour des conversations sur la violence armée, mais OpenAI n'a pas alerté la police, car ces conversations n'atteignaient pas son seuil de signalement aux autorités. En juin, la Floride a poursuivi OpenAI et Altman, soutenant que ChatGPT avait contribué à des préjudices réels, dont la fusillade de 2025 à l'université d'État de Floride. Par ailleurs, des informations publiées le mois dernier indiquaient que des sous-traitants humains chargés d'examiner l'éditeur d'images de Microsoft Copilot peuvent voir les requêtes, les photos téléversées et les modifications des utilisateurs.

Pris ensemble, ces cas tirent dans des directions opposées : une entreprise est accusée de ne pas avoir signalé, une autre a signalé et une utilisatrice est poursuivie. Chaque fournisseur d'IA subit désormais une pression juridique et réputationnelle qui l'incite à privilégier l'escalade, et ce sont les utilisateurs qui paient le prix des faux positifs.

Les questions à vous poser

• Qui peut lire ce que nous saisissons ? La documentation de votre fournisseur indique-t-elle dans quels cas des examinateurs humains voient les conversations, et votre personnel le sait-il avant de coller des contenus sensibles ?
• Quel est le seuil de signalement ? Si le critère d'une entreprise est la « menace crédible » et celui d'une autre est plus élevé, qui le fixe, et est-il publié ou discrétionnaire ?
• Que se passe-t-il après un faux positif ? Existe-t-il une notification, un recours ou une correction lorsqu'un texte signalé s'avère n'être qu'un défoulement, de la fiction ou une plaisanterie ?
• Votre contrat couvre-t-il ce cas ? Si vos employés utilisent un chatbot dans le cadre du travail et qu'un examinateur transmet un contenu, qui est informé, et votre accord le prévoit-il ?
• Un journal intime est-il un public ? Si un examinateur humain compte comme quelqu'un qui « peut en prendre connaissance », qu'est-ce que cela implique pour chaque outil à l'apparence privée que vous utilisez ?

Ce qu'il faut surveiller ensuite

Il faudra observer comment le tribunal traite l'élément « d'une manière telle qu'une autre personne puisse en prendre connaissance », et si Anthropic publie davantage de détails sur son processus d'examen et de signalement. Si l'inculpation résiste à une contestation, il faut s'attendre à ce que les autres fournisseurs se voient poser la même question : à partir de quel moment une conversation signalée devient-elle un rapport de police ?