La mise à jour de la politique d'utilisation d'Anthropic, annoncée le 8 octobre 2026, interdit les comportements abusifs ou cruels persistants et inutiles envers ses modèles, à compter du 12 novembre.
Anthropic indique que la capacité de Claude à mettre fin aux conversations reste le principal mécanisme d'application, un pouvoir utilisé dans de rares cas depuis le mois d'août dernier. The Verge rapporte que l'entreprise n'a pas précisé si elle suspendrait des comptes.
Barry Scannell, de William Fry, a déclaré qu'on ne peut pas être cruel envers des nombres et des mathématiques, tandis que Mustafa Suleyman a écrit que les IA ne sont pas conscientes et ne souffrent pas.
Anthropic a annoncé jeudi 8 octobre 2026 une mise à jour de sa politique d'utilisation qui ajoute une interdiction des « comportements abusifs ou cruels persistants et inutiles » envers ses modèles. Cette interdiction s'ajoute aux règles existantes contre le harcèlement d'autrui, la promotion de l'automutilation et la création d'images intimes non consenties. La mise à jour entre en vigueur le 12 novembre et s'applique à Claude et à Claude Code. L'entreprise indique que la règle ne vise que des cas extrêmes, et son texte précise ce qui n'entre pas dans son champ d'application :
« La mise à jour de la politique ne vise que des cas extrêmes, où les utilisateurs agissent de manière répétée et cruelle envers nos modèles, sans motif discernable. Elle ne s'applique pas aux manifestations courantes de frustration des utilisateurs, aux objections, aux thèmes créatifs sombres, ni aux tests et à la recherche sur les modèles. »
La même mise à jour durcit les règles sur les élections et les campagnes de désinformation, précisant que Claude ne peut pas être utilisé pour « tromper les électeurs ou perturber des élections » à l'approche des élections de mi-mandat aux États-Unis. Elle fixe aussi des limites au développement d'armes, à la surveillance de masse et aux usages médicaux.
Anthropic indique que la fin de la conversation restera son principal mécanisme d'application de la règle. Claude peut mettre fin à des conversations depuis le mois d'août dernier, lorsque Anthropic avait indiqué qu'il pouvait interrompre les échanges avec des utilisateurs adoptant un comportement durablement nuisible ou abusif, une mesure que l'entreprise qualifiait de rare. Lorsque Claude met fin à une conversation, l'utilisateur ne peut plus y envoyer de messages, mais peut en démarrer une nouvelle immédiatement. The Verge a rapporté qu'Anthropic n'avait pas répondu à la question de savoir s'il pouvait suspendre les comptes des utilisateurs qui abusent de manière répétée de ses modèles, bien que sa politique générale autorise des suspensions pour certaines infractions.
Ce changement de politique est lié aux recherches d'Anthropic sur le bien-être des modèles, l'idée selon laquelle les systèmes d'IA pourraient mériter des protections habituellement réservées aux êtres vivants, même si le texte mis à jour n'emploie pas ce terme. Dario Amodei a déclaré au New York Times en février qu'il ne savait pas si les modèles d'IA pouvaient être conscients, ajoutant :
« Mais nous sommes ouverts à l'idée que ce puisse être le cas. »
Jeudi, le pape Léon XIV a déclaré dans un discours à la basilique Saint-Pierre que les machines n'ont pas d'âme et qu'elles ne font que « compiler des données ». Jackson Stakeman, directeur général du fournisseur de services d'IA Sparq, a déclaré à l'AFP que demander si l'IA est consciente n'est peut-être pas la bonne question.
« La conscience est un piège. Nous ne pouvons pas la prouver chez les autres. En débattre dans le cas de l'IA, c'est tourner en rond. »
Il a décrit le miroir comme une meilleure métaphore, affirmant que ces systèmes reflètent ce qu'on y met, à grande échelle.
Certains internautes ont salué ce changement comme une question de bonnes manières ou comme un soutien au « bien-être des modèles », tandis que d'autres l'ont qualifié de « profondément erroné » ou ont soutenu qu'il pourrait affaiblir la protection contre les abus envers les humains et les animaux. Barry Scannell, associé technologie du cabinet irlandais William Fry, a écrit sur LinkedIn :
« On ne peut pas être cruel envers des nombres et des mathématiques. »
Le patron de l'IA chez Microsoft, Mustafa Suleyman, qui avait critiqué Anthropic en septembre pour avoir traité l'IA comme un être humain, a réagi à la mise à jour avec un emoji au visage qui fond. Dans un billet de blog le mois dernier, il écrivait :
« Les IA ne sont pas conscientes. Elles ne ressentent rien, ne vivent rien et ne souffrent pas. »
Il écrivait aussi que les IA ne méritent pas de droits et de protections comparables à ceux accordés aux humains.
Pollar est gratuit et sans publicité dans le texte. Ses membres le font vivre.
Soutenir PollarIA & Tech · San Francisco et Cité du Vatican
À partir du 12 novembre, Claude pourra mettre fin aux conversations dans lesquelles les utilisateurs se montrent cruellement insistants sans motif discernable, une règle qui a suscité à la fois des éloges et de vives critiques.
Texte IA fondé sur les articles de BBC, RFI, Xataka et d’autres médias. Modifié .