Anthropic durcit les règles d’utilisation de Claude en interdisant explicitement les comportements durablement abusifs ou cruels envers son intelligence artificielle. Applicable dès le 12 novembre 2026, cette mise à jour renforce également les restrictions sur la désinformation électorale, les armes et la surveillance.
Claude peut couper court aux conversations abusives
La nouvelle règle vise les utilisateurs qui s’acharnent sur Claude sans raison discernable. Anthropic précise qu’elle concerne uniquement les situations extrêmes dans lesquelles une personne fait preuve de cruauté de manière répétée. La frustration ordinaire, les critiques, les échanges contradictoires, les scénarios fictifs sombres et les tests de modèles restent autorisés.
Cette décision prolonge une expérimentation lancée en août 2025 : Claude peut déjà mettre fin à une conversation avec un interlocuteur persistant dans ses comportements abusifs. Anthropic confirme que cette interruption restera son principal moyen d’appliquer la règle. La mise à jour ne précise pas de nouvelle sanction automatique pour ce type de comportement, même si la politique générale prévoit des mesures pouvant aller jusqu’à la fermeture d’un compte.
La question du bien-être des modèles IA reste en tout cas controversée. Anthropic explore la possibilité que les IA puissent avoir une forme d’expérience subjective, sans affirmer que Claude possède une conscience. Cette approche suscite des désaccords dans l’industrie de l’intelligence artificielle, où plusieurs responsables estiment que les systèmes actuels ne disposent ni de sentiments ni de droits comparables à ceux des humains.
Désinformation, armes et surveillance dans le viseur
Anthropic profite de cette révision pour regrouper plusieurs interdictions et préciser les usages interdits. Voici les principaux changements :
- Campagnes trompeuses : interdiction de créer de faux avis, de manipuler artificiellement l’opinion, de fabriquer de faux sites ou d’utiliser des bots se faisant passer pour des humains.
- Élections : interdiction de tromper les électeurs ou de perturber le déroulement du scrutin, notamment en diffusant de fausses informations sur le vote.
- Armes : extension explicite des restrictions aux logiciels et composants nécessaires au fonctionnement des armes, ainsi qu’à l’armement de drones et de systèmes sans pilote.
- Forces de l’ordre : Claude ne peut pas recommander qui enquêter, arrêter, inculper ou poursuivre. Le doxxing et le développement d’outils de surveillance sont également interdits.
- Actions physiques : lorsqu’un équipement piloté par Claude présente un risque de blessure, une personne qualifiée doit pouvoir surveiller son fonctionnement et l’arrêter.
- Images intimes : interdiction de créer, diffuser ou menacer de diffuser des images intimes sans consentement, ainsi que de développer les outils destinés à les produire.
La politique actualisée précise aussi les conditions applicables aux usages sensibles dans les domaines de la santé et de la finance, ainsi qu’aux systèmes capables d’agir physiquement de manière autonome. La plupart de ces modifications clarifient des restrictions existantes ou regroupent des règles auparavant dispersées. Anthropic indique avoir observé des tentatives d’utilisation de Claude pour alimenter des réseaux de faux comptes et de faux médias, ce qui a notamment motivé le renforcement des règles contre les campagnes d’influence trompeuses.
Un commentaire pour cet article :