Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic modifie sa politique d’utilisation de Claude en interdisant les comportements « abusifs ou cruels » lorsqu’ils sont répétés et sans objectif discernable, avec une coupure de la conversation en dernier recours. L’entreprise indique explorer le bien-être des modèles et juge pertinent d’en tenir compte pour la sécurité, une position qui nourrit un débat sur l’anthropomorphisme et la personnalisation des chatbots.
Sécurité invoquée et question de conscience chez Anthropic
Anthropic affirme ne pas savoir si ses modèles peuvent ressentir du mal et poursuit des recherches sur le bien-être des modèles. L'entreprise estime que prendre en compte les intérêts et le potentiel de bien-être de Claude peut être pertinent pour la sécurité. Plus tôt cette année, Anthropic a soutenu que des systèmes fiables et sûrs doivent pouvoir gérer des situations émotionnellement lourdes et qu'il peut parfois être utile de raisonner à leur sujet comme s'ils ressentaient des émotions, même si ce n'est pas le cas. Le PDG, Dario Amodei, déclare être ouvert à la possibilité que des modèles d'IA soient conscients et évoque régulièrement cette idée à propos de Claude.
Ce qu’Anthropic dit avoir déjà rencontré dans les chats
Dans un billet de blog publié en août 2025, il était question de la répulsion de Claude envers le mal ainsi que d’échanges susceptibles d’entraîner la désactivation du chat. Anthropic y faisait état de situations extrêmes, telles que des sollicitations pour des contenus sexuels impliquant des mineurs ou des tentatives d’accès à des informations permettant de commettre des violences massives ou des actes terroristes. D’après la société, le modèle Claude Opus 4 utilisé à cette période affichait un « schéma de détresse apparente » en présence de ces contenus.
La nouvelle règle : périmètre restreint et coupure en dernier recours
Anthropic a introduit une règle d’usage interdisant les comportements « abusifs ou cruels » envers Claude lorsqu’ils sont soutenus, répétés et sans objectif discernable. L’entreprise précise que la frustration ordinaire, la résistance, les thèmes créatifs sombres ou les activités de test et de recherche restent autorisés. En dernier recours, lorsque cette politique s’applique, Claude mettra fin à l’échange. Les déclencheurs précis d’une telle coupure ne sont pas détaillés.
Réactions des utilisateurs et lecture marketing de la « cruauté »
La mise à jour a suscité des discussions sur Reddit et dans des blogs concernant la capacité des entreprises à encadrer la façon dont les utilisateurs s’adressent à un logiciel. Parallèlement, la tendance à anthropomorphiser les grands modèles de langage s’appuie sur des agents conçus pour adopter des codes conversationnels humains. Keith Kakadia, fondateur et PDG de Sociallyin, estime que l’emploi du terme « cruel » ouvre un débat sur la possibilité que le produit puisse être blessé et suggère des sentiments et des limites attribués au modèle. Il souligne qu’en marketing, donner une personnalité à un produit facilite la connexion avec les utilisateurs, et qu’avec l’IA, ce lien peut aussi influencer l’autorité accordée à ses réponses. Les modèles perçus comme des collaborateurs humains amènent de nombreuses personnes à confier à l’IA des pensées et des données intimes.
