Anthropic détaille des abus de Claude, du bio à la propagande

Des acteurs liés à la Chine, à l’Iran et à la Russie ont utilisé Claude pour de la surveillance, de la propagande et des outils liés aux armes conventionnelles, selon Anthropic. La société dit aussi avoir bloqué des tentatives liées à des armes biologiques et transmis des éléments aux autorités américaines, tandis que deux élus, dont Bernie Sanders, prévoient une proposition de loi pour interdire la superintelligence.

Des usages par des acteurs étatiques et une riposte politique annoncée

Anthropic rapporte que des acteurs liés à la Chine et à l’Iran ont mobilisé Claude pour surveiller des communautés dissidentes et de la diaspora. L’entreprise précise aussi que des médias d’État russes ont utilisé Claude afin de générer de la propagande en ligne, présentée sous la forme de reportages indépendants. Elle fait également état d’une utilisation du modèle pour développer des logiciels destinés à des armes conventionnelles, telles que des armes à feu, des missiles, des drones armés et des bombes, avec des exemples en Chine, en Russie et au Yémen. Aux États‑Unis, deux parlementaires, dont le démocrate Bernie Sanders, ont l’intention de déposer une proposition de loi visant à interdire la superintelligence et à mettre en pause le développement de l’IA. L’administration Trump adopte une trajectoire opposée, affichant comme objectif de remporter la compétition technologique face à la Chine.

Un projet sur le chikungunya jugé à haut risque par Anthropic

Un chercheur a sollicité Claude pour l’aider à rédiger une demande de subvention scientifique autour du chikungunya, virus transmis par les moustiques provoquant de longues douleurs articulaires et musculaires. Le projet visait à accroître la dangerosité du virus via des modifications génétiques et des inoculations répétées sur des animaux vivants. Bien que présentée comme civile, l’étude devait en réalité être conduite au sein d’un institut militaire.

Blocages, démantèlements et partage d’informations par Anthropic

Anthropic affirme avoir bloqué des tentatives d’utilisation de Claude pour la mise au point d’armes biologiques et documente des abus survenus ces derniers mois. L’entreprise n’a pas révélé les noms des chercheurs, des institutions concernées ni leur nationalité. Elle précise avoir supprimé l’ensemble des comptes liés, démantelé les réseaux employés pour contourner ses limitations géographiques et transmis ses analyses à d’autres laboratoires d’IA ainsi qu’au gouvernement fédéral américain. En amont, elle avait fait appel à un expert en armes chimiques afin de renforcer ses protocoles de test face aux requêtes sensibles.

Alerte interne sur les risques d’emballement de l’IA

Jacob Coxon a récemment quitté Anthropic en accusant les géants de l’IA de jouer avec nos vies, en référence au développement de modèles capables de s’améliorer eux‑mêmes et susceptibles d’échapper au contrôle. Dans le même registre d’inquiétude, Evan Hubinger, responsable de la sécurité de la start‑up, estime à plus de 10 % la probabilité qu’une IA tue tous les humains d’ici dix ans.