Anthropic et l'Alignement

Anthropic et l'Alignement

Anthropic contre le Département de la Défense

Alors que la majorité des États-Unis, et certainement le reste du monde, était préoccupée par les événements en Iran, un autre débat passionné se déroulait dans le secteur technologique. Une fois de plus, l'un des acteurs est les États-Unis eux-mêmes, mais l'autre entité en question est une entreprise privée, Anthropic. Selon le Wall Street Journal :

• Le gouvernement fédéral cessera de travailler avec Anthropic et désignera l'entreprise d'intelligence artificielle comme un risque pour la chaîne d'approvisionnement, une escalade dramatique du conflit entre le gouvernement et l'entreprise concernant l'utilisation de sa technologie par le Pentagone.
• Alors que la relation d'Anthropic avec l'administration a atteint un nouveau bas, son concurrent OpenAI a annoncé qu'il avait conclu un accord avec le Département de la Défense pour que ses modèles soient utilisés dans des contextes classifiés, un statut jusqu'alors réservé à Anthropic.
• Ces développements rapides entre le Pentagone et deux entreprises de la Silicon Valley sont susceptibles de façonner l'avenir de l'utilisation des outils d'IA de pointe par le gouvernement fédéral, en particulier le Pentagone.

Anthropic a clairement exprimé sa position plus tôt dans la semaine dans une déclaration de Dario Amadei concernant ses discussions avec le Département de la Défense :

• Dans un ensemble restreint de cas, nous croyons que l'IA peut saper, plutôt que défendre, les valeurs démocratiques. Certaines utilisations sont également tout simplement en dehors des limites de ce que la technologie actuelle peut faire en toute sécurité et de manière fiable. Deux de ces cas d'utilisation n'ont jamais été inclus dans nos contrats avec le Département de la Défense, et nous croyons qu'ils ne devraient pas l'être maintenant :

  • Surveillance de masse domestique. Nous soutenons l'utilisation de l'IA pour des missions de renseignement et de contre-espionnage à l'étranger. Mais utiliser ces systèmes pour la surveillance de masse à l'intérieur du pays est incompatible avec les valeurs démocratiques. La surveillance de masse pilotée par l'IA présente des risques sérieux et nouveaux pour nos libertés fondamentales. Dans la mesure où cette surveillance est actuellement légale, c'est uniquement parce que la loi n'a pas encore rattrapé les capacités en rapide croissance de l'IA. Par exemple, en vertu de la loi actuelle, le gouvernement peut acheter des dossiers détaillés des mouvements, de la navigation sur le web et des associations des Américains à partir de sources publiques sans obtenir de mandat, une pratique que la communauté du renseignement a reconnue comme soulevant des préoccupations en matière de vie privée et qui a généré une opposition bipartisane au Congrès. Une IA puissante permet d'assembler ces données éparpillées, individuellement inoffensives, en un tableau complet de la vie de n'importe quelle personne — automatiquement et à grande échelle.

  • Armes entièrement autonomes. Les armes partiellement autonomes, comme celles utilisées aujourd'hui en Ukraine, sont vitales pour la défense de la démocratie. Même les armes entièrement autonomes (celles qui éliminent complètement l'humain du processus et automatisent la sélection et l'engagement des cibles) pourraient s'avérer critiques pour notre défense nationale. Mais aujourd'hui, les systèmes d'IA de pointe ne sont tout simplement pas fiables au point de pouvoir alimenter des armes entièrement autonomes. Nous ne fournirons pas sciemment un produit qui met en danger les soldats et les civils américains. Nous avons proposé de travailler directement avec le Département de la Défense sur la recherche et le développement pour améliorer la fiabilité de ces systèmes, mais ils n'ont pas accepté cette offre. De plus, sans une supervision adéquate, les armes entièrement autonomes ne peuvent pas...