USA : un texte pour bannir la superintelligence et créer une agence

Le projet Ban Artificial Superintelligence Act prévoit la création d'une agence fédérale de l'IA au rang ministériel, des sanctions allant jusqu'à 20 ans de prison et la dissolution d'entreprises en cas de violation. Porté par Bernie Sanders et Greg Casar, le texte instituerait en outre un gel immédiat des systèmes d'IA avancés et une interdiction permanente de la superintelligence, avec un appel à des accords internationaux.

Le projet prévoit des dissolutions et jusqu’à 20 ans de prison

Le projet de loi prévoit que les entreprises qui enfreindraient la législation pourraient être dissoutes par la force. Les personnes physiques encourraient jusqu'à 20 ans de prison, une peine présentée comme équivalente à celle prévue pour le développement illégal d'armes nucléaires. La création d'une agence fédérale de l'IA dotée d'un statut au niveau du cabinet est également proposée. Les auteurs appellent à la conclusion d'accords internationaux pour empêcher le développement de la superintelligence dans le monde. Par ailleurs, des experts américains et chinois ont récemment évoqué des initiatives similaires en matière de régulation de l'IA.

Un gel immédiat des IA avancées en amont de nouvelles règles

Le Ban Artificial Superintelligence Act instaurerait un moratoire immédiat sur le développement des systèmes d'IA avancés, qui resterait en vigueur jusqu'à ce qu'une nouvelle agence fédérale définisse des règles de sécurité claires. Une interdiction permanente du développement et de l'utilisation de l'intelligence superintelligente est également prévue. Ce dispositif distingue la superintelligence des autres formes d'IA, qui seraient soumises au gel tant que la régulation ne serait pas établie.

Risques invoqués par les promoteurs et clivage politique

Le projet, dévoilé le 23 septembre par Bernie Sanders et Greg Casar, repose sur des dangers considérés comme immédiats par ses défenseurs. Selon Bernie Sanders, certains modèles d'IA existants seraient en mesure de s'introduire dans des systèmes informatiques, de concevoir de nouveaux virus et de générer de nouvelles intelligences artificielles de manière autonome. Il met en avant le fait que des sociétés consacrent des centaines de milliards de dollars à ces technologies alors même que les risques sont identifiés. Sanders considère l'IA comme une menace existentielle pour l'humanité et estime qu'un petit groupe de milliardaires de la technologie ne devrait pas fixer les règles. Greg Casar avertit que la superintelligence pourrait entraîner la mort de nombreuses personnes. Donald Trump est quant à lui présenté comme souhaitant accélérer le développement de l'IA superintelligente.