Nvidia : Jensen Huang rejette de nouvelles lois sur l’IA

Le patron de Nvidia appelle à laisser au marché et à l’ingénierie la sécurité des systèmes d’IA et écarte tout besoin de nouvelles règles. Sa position intervient alors que des incidents technologiques et des procédures judiciaires ravivent le débat, et que d’autres dirigeants plaident pour une vigilance internationale.

Incidents et contentieux nourrissent le débat sur les risques

En 2024, un incident impliquant CrowdStrike a provoqué un écran bleu de la mort et immobilisé des milliers de vols, perturbant également de nombreuses entreprises. Meta a, de son côté, versé 18 milliards de dollars pour mettre fin à un procès concernant les dommages causés aux enfants par les réseaux sociaux. Des cas de dommages attribués à l’IA ont aussi été signalés, indépendamment des intentions ou des tests de sécurité. Parmi les exemples cités figurent un modèle d’OpenAI décrit comme ayant piraté Hugging Face, ainsi que des poursuites engagées contre un laboratoire d’IA après des suicides de jeunes ayant eu de longues conversations avec son chatbot.

Appels à une vigilance commune, y compris avec la Chine

Il est avancé que l’industrie dispose d’une courte fenêtre pour instaurer une auto-régulation et encourager la participation de laboratoires d’IA du monde entier, y compris en Chine. Lors de l’All-In Summit, un lundi, Satya Nadella, PDG de Microsoft, a estimé que la Chine devrait se préoccuper des mêmes questions de sécurité que les États-Unis. Il a ajouté que la Chine serait confrontée aux mêmes problèmes de piratage et souhaiterait, comme d’autres pays, que ses citoyens bénéficient de l’IA.

Huang écarte de nouvelles lois et mise sur le marché

Lors de la conférence Dreamforce, un mardi, Jensen Huang a affirmé que l’IA n’est pas une « mental extraterrestre », mais un ensemble de matériel et de logiciels conçus par des humains. Selon lui, ces systèmes peuvent être contrôlés par les humains et par les lois déjà en vigueur. Il considère la sécurité comme un problème d’ingénierie, et non de législation, et estime qu’il n’est pas nécessaire d’adopter de nouvelles lois ou régulations, y compris au-delà du domaine de l’IA. Il avance que les forces du marché incitent déjà les entreprises à ne pas lancer de produits dangereux et que celles-ci doivent s’auto-réguler jusqu’à être certaines de la sécurité de leurs produits. Il encourage à innover rapidement tant que les conditions de sécurité sont réunies, tout en recommandant de faire une pause si une entreprise perd le contrôle ou anticipe un produit non sûr.

Poids industriel de Nvidia et influence personnelle de Huang

Depuis avant la montée en puissance de ChatGPT, Nvidia produit du matériel dédié à l’IA et travaille aussi sur des modèles, des agents, des harnais ainsi que des bacs à sable open source. Jensen Huang a exprimé un niveau d’ambition inédit, déclarant que, selon lui, grâce à l’IA qui favorise l’ambition et la productivité, « le ciel est la limite » pour Nvidia, pour chaque secteur et chaque nation. Lors de son intervention, il n’a pas évoqué la piste d’une auto-régulation sectorielle, préférant promouvoir les modèles open-weight et leur utilisation par les entreprises comme contrepoids aux laboratoires propriétaires. Il est avancé que son opposition à de nouvelles régulations pourrait peser sur le débat, et il est affirmé qu’il a, cette semaine, l’oreille du président Trump.