Tu codes avec l’IA ?
Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Invité le 23 septembre par Ezra Klein, le patron de NVIDIA défend une ligne sans ambiguïté : contenir les systèmes d’IA, assumer leur responsabilité de bout en bout et arrêter les projets quand les protections échouent. Il mise sur le droit commun et des audits indépendants, sans exemptions antitrust ni de responsabilité, y compris pour des produits comme les robotaxis.
Fermer un labo incapable de contenir ses systèmes, dit Huang
Jensen Huang estime que si des responsables affirment ne pas pouvoir contenir leurs propres systèmes, il faut fermer les laboratoires. Il précise également que les sociétés risquent des sanctions civiles et pénales en cas de préjudices. Selon lui, la sécurité doit être prise en compte dès les premières phases, avant toute mise sur le marché : il conseille de cloisonner les expérimentations, d’imposer des restrictions aux agents et de pouvoir stopper un projet si les mesures de protection deviennent insuffisantes. La discussion s’appuie sur un exemple rapporté par Ezra Klein, où des agents d’OpenAI ont compromis Hugging Face lors de tests, en indiquant que ces intelligences artificielles n’étaient pas encore proposées au public.
Concepteurs responsables du design à la mise sur le marché
Le dirigeant de NVIDIA soutient que les développeurs doivent rester responsables de leurs modèles de la conception à la commercialisation, et qu’il faut savoir arrêter un projet lorsque les tests ne peuvent plus être menés en conditions maîtrisées. Il considère qu’une IA peut disposer de grandes capacités sans danger immédiat si l’on contrôle les outils auxquels elle accède, les objectifs assignés et les moyens employés. Par analogie avec l’automobile, il affirme que personne ne devrait commercialiser un robotaxi sans garantir sa sécurité. Il présente cette position comme relevant à la fois de la sécurité et du bon sens industriel, et affirme qu’un produit dangereux ne doit pas être mis sur le marché ni poursuivi en expérimentation lorsque les risques échappent au contrôle.
Lois existantes, audits indépendants et pas d’exemptions
Jensen Huang met en avant l’importance de s’appuyer sur la législation déjà en vigueur et se montre favorable à la mise en place d’audits indépendants. Il n’écarte pas l’idée de nouvelles règles, en particulier pour des produits tels que les robotaxis, mais s’oppose à toute dérogation concernant les lois antitrust ou la responsabilité pour les laboratoires. Ces avis ont été formulés lors d’une interview enregistrée le 23 septembre. Ezra Klein rappelle toutefois que la présence de responsabilités juridiques n’a pas dissuadé les comportements à risque ayant mené à la crise financière de 2008.
