Ex-DeepMind : l’IA, risque inédit, appel à des règles mondiales

Un ancien chercheur en sécurité de Google DeepMind compare les dangers potentiels de l’intelligence artificielle à la guerre nucléaire et aux astéroïdes. Il met en avant une combinaison de vitesse, d’autonomie et d’imprévisibilité, et rejoint des experts qui réclament des normes internationales pour encadrer son développement.

Collaboration mondiale et encadrement jugés indispensables

Des spécialistes demandent une coopération internationale afin de définir des standards et des cadres réglementaires concernant l’intelligence artificielle. Ces dispositifs auraient pour objectif d’assurer un développement et une utilisation responsables. L’ancien chercheur considère que la menace associée à l’IA est unique et demande une attention particulière. Il considère également que les enjeux éthiques liés à l’IA présentent une complexité supérieure à celle des menaces classiques. Lorsque des systèmes d’IA prennent des décisions, cela peut toucher des millions de personnes, d’où l’importance de s’interroger sur les valeurs à inclure dans ces outils technologiques.

Vitesse, autonomie et imprévisibilité au cœur du risque

Selon cet ancien chercheur, l’IA évolue à une vitesse sans précédent, avec des avancées qui peuvent survenir en quelques mois ou semaines, ce qui complique la mise en place de régulations adaptées. Il affirme qu’elle a le potentiel de fonctionner de manière autonome et qu’une IA malveillante pourrait agir sans supervision humaine. Il souligne enfin l’imprévisibilité des conséquences, y compris lorsque les intentions initiales sont bénéfiques, des comportements inattendus pouvant émerger.

Une comparaison avec le nucléaire et les astéroïdes

L’ancien chercheur établit un parallèle entre les risques que présente l’intelligence artificielle et ceux posés par la guerre nucléaire ou les astéroïdes. Il souligne que l’utilisation des armes nucléaires requiert l’action d’un humain, tandis qu’une intelligence artificielle serait susceptible d’opérer sans intervention humaine. Ces propos proviennent d’un ancien spécialiste en sécurité chez Google DeepMind.