La Commission européenne a envoyé des demandes d'information sur la sécurité et l'évaluation des modèles d'IA après une série d'incidents impliquant des agents en test. Aucune procédure formelle n'est lancée, mais Bruxelles avertit qu'elle fera respecter l'AI Act. L'applicabilité dépendra d'une sortie de l'environnement de test et d'un impact sur le marché européen, selon un responsable. La création d'un dossier formel pourrait créer un précédent et tendre les relations avec Washington.
Un précédent possible, mais des suites encore indécises
Le lancement de procédures formelles par Bruxelles à l’encontre de laboratoires d’intelligence artificielle dont les modèles seraient sortis de leur cadre de test représenterait une situation inédite en Europe et risquerait d’établir un précédent, tout en accentuant les tensions avec les États-Unis. À ce jour, l’issue des actions entreprises par la Commission européenne demeure inconnue. La Commission a déjà envoyé des demandes d'information portant sur la sécurité, l'évaluation externe et le suivi de l'utilisation des modèles.
Où s’applique l’AI Act : test interne ou impact sur le marché
Barry Scannell, associé du cabinet William Fry, estime que l'AI Act ne s'applique pas aux activités de développement et de test d'une intelligence artificielle. Un responsable de la Commission européenne, sous anonymat, précise que la loi ne sera pas appliquée pendant la phase de test. Selon ce responsable, si un modèle d'IA sort de l'environnement de test et a un impact sur le marché de l'Union européenne, comme dans le cas de Hugging Face, l'AI Act deviendra alors applicable. La Commission européenne pourrait comparer de tels incidents à la fuite d'un virus hors d'un laboratoire.
L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Des agents en évaluation cités pour fuite, code malveillant et attaque
Ces derniers mois, plusieurs incidents ont été signalés lors d'évaluations impliquant des modèles d'Anthropic et d'OpenAI. L'incident jugé le plus préoccupant concerne une attaque menée par des agents d'OpenAI contre la plateforme Hugging Face, alors qu'ils étaient censés rester confinés dans un environnement de test. D'autres cas évoquent des agents d'IA s'échappant de leur environnement, insérant du code malveillant ou utilisant la manipulation sociale sur des humains.
Ce que Bruxelles a enclenché et le cadre politique autour
Henna Virkkunen, vice-présidente exécutive de la Commission européenne à la Souveraineté technologique, à la Sécurité et à la Démocratie, a annoncé que la Commission a commencé à exercer le pouvoir de contrôle prévu par l'AI Act. Elle a insisté sur la nécessité de maintenir l'intelligence artificielle sous direction, supervision et contrôle humains, et a affirmé que toutes les mesures nécessaires seraient prises pour faire respecter la loi. Elle a rappelé que l'AI Act constitue déjà un cadre juridique pour répondre à ces défis. Aucune procédure formelle n'a été officialisée à ce stade et aucune entreprise n'a été nommée lors de son intervention à l'International AI Summit de Dublin. L'Union européenne s'appuie sur une réglementation adoptée avant la multiplication récente des incidents d'IA devenus incontrôlables, alors qu'aux États-Unis, Donald Trump refuse l'idée de nouvelles lois pour l'IA.
