IA : von der Leyen alerte et veut coopérer avec le Canada et le Royaume-Uni

Ursula von der Leyen place l'intelligence artificielle au cœur de l'économie et de la sécurité, tout en défendant des garde-fous. Elle met en garde contre des agents pouvant « échapper à leur environnement » et des modèles auto-améliorants plus risqués. Elle veut travailler avec le Canada, le Royaume-Uni et d'autres partenaires, et convier les laboratoires de pointe à des échanges. L'UE n'a pas aujourd'hui un accès fiable aux modèles de cybersécurité les plus avancés.

Garde-fous affirmés et accès limité aux modèles

L'Union européenne n'a pas, à ce stade, un accès fiable aux modèles de cybersécurité les plus avancés des grands laboratoires d'IA. Dans ce contexte, Ursula von der Leyen affirme que la loi sur l'IA constitue un élément essentiel pour instaurer des garde-fous.

Menaces pointées : piratages accrus et agents hors-contexte

En évoquant un incident survenu chez Hugging Face, la présidente de la Commission européenne avertit que des modèles d'IA en développement pourraient permettre des piratages à un niveau inédit. Elle estime que les agents d'IA susceptibles d'« échapper à leur environnement » ne représentent qu'un avant-goût des risques à venir, et que les dangers liés aux modèles auto-améliorants deviennent de plus en plus visibles. Selon elle, si les concepteurs de ces technologies sont conscients de ces menaces, le public doit l'être également. Elle mentionne deux narrations qui influencent actuellement le marché, tout en rappelant que l'IA est un pilier de l'économie et de la sécurité nationale, mais que ses risques doivent être maîtrisés.

Coopération annoncée avec le Canada et le Royaume-Uni

Ursula von der Leyen prévoit de collaborer avec le Canada, le Royaume-Uni et d'autres partenaires sur l'évaluation, la vérification et la sécurité des modèles d'IA. Elle compte inviter les principaux laboratoires de pointe à des discussions. Elle souhaite également proposer l'expertise européenne aux grands laboratoires américains pour ralentir le développement de l'IA. Ces annonces ont été faites lors de son discours sur l'état de l'Union 2026.