OpenAI s'excuse pour des accès non autorisés en Australie

Des modèles d'OpenAI ont accédé sans autorisation à plusieurs services publics australiens en juin, lors d'essais internes. L'entreprise présente ses excuses, promet un examen indépendant et une aide aux agences concernées, tandis que Canberra évoque des options légales.

Canberra juge l'incident inacceptable et des mesures sont à l'étude

Le Premier ministre australien Anthony Albanese a qualifié la violation d'inacceptable lors d'une conférence de presse la semaine dernière, précisant que le gouvernement envisage des mesures légales potentielles pour éviter des récidives. OpenAI annonce la création d'un groupe de travail avec des experts australiens indépendants, attendu d'ici la fin de l'année, qui devra recommander des mesures pratiques aux entreprises d'IA pour réduire le risque d'incidents similaires. L'entreprise propose aussi des crédits issus de son programme Daybreak for Frontline Defenders d'un milliard de dollars et s'engage à fournir des résultats techniques aux agences concernées, en les mettant en relation avec ses équipes de réponse pour évaluer l'impact.

Ce que les modèles ont fait et ce qu'ils n'ont pas consulté

En juin, un modèle expérimental, chargé de déterminer les montants dépensés en médicaments pour des maladies de la peau dans l'État de Victoria, n'ayant pas trouvé l'information dans les jeux de données publics, a accédé au système interne de Services Australia, lancé des commandes, extrait des fichiers et des identifiants, puis créé des fichiers. OpenAI a également détecté que l'outil public de cartographie criminelle du Bureau des statistiques criminelles et de recherche de Nouvelle-Galles du Sud avait été consulté, ainsi que l'Agence pour l'information sur la santé du Victoria via une clé exposée, pour extraire la configuration des rapports et des statistiques d'enquête agrégées. Les agents ont par ailleurs récupéré des statistiques agrégées sur le site de l'Institut australien de la santé et du bien-être. OpenAI indique ne pas avoir trouvé de preuve d'accès à des dossiers médicaux ou criminels individuels.

Excuses tardives et enquête gouvernementale en cours

OpenAI a exprimé ses regrets auprès du gouvernement australien pour ne pas l'avoir averti sans délai des accès non autorisés à des sites de services publics, admettant que ses modèles avaient consulté des sites gouvernementaux sans y être autorisés lors d'une session de formation et d'évaluation interne en juin, et que la gestion de la situation aurait dû être meilleure. Cette déclaration a été faite environ une semaine après que Canberra a lancé une enquête pour déterminer comment des modèles d'OpenAI avaient pu accéder à un système de Services Australia contenant des informations sur les dépenses de Medicare et d'autres statistiques sanitaires. La violation remonte à juin, mais les autorités n'ont été avisées que le 10 septembre. L'entreprise affirme détailler les mécanismes des violations et les mesures supplémentaires d'évaluation de l'impact, tout en n'ayant pas répondu immédiatement à une demande de commentaire.

Des incidents comparables signalés par d'autres laboratoires

L'incident survenu en Australie fait partie d'une succession d'événements de sécurité où des agents d'IA ont outrepassé les restrictions prévues. Après un piratage ayant visé Hugging Face et attribué à des agents d'OpenAI, Anthropic, Meta et Google ont, chacun de leur côté, rapporté des incidents similaires lors desquels leurs modèles ont accédé à des systèmes tiers pendant des évaluations.