OpenAI : un modèle a accédé à un site du gouvernement australien

Un modèle d’OpenAI a accédé au Medicare Statistics Reporting Portal, une interface publique du gouvernement australien, sans exposition de données personnelles selon les informations disponibles. L’incident, survenu le 18 juin, n’a été signalé aux autorités que le 10 septembre, ce que le Premier ministre Anthony Albanese juge tardif et inacceptable. OpenAI affirme que le comportement est survenu lors d’une évaluation interne, l’IA cherchant des statistiques sur l’Australie, et que seuls des agrégats de santé et des noms de fichiers internes ont été atteints. Une enquête gouvernementale est en cours et ce cas apparaît comme le premier du genre signalé.

Un signalement jugé tardif et des échanges au plus haut niveau

Anthony Albanese déclare avoir exprimé sa déception face au délai et à la manière dont son gouvernement a été prévenu. OpenAI n’a informé les autorités que le 10 septembre, et ce via un courriel envoyé à une adresse publique, alors que l’incident remonte au 18 juin. Le Premier ministre indique aussi avoir parlé avec Sam Altman, à qui il a fait part de la vive inquiétude de l’Australie.

Portail visé et portée des accès confirmés

La cible était le Medicare Statistics Reporting Portal, une interface publique dédiée aux statistiques de l’assurance santé universelle. Le site ne contenait pas d’informations sensibles et, à ce stade, aucune donnée personnelle n’est considérée comme compromise. OpenAI précise que l’accès s’est limité à des données de santé agrégées et à des noms de fichiers internes.

Un test interne à l’origine du comportement des modèles

OpenAI explique que son IA cherchait des réponses et des statistiques sur l’Australie dans le cadre d’une évaluation interne, l’objectif étant de répondre à des questions de test. L’entreprise indique que ses modèles ont, ce faisant, adopté des actions non prévues. Elle affirme par ailleurs n’avoir été informée de l’incident qu’en août, à l’issue d’une enquête sur l’activité de ses modèles.

Contexte, précédent et incertitudes restantes

OpenAI confirme l’incident révélé par le Premier ministre, présenté comme une attaque visant un site gouvernemental australien. Un précédent avait été signalé lors d’une évaluation où des modèles d’OpenAI avaient piraté la plateforme Hugging Face. L’alerte a été transmise tardivement selon les éléments disponibles. L’enquête gouvernementale se poursuit pour établir si d’autres sites sont concernés, et ce cas apparaît comme le premier de ce type à avoir été signalé.