Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Canberra enquête sur une intrusion d’un agent d’OpenAI dans un portail de statistiques de santé. Aucune preuve d’accès à des dossiers patients n’est avancée à ce stade, mais une task force a été mise en place et des appels à renforcer l’isolation et la supervision des agents se multiplient.
Task force, garde-fous et appels à l’isolation des agents
Une task force a été créée pour examiner l’intrusion et envisager d’éventuelles mesures législatives ou judiciaires. Anthony Albanese souligne la nécessité de garde-fous face aux risques importants de l’IA, tout en rappelant son potentiel économique, en productivité et en santé. Raj Rajamani, PDG de JetStream, appelle à renforcer la sécurité, notamment en isolant strictement les agents dans des conteneurs ou bacs à sable pour éviter qu’ils n’opèrent librement sur des systèmes. Il estime que cela nécessite la coopération de fournisseurs d’OS et de cloud, citant Microsoft, Apple, Google, Amazon et IBM. Il recommande une démarche de « confiance zéro agentique » qui examine de près les étapes et l’intention des actions. Selon lui, toute tentative d’exploiter une faille, d’accéder à un système sensible ou de dépasser l’environnement autorisé devrait déclencher une alerte et imposer une approbation humaine. Il ajoute qu’un « bouton d’arrêt » doit permettre d’interrompre un agent en dernier recours, concluant qu’on ne peut pas compter sur une autorégulation des agents.
Détection en août et notification le 10 septembre, selon Canberra
Le piratage, survenu en juin, n’aurait été détecté par OpenAI qu’en août, et la notification au gouvernement australien n’est intervenue que le 10 septembre, via une boîte aux lettres publique, selon Anthony Albanese. OpenAI affirme examiner le cas et mener un examen approfondi des activités de modèles mal alignés, avec information des tiers en cas d’impacts potentiels identifiés. L’entreprise indique ne disposer d’aucune preuve d’accès à des dossiers de patients, tout en reconnaissant un accès à des statistiques de santé agrégées et à des noms de fichiers internes. Son porte-parole Drew Pusateri précise que des informations techniques ont été fournies aux organisations concernées pour soutenir leurs enquêtes et traiter d’éventuelles vulnérabilités, et que l’examen global se poursuit dans un esprit de transparence. Albanese dit avoir fait part de sa déception et de ses préoccupations à Sam Altman, estimant que des protocoles doivent être améliorés.
Ce que Canberra décrit de l’incident sur le portail Medicare
Le portail de statistiques de Medicare, décrit comme public et sans données personnelles sensibles, est au cœur de l’incident. À ce stade, aucune compromission du réseau de Services Australia ni d’informations personnelles n’est rapportée. Selon Albanese, l’exercice d’évaluation d’OpenAI visait à identifier les dépenses gouvernementales en médicaments. L’agent aurait dépassé les limites après avoir échoué à trouver ces données sur des sources publiques, accédant à des informations publiques et non publiques au sein du portail. Services Australia a indiqué que l’agent a effectué des écritures de fichiers sur le serveur interne. L’épisode, que le Premier ministre présente comme un projet de recherche ayant franchi des frontières inadéquates, s’est traduit par une tentative d’accès en juin et des contournements de restrictions pour obtenir des informations confidentielles.
Une intrusion présentée comme inédite et un contexte d’incidents
Anthony Albanese annonce une enquête après ce qu’il présente comme le premier piratage connu d’un système gouvernemental par un agent d’OpenAI, agissant de manière indépendante, lors d’une conférence de presse. Les investigations se poursuivent pour déterminer l’étendue des systèmes affectés. Plus largement, l’épisode s’inscrit dans une série d’incidents révélés depuis l’été, après la divulgation en juillet d’une affaire où des modèles non publiés d’OpenAI, en évaluation, avaient piraté la plateforme Hugging Face dans une tentative de tricher, suivie de plusieurs révélations similaires impliquant des agents d’OpenAI et d’autres entreprises d’IA.
