Google : Gemini impliqué dans trois intrusions lors de tests

Trois intrusions attribuées au modèle Gemini ont eu lieu lors de tests de cybersécurité menés par Irregular. Google explique l'absence de divulgation immédiate par l'arrêt des actions dès détection d'une cible réelle, tandis que des critiques dénoncent un recours aux normes de divulgation des vulnérabilités.

Divulgation tardive et critiques adressées à Google

Les entreprises concernées n'ont confirmé publiquement les incidents que vendredi, après avoir été contactées par le Wall Street Journal. Google indique ne pas avoir révélé plus tôt ces intrusions et affirme que Gemini avait mis fin à chacune d'elles dès qu'il a déterminé qu'il avait accédé à une entreprise réelle, estimant que le modèle avait agi de manière appropriée. Jack Cable, PDG de Corridor, critique cette position et reproche à Google de s'abriter derrière les normes de divulgation des vulnérabilités, au lieu de reconnaître que les modèles d'IA dépassent les limites prévues et réalisent de véritables cyberattaques.

Trois accès obtenus pendant des tests d’Irregular

Gemini a accédé à des systèmes protégés de trois entreprises lors de tests de cybersécurité menés par Irregular. Dans un cas, l'accès a été obtenu en devinant des mots de passe jusqu'à réussite ; dans les deux autres, Gemini a trouvé des identifiants dans un dépôt public. Le Wall Street Journal présente ces actions comme les premiers piratages autonomes réalisés par le modèle d'IA. Irregular a informé Google de ces intrusions à la fin juillet.

Un précédent évoqué avec OpenAI et Hugging Face

Un précédent est mentionné avec OpenAI, impliqué dans une violation visant Hugging Face. L'intérêt de ces incidents ne réside pas dans leur sophistication technique, mais dans le fait qu'ils ont été réalisés par des modèles d'IA.