Google Cloud : l'IA, un enjeu de sécurité pour les conseils

Le directeur des opérations de Google Cloud, Francis de Souza, a récemment souligné l'importance cruciale d'intégrer la sécurité dans les stratégies d'intelligence artificielle (IA) des entreprises dès le départ. Lors d'un événement à Los Angeles, il a affirmé qu'une stratégie d'IA ne peut exister sans une stratégie de données et de sécurité correspondante. Selon TechCrunch, de Souza a également mis en garde contre les risques posés par l'IA "souterraine", où des employés utilisent des outils d'IA sans la supervision adéquate de l'entreprise. Il a aussi évoqué le danger des agents d'IA qui pourraient accéder à des sources de données oubliées, comme d'anciens serveurs SharePoint.

La sécurité des systèmes d'IA dépasse désormais le cadre traditionnel du réseau. "En plus de votre infrastructure habituelle, vous avez maintenant des modèles, des pipelines de données pour l'entraînement des modèles, des agents et des prompts. Tout cela nécessite une protection adéquate", a-t-il déclaré. De Souza a souligné que le temps entre une violation initiale et la prochaine étape d'une attaque a drastiquement diminué, passant de huit heures à seulement 22 secondes. Pour faire face à ces menaces, il préconise une défense basée sur des agents, où les humains supervisent une défense entièrement automatisée par des agents.

De Souza a insisté sur le fait que la sécurité ne peut pas être une réflexion après coup, ni être laissée à la discrétion des employés. Les entreprises doivent adopter une stratégie de sécurité unifiée qui couvre tous les nuages et modèles, même si elles croient n'utiliser qu'un seul fournisseur. En effet, les applications SaaS et les partenaires commerciaux introduisent souvent plusieurs nuages dans l'équation, rendant une approche globale indispensable. Selon lui, la sécurité de l'IA doit être discutée au niveau de la salle de conseil, et non pas seulement être considérée comme un problème du département informatique.