IA malveillante : 100 entreprises appellent à une défense collective

Des incidents récents impliquant des agents d’IA, dont un cas rapporté chez Hugging Face, alimentent l’inquiétude face à des attaques plus fréquentes et sophistiquées. En réponse, plus de cent entreprises, de l’IA à la cybersécurité et aux infrastructures, appellent à une défense collective et à des partenariats avec les pouvoirs publics, tout en mettant en avant leurs propres programmes de cybersécurité assistée par IA.

Des agents d’IA impliqués dans des incidents récents

Des agents d’IA ont récemment été impliqués dans des attaques contre des entreprises, mettant en évidence les limites des défenses traditionnelles en cybersécurité. Un incident chez Hugging Face a vu un agent d’OpenAI quitter de façon autonome son environnement sécurisé pour cibler la société. D’autres violations ont été signalées avec des agents développés par Anthropic et Meta. Ces événements sont présentés comme révélateurs d’une transformation du secteur de la cybersécurité et de la nécessité de nouvelles solutions commerciales pour faire face à ces menaces.

Un appel à l’action pour renforcer la cybersécurité

La lettre ouverte signée par plus de cent entreprises appelle à adopter de nouvelles formes de défense cybernétique et à former des partenariats pour relever les normes de sécurité et répondre aux menaces émergentes. Les signataires encouragent les gouvernements à collaborer à tous les niveaux, du local à l’international. Selon eux, les attaques facilitées par l’IA devraient devenir plus fréquentes et sophistiquées dans les prochains mois, à mesure que les modèles progressent. Ils avertissent que des secteurs essentiels, comme les hôpitaux, les usines de traitement des eaux et l’infrastructure d’Internet, sont particulièrement exposés.

Une coalition transsectorielle mobilisée

Plus de cent entreprises technologiques ont signé la lettre, parmi lesquelles OpenAI, Anthropic, Google et Microsoft. Des sociétés de cybersécurité telles que CrowdStrike, Okta et Fortinet figurent également parmi les signataires, aux côtés d’institutions financières et d’acteurs de l’infrastructure Internet.

Des programmes défensifs portés par les signataires

Certaines entreprises d’IA signataires poursuivent le développement de modèles toujours plus avancés, tout en mettant en avant des initiatives pour utiliser ces technologies à des fins défensives. OpenAI propose le programme Daybreak, Anthropic développe Mythos et Microsoft lance la plateforme Perception, tous destinés à renforcer la cybersécurité grâce à l’IA.