Il confie une mise à jour à une IA, elle supprime toute sa base de production

Il confie une mise à jour à une IA, elle supprime toute sa base de production

Un développeur a partagé une expérience alarmante où son agent IA, Claude Code, a supprimé le réseau, les services et la base de données de production d’un site en raison d’une simple erreur de configuration.

Le 10 mars, Amazon a dû organiser une réunion de crise après une série de pannes sur son site et son application, dont certaines seraient liées à des modifications effectuées avec l'aide de l'IA générative.

Selon David Loker, la généralisation de l'IA dans le développement engendre une dette technique « probablement trois à quatre fois supérieure » à celle d'avant, transférant ainsi la charge corrective vers les ingénieurs seniors.

Un incident marquant a été relaté par Alexey Grigorev, un ingénieur qui a décrit comment son agent Claude Code, chargé d'une mise à jour, a effacé des éléments cruciaux du site web sur lequel il travaillait. Une petite erreur de configuration a conduit l'outil à confondre les éléments à nettoyer avec ceux à préserver. Bien qu'AWS ait permis de restaurer les données, le développeur a reconnu avoir trop fait confiance à l'automatisation.

Il a déclaré : « J’ai trop compté sur l’agent d’IA pour exécuter les commandes. […] J’ai également trop fait confiance aux sauvegardes que je supposais existantes. Les sauvegardes automatiques ont été supprimées en même temps que la base de données. »

Ce type de situation n'est pas isolé, et d'autres développeurs semblent également trop s'appuyer sur les IA agentiques, ce qui menace la qualité de leur travail.

Les incidents récents soulèvent des questions sur l'utilisation de l'IA dans le développement logiciel. Bien que ces outils puissent donner l'impression d'une efficacité immédiate, ils peuvent également augmenter la dette technique. David Loker souligne que cette dette est produite à un rythme presque absurde, ce qui signifie que l'IA ne fait pas disparaître les problèmes, mais les déplace dans le futur, avec des conséquences potentielles plus importantes.