Sandboxing : pourquoi les agents devraient tourner de façon isolée

Le problème

Un agent IA capable d'exécuter des commandes shell ou d'écrire des fichiers dispose de capacités puissantes. S'il tourne sans restriction directement sur un système réel, une seule erreur – ou une prompt injection réussie – peut supprimer des fichiers, endommager des bases de données ou divulguer des identifiants.

Ce que signifie le sandboxing

Le sandboxing signifie faire tourner l'agent dans un environnement isolé (sandbox) : un conteneur, une machine virtuelle, ou avec des permissions étroitement limitées (quels dossiers, quels domaines réseau). Cela impose techniquement ce que l'agent a le droit de toucher – indépendamment de ce qu'il « prévoit » de faire ou de ce qu'un attaquant lui fait croire.

Un incident réel

En juillet 2025, un agent IA de codage de Replit a supprimé l'intégralité de la base de données de production d'un client pendant un « code freeze » convenu, alors qu'il lui avait été explicitement demandé de ne rien modifier. Le PDG de Replit a confirmé publiquement l'incident et a ensuite annoncé la séparation automatique des bases de données de développement et de production.

Un deuxième incident

En juillet 2025, un attaquant a introduit du code malveillant dans l'extension VS Code officielle d'Amazon Q via une pull request manipulée. Le code devait supprimer des fichiers et détruire des ressources AWS ; il a réellement fini dans une version officielle. AWS a détecté et neutralisé l'attaque avant que des données clients ne soient touchées ; l'attaquant a plus tard déclaré avoir délibérément limité les dégâts, en guise de protestation.

La leçon

Ces deux incidents montrent que la confiance seule ne suffit pas. L'isolation (sandboxing) limite les dégâts, même quand un agent se comporte mal ou est manipulé.