J'ai injecté 422 fausses factures dans ma compta. La règle que j'en ai tirée.
Un bug dans un script que je croyais inoffensif. Et la leçon la plus utile de mon année de vibe coding.
J'automatise à peu près tout. Un matin, pour me faire gagner des heures, je branche un petit script qui importe mes factures dans ma comptabilité. Trois lignes de config, un café, c'est parti.
Le lendemain, j'ouvre ma compta. 422 factures que je n'ai jamais créées. Et près de 1 400 fournisseurs en double. Pas dans un bac à sable. Dans la production — le système qui sert, entre autres, à mes déclarations.
Ce n'est pas « un bug ». C'est ma comptabilité. Le truc qui doit être juste.
Ce qui s'est passé
La cause était bête à pleurer. Une fonction censée retrouver un fournisseur existant… en créait un nouveau à chaque passage. Multipliée par chaque ligne de chaque facture. Le script a fait exactement ce que je lui ai demandé — vite, et en masse.
C'est ça, le piège du vibe coding : l'IA (ou le script qu'elle a écrit) n'a aucun bon sens. Elle ne se dit jamais « tiens, 400 nouveaux fournisseurs d'un coup, c'est louche ». Elle exécute.
La règle que je ne lâche plus
Entre une automatisation et un système qui fait foi (une compta, une base clients, un CRM), il faut toujours un sas. Jamais d'écriture directe. Concrètement, avant de laisser quoi que ce soit écrire :
- Une couche de préparation (staging) — on écrit d'abord ailleurs, jamais direct dans le système final.
- Une résolution d'identité fiable — « ce fournisseur existe-t-il déjà ? » doit être répondu sûrement, pas deviné.
- Des garde-fous — des limites qui arrêtent tout : « si ça crée plus de 20 lignes, on stoppe et on demande ».
- Un test sur un mini-lot — 2-3 enregistrements, et surtout : on inspecte le résultat réel, pas juste « ça a tourné sans erreur ».
- La réversibilité vérifiée AVANT — puis-je tout annuler en une action ? Si non, on ne lance pas.
- Une revue humaine au moment de basculer en réel.
📄 La checklist que j'utilise maintenant
« Avant de laisser une IA (ou un script) écrire dans un système qui fait foi. » Une page, à coller au mur avant chaque automatisation. Laissez votre email, je vous l'envoie.
Ce que ça a changé pour mes produits
Cette discipline, je l'ai remise au cœur de tout ce que je construis. DAIRIA IA, l'assistant juridique que j'ai bâti, n'écrit jamais dans vos systèmes : il outille l'avocat, l'expert-comptable, le juriste, le DRH — il ne s'y substitue pas. L'humain garde la main — surtout quand ça touche à ce qui fait foi.
L'IA va vite. C'est sa force, et c'est exactement pourquoi il lui faut des freins. Le vibe coding sans garde-fous, c'est une voiture de course sans pédale de frein : grisant, jusqu'au premier virage.
Envie de voir à quoi ressemble une IA juridique faite par un avocat — avec l'humain aux commandes ?
Essayez DAIRIA IA · Et pour lire les autres coulisses : le Journal.
Récit personnel, à titre de retour d'expérience. Ne constitue ni un conseil juridique, ni une garantie de sécurité. © Sofiane Coly — sofianecoly.com