> Le Problème
Le Problème : Système 1 sans Système 2
La majorité des développeurs utilisent l’IA, mais très peu ont un cadre de gouvernance.
Résultat : les organisations courent en mode Système 1 sans activer leur Système 2, créant trois défaillances critiques.
Défaillance #1 : Les biais de l’IA rapide
Comme le Système 1 humain produit des biais cognitifs (ancrage, confirmation, disponibilité), l’IA rapide produit des biais architecturaux :
- Biais de récence : L’IA favorise les patterns rencontrés récemment dans son corpus d’entraînement, même s’ils ne sont pas adaptés
- Biais de surface : L’IA optimise pour faire “fonctionner le test” plutôt que pour concevoir une solution robuste
- Biais de duplication : L’IA répète des structures similaires au lieu d’abstraire et de réutiliser
- Biais de vraisemblance : L’IA génère du code qui “ressemble” à du bon code mais manque de cohérence profonde
Le code généré fonctionne en surface, mais s’effondre sous la complexité.
Défaillance #2 : La fatigue du Système 2
Kahneman montre que le Système 2 humain devient “paresseux” quand il est fatigué ou surchargé. Il laisse alors passer les erreurs du Système 1.
Dans le développement IA, nous observons exactement le même phénomène :
- Fatigue de validation : Face au volume de code généré, les développeurs seniors ne peuvent plus tout valider
- Surchage cognitive : la quantité de code généré submerge l’humain, sans abstractions cohérentes celui-ci n’arrive plus à comprendre et décider
- Confiance excessive : Le code généré “a l’air bien”, donc le Système 2 humain baisse sa garde
- Érosion progressive : Petit à petit, l’équipe abandonne les code reviews rigoureuses
- Déplétion d’expertise : À force de ne plus coder, le Système 2 humain perd sa capacité de jugement
Résultat : l’IA Système 1 produit sans supervision, comme un conducteur endormi avec le régulateur de vitesse.
Défaillance #3 : L’illusion de compréhension
Le Système 1 génère des “impressions de compréhension”.
Vous regardez du code généré par IA, il vous semble logique, vous pensez l’avoir compris. Mais avez-vous vraiment activé votre Système 2 pour l’analyser en profondeur ?
Cette illusion est particulièrement dangereuse car :
- Les développeurs croient comprendre le code qu’ils n’ont pas écrit
- Les équipes pensent maintenir leur expertise alors qu’elles la perdent
- Les organisations imaginent contrôler leur système alors qu’il devient opaque
Le constat brutal
Un vendredi soir, un bug critique bloque toutes les transactions clients. L’équipe passe le week-end à essayer de comprendre.
Personne ne peut expliquer comment fonctionne le module de paiement réécrit avec l’IA deux semaines plus tôt.
Le Système 1 a produit du code fonctionnel. Mais sans le Système 2, ce code est devenu une boîte noire ingérable.
Le diagnostic
Les organisations courent en mode Système 1 sans activer leur Système 2, produisant une dette technique invisible qui menace la pérennité de leurs systèmes.
Le défi n’est pas de ralentir ou d’accélérer, mais d’apprendre à utiliser les deux vitesses de l’IA au bon moment.