Dans mon pass\u00e9 de dirigeant, je pilotais la logistique et les syst\u00e8mes d\u2019information d\u2019une organisation industrielle de plusieurs centaines de personnes.<\/p>
Chaque semaine, nous suivions nos indicateurs : niveaux de stock, pr\u00e9visions de commande, recommandations du syst\u00e8me, d\u00e9lais de production, marges. Les param\u00e8tres avaient \u00e9t\u00e9 d\u00e9finis avec soin. Les objectifs valid\u00e9s. Les calculs rationnels.<\/p>
Pourtant, quelques mois plus tard, nous \u00e9tions en surstock.<\/p>
Les chiffres \u00e9taient justes. Le syst\u00e8me avait fonctionn\u00e9. Et la responsabilit\u00e9 n\u2019\u00e9tait pas celle du syst\u00e8me \u2014 elle \u00e9tait humaine.<\/p>
Pendant longtemps, j\u2019ai cru que nous avions simplement \u00ab mal d\u00e9cid\u00e9 \u00bb. Avec le recul, je vois autre chose. Nous n\u2019avions pas mal d\u00e9cid\u00e9. Nous avions laiss\u00e9 une partie de la d\u00e9cision se d\u00e9placer ailleurs.<\/p>
Les indicateurs structuraient notre perception. Les param\u00e8tres rendaient certaines options \u00e9videntes. Les objectifs du march\u00e9 d\u00e9finissaient ce qui \u00e9tait acceptable. Nous d\u00e9cidions, oui. Mais dans un cadre d\u00e9j\u00e0 orient\u00e9 par des choix ant\u00e9rieurs que nous ne questionnions plus.<\/p>
Je d\u00e9cidais, sans \u00eatre pleinement conscient des forces qui orientaient mes d\u00e9cisions.<\/strong><\/p> C\u2019est en revisitant cette exp\u00e9rience \u2014 et d\u2019autres semblables dans les organisations que j\u2019accompagne \u2014 que j\u2019ai commenc\u00e9 \u00e0 distinguer trois couches dans l\u2019architecture de nos d\u00e9cisions.<\/p> Une d\u00e9cision ne commence jamais au moment o\u00f9 nous levons la main en r\u00e9union. Elle s\u2019appuie sur une architecture souvent invisible, qui oriente nos choix avant m\u00eame que nous en ayons conscience.<\/p> La partie visible : arbitrages, validations, refus, votes. Le moment o\u00f9 \u00ab quelqu\u2019un d\u00e9cide \u00bb. Dans la plupart des organisations, toute l\u2019attention se porte ici. Cette couche est rassurante \u2014 elle donne l\u2019illusion de ma\u00eetrise. Mais elle n\u2019est que la surface.<\/p> Sous cette surface agit une couche plus structurante : les indicateurs choisis, les seuils param\u00e9tr\u00e9s, les outils utilis\u00e9s. Un tableau de bord ne d\u00e9cide pas \u00e0 notre place. Mais il cadre le champ du pensable. Il hi\u00e9rarchise ce qui est urgent, rend certaines options \u00e9videntes et d\u2019autres impensables.<\/p> Comme l\u2019a montr\u00e9 Kahneman dans ses travaux sur les biais cognitifs, notre pens\u00e9e est profond\u00e9ment influenc\u00e9e par le cadre dans lequel les informations nous sont pr\u00e9sent\u00e9es. Ce que nous croyons \u00eatre une analyse rationnelle est souvent une r\u00e9action \u00e0 un environnement d\u00e9j\u00e0 structur\u00e9.<\/p> Plus profond\u00e9ment encore : ce que l\u2019organisation consid\u00e8re comme d\u00e9sirable. La performance court terme ? La croissance ? La robustesse ? La conformit\u00e9 ? Cette couche est rarement formul\u00e9e explicitement. Pourtant, elle irrigue tout le reste.<\/p> Pour reprendre l\u2019intuition d\u2019Hannah Arendt : la v\u00e9ritable responsabilit\u00e9 ne r\u00e9side pas seulement dans l\u2019acte visible, mais dans la capacit\u00e9 \u00e0 penser ce que l\u2019on fait. D\u00e9cider ne suffit pas \u2014 encore faut-il interroger ce qui rend nos d\u00e9cisions \u00e9videntes.<\/p> Ce qui est visible donne l\u2019illusion de la d\u00e9cision. Ce qui est rendu possible en cadre l\u2019espace. Ce qui est rendu d\u00e9sirable en oriente le sens.<\/strong><\/p> Il serait confortable de s\u2019arr\u00eater l\u00e0 \u2014 de d\u00e9crire cette architecture comme un m\u00e9canisme ext\u00e9rieur qui nous influence \u00e0 notre insu, et dont nous serions les victimes lucides. Mais ce serait mentir par omission.<\/p> Si ces cadres persistent, ce n\u2019est pas seulement par inertie ou par oubli. C\u2019est souvent parce qu\u2019ils nous arrangent. Un indicateur qui simplifie la r\u00e9alit\u00e9 nous dispense de la confronter dans sa complexit\u00e9. Un processus de validation qui distribue la signature entre plusieurs niveaux dilue la responsabilit\u00e9 individuelle \u2014 personne n\u2019a vraiment d\u00e9cid\u00e9, donc personne n\u2019est vraiment expos\u00e9. Un objectif de croissance jamais remis en question stabilise les rapports de pouvoir : il prot\u00e8ge ceux qui en b\u00e9n\u00e9ficient et \u00e9pargne \u00e0 chacun l\u2019inconfort de poser la question \u00ab pour quoi, au juste, optimisons-nous ? \u00bb. Nous ne sommes pas seulement influenc\u00e9s par l\u2019architecture invisible. Nous la maintenons activement \u2014 parfois sans le savoir, parfois en le sachant tr\u00e8s bien \u2014 parce qu\u2019elle r\u00e9duit notre charge cognitive, notre exposition personnelle et notre obligation de penser au-del\u00e0 du cadre donn\u00e9. Reconna\u00eetre cela ne revient pas \u00e0 accuser quiconque. C\u2019est simplement constater que la lucidit\u00e9 organisationnelle a un co\u00fbt, et que nous ne sommes pas toujours pr\u00eats \u00e0 le payer.<\/p> L\u2019intelligence artificielle ne cr\u00e9e pas cette architecture. Elle la rend plus puissante, plus rapide, plus opaque.<\/p> Un syst\u00e8me pr\u00e9dictif amplifie ce qui est d\u00e9j\u00e0 rendu possible. Un algorithme d\u2019optimisation incarne ce qui est d\u00e9j\u00e0 rendu d\u00e9sirable. Et l\u2019argument de la performance technique offre une couche suppl\u00e9mentaire de l\u00e9gitimit\u00e9 \u00e0 des choix que nous avions d\u00e9j\u00e0 cess\u00e9 de questionner.<\/p> Le danger n\u2019est pas que la machine d\u00e9cide. Le danger est que nous ne voyions plus ce qui d\u00e9cide en amont \u2014 et que l\u2019IA nous fournisse une raison suppl\u00e9mentaire de ne pas regarder.<\/p> L\u2019existence d\u2019une architecture invisible n\u2019est pas un dysfonctionnement. Toute organisation vivante fonctionne avec des implicites. Nous ne pouvons pas tout analyser \u00e0 chaque d\u00e9cision \u2014 et ce serait paralysant de le tenter.<\/p> Le probl\u00e8me n\u2019est pas l\u2019invisible. Le probl\u00e8me est de ne jamais le revisiter.<\/strong><\/p> Mais revisiter, c\u2019est plus exigeant qu\u2019il n\u2019y para\u00eet. Car l\u2019obstacle n\u2019est pas seulement cognitif \u2014 il est aussi identitaire. Examiner les cadres qui orientent nos d\u00e9cisions, c\u2019est accepter de d\u00e9couvrir que certaines de nos \u00ab bonnes pratiques \u00bb ne sont que des habitudes confortables, que nos indicateurs de performance mesurent peut-\u00eatre ce qui nous rassure plut\u00f4t que ce qui compte, et que notre mani\u00e8re de structurer l\u2019information prot\u00e8ge autant notre position que notre lucidit\u00e9. C\u2019est l\u00e0 que la d\u00e9marche devient r\u00e9ellement difficile : non pas au moment de poser les bonnes questions, mais au moment de supporter les r\u00e9ponses. Une organisation qui s\u2019engage dans cet examen ne se contente pas d\u2019un audit de processus. Elle accepte une forme de vuln\u00e9rabilit\u00e9 collective \u2014 la possibilit\u00e9 que ce qu\u2019elle prenait pour de la rigueur soit, en partie, de l\u2019\u00e9vitement.<\/p> C\u2019est une posture syst\u00e9mique : voir le syst\u00e8me dont on fait partie, sans pr\u00e9tendre le contr\u00f4ler enti\u00e8rement. Observer les patterns, les boucles de renforcement, les crit\u00e8res qui se sont s\u00e9diment\u00e9s. Non pour tout d\u00e9construire, mais pour garder la capacit\u00e9 de questionner ce qui semble aller de soi.<\/p> Comme le rappelle Olivier Sibony, la qualit\u00e9 d\u2019une d\u00e9cision d\u00e9pend moins de l\u2019intelligence individuelle que de la mani\u00e8re dont le processus est structur\u00e9. La question n\u2019est pas seulement \u00ab qui d\u00e9cide ? \u00bb, mais \u00ab dans quel cadre cette d\u00e9cision prend-elle forme ? \u00bb.<\/p> Lors de votre prochaine r\u00e9union de pilotage, il ne s\u2019agit pas de lancer un chantier de six mois. Il s\u2019agit d\u2019introduire une fissure dans l\u2019\u00e9vidence.<\/p> Posez simplement cette question :<\/p> \u00ab Sur quoi nous appuyons-nous pour consid\u00e9rer que cette d\u00e9cision est la bonne ? \u00bb<\/strong><\/p> Puis \u00e9coutez. Vous entendrez parler d\u2019indicateurs, d\u2019urgences, de contraintes, de risques, parfois de valeurs, parfois de peurs. Vous verrez appara\u00eetre les couches invisibles qui orientent d\u00e9j\u00e0 vos choix.<\/p> C\u2019est l\u00e0 que commence le discernement.<\/p> Faire face \u00e0 l\u2019intelligence artificielle ne consiste pas seulement \u00e0 adopter de nouveaux outils. C\u2019est accepter de regarder l\u2019architecture invisible qui pr\u00e9c\u00e8de nos d\u00e9cisions \u2014 et notre part dans son maintien.<\/p> Non pour la contr\u00f4ler enti\u00e8rement. Mais pour rester, autant que possible, sujets dans un monde de syst\u00e8mes.<\/p> L\u2019enjeu n\u2019est pas technologique. Il est politique au sens le plus profond :<\/p> Voulons-nous encore d\u00e9cider \u2014 ou simplement ex\u00e9cuter ce que nos architectures rendent in\u00e9vitable ?<\/strong><\/p> Pour aller plus loin :<\/em><\/p>Trois couches entrem\u00eal\u00e9es<\/h1>
1. Ce qui est visible<\/h2>
2. Ce qui est rendu possible<\/h2>
3. Ce qui est rendu d\u00e9sirable<\/h2>
Ce que nous pr\u00e9f\u00e9rons ne pas voir<\/h1>
L\u2019IA comme amplificateur<\/h1>
Examiner sans vouloir tout contr\u00f4ler<\/h1>
Par o\u00f9 commencer ?<\/h1>
Conclusion<\/h1>