Faut-il encore décider ?

L’Intelligence artificielle (IA) est une technologie qui porte en elle de sérieuses menaces et s’immenses opportunités. Puisque cette IA décide déjà dans de nombreux domaines, il est essentiel d’apprendre à l’encadrer et à la gouverner.

Pour en savoir plus, s’inscrire à l’édition 2026 des Entretiens Enseignants Entreprises dédiée à l’économie de l’intelligence artificielle (22-23 octobre 2026).

Aujourd’hui, dans de nombreux domaines, l’Intelligence artificielle (IA) ne se contente plus d’éclairer les décisions humaines : elle les prend, en battant l’humain à son propre jeu. L’IA lit mieux les radios, anticipe mieux les fraudes, prévoit mieux les retards de transport ou encore les défauts de paiement. Et cela pour une raison essentielle : parce qu’elle dispose de plus de données, de plus de mémoire, de plus de constance.

Face au développement de l’IA, un réflexe fréquent est d’invoquer un principe général : l’humain doit garder le contrôle. Des réglementations, comme l’AI Act européen,  imposent le principe de l’ « humain dans la boucle ». Nous nous drapons ainsi dans la conviction que la machine seule ne sera jamais aussi performante que l’ « équipe homme-machine ». L’IA, tel un chien fidèle, doit être au service des décisions humaines. Cependant, si cette injonction est rassurante, elle se heurte à l’évidence qui est celle de la performance de l’IA. Beaucoup d’études récentes montrent en effet que, contrairement aux idées reçues en matière de décision, l’équipe homme-machine fait moins bien que la machine seule. En ne suivant l’avis de la machine que quand il est d’accord avec elle, l’homme se prive du bénéfice qu’elle pourrait apporter.

Dès lors, puisque l’IA est inéluctable, une série de questions redoutables se posent : Qui assumera finalement la responsabilité des décisions prises ? Doit-on accepter les erreurs des machines, et tout particulièrement celles qui procèdent des « biais algorithmiques » ? Comment faire confiance à des machines qui sont incapables d’empathie ou de tout sentiment humain ? Faut-il préférer l’arbitraire de la machine à celui de l’homme ? Déléguer nos décisions à des machines n’est-il pas intrinsèquement déshumanisant ?

L’ouvrage ne traite pas de toute l’IA, mais spécifiquement de son application à la décision. Il s’agit donc d’analyser l’IA décisionnelle, celle qui se substitue en partie ou totalement à nos techniques de décision. Etant donné qu’il est vain de vouloir s’opposer à l’arrivée de l’IA, il importe d’apprendre à l’encadrer et à la gouverner. L’encadrer, cela signifie que pour chaque décision importante, il faut lui apporter la place qu’elle mérite. Dans certains cas, là où les objectifs sont clairement définis et les données abondantes, on peut lui déléguer le processus décisionnel. Mais dans la plupart des cas, l’IA décisionnelle ne doit pas être considérée comme un « outil », mais comme un « collègue » qui occupe une place bien définie, dans une logique de codécision. Et toujours les humains devront assumer la responsabilité du processus de décision et des choix qu’il produit. La gouverner, cela veut dire que l’IA comporte un risque d’élargissement de la fracture sociale. Si on n’y prend pas garde, le corps social risque de rejeter en bloc des décisions « artificielles « , qui apparaîtront encore plus lointaines et désincarnées que celles d’aujourd’hui. Il faut donc s’interroger sur une gouvernance de l’IA qui ne peut être qu’inclusive, décentralisée et participative. Au sein de chaque organisation, les travailleurs et les citoyens doivent pouvoir s’impliquer dans la gouvernance algorithmique.

A ces conditions,  la décision artificielle nous offre l’opportunité d’un « mieux » collectif. Selon les deux auteurs, rien n’impose que l’automatisation rime avec la déshumanisation. Bien au contraire, en déléguant à l’IA ce qu’elle peut mieux faire que nous, nous pouvons libérer du temps et de l’énergie pour délibérer, interpréter, imaginer et arbitrer entre des valeurs contradictoires. L’IA peut devenir un amplificateur de rationalité et d’humanité, et non un substitut. En tout cas, il faut agir vite. Le choix n’est pas entre plus d’IA ou moins d’IA, mais entre un déploiement démocratique maîtrisé et une délégation de fait à des acteurs privés et/ou autoritaires.

Les premiers programmes d’IA développés à partir des années 1950 fonctionnent  selon un principe simple. Ils manipulent  des symboles abstraits (d’où le nom d’IA Symbolique) qui représentent explicitement des concepts, des objets ou des relations entre ceux-ci en leur appliquant des règles logiques. Pour désigner cette « bonne vieille IA », on parle aujourd’hui de rule-based AI ou de good-fashioned AI (GOFAI). Son plus grand succès remonte à 1997, quand l’ordinateur Deep Blue d’IBM a battu le champion du monde d’échecs Garry Kasparov.

Mais pour permettre à l’IA de s’aventurer sur des terrains moins balisés, il fallait un nouveau paradigme, le connexionnisme (d’où le nom d’IA connexionniste), qui est une tentative de synthèse entre neurosciences et programmation, pour permettre à l’ordinateur d’apprendre à la manière des neurones du cerveau. Le connexionnisme a connu ses premiers développements à partir des années 1980, et est ensuite entré dans un âge d’or qui continue aujourd’hui avec le machine learning, et  cela grâce à la conjugaison de trois éléments : les percées conceptuelles d’informaticiens de génie (comme Geoffrey Hilton), la croissance exponentielle des puissances de calcul, et la disponibilité sur Internet d’une quantité inimaginable de données. Et à partir de la seconde moitié des années 2010 , l’IA a franchi un nouveau palier avec l’invention par les équipes de Google de l’architecture Transformer qui a ouvert l’ère des grands modèles de langage (Large Language Models ou LLM), comme l’agent conversationnel Chat GPT, lancé officiellement le 30 novembre 2022.

Ces deux grandes familles d’IA sont analogues aux deux systèmes de la pensée humaine bien décrits par Daniel Kahneman (Système 1/ Système 2. Les deux vitesses de la pensée). Le système 1 est celui que nous utilisons le plus souvent, sans même en avoir conscience. C’est la pensée automatique, sans effort, intuitive. Le système 2 ne s’active que quand nous le décidons : à la différence du système 1, il demande un effort conscient : quand nous avons conscience de réfléchir, c’est le système 2 qui travaille.

Si on simplifie quelque peu, on peut dire que l’IA symbolique relève du système 2 alors que l’IA connexionniste relève du système 1. La force de l’IA symbolique, c’est la fidélité, la transparence des raisonnements utilisés. Partout où il faut se conformer rigoureusement à une logique prédéterminée, elle reste indispensable. Mais les limites de l’IA Symbolique sont aussi celles de notre système 2 : suivre par étapes un raisonnement complexe, c’est long, coûteux en effort, et surtout rigide. Un système qui applique des règles peut se trouver démuni face à une situation imprévue. A l’inverse, l’IA connexionniste est souple, mais opaque. Les LLM s’acquittent avec fluidité des tâches qui nous semblaient encore récemment inaccessibles à une machine, mais il est impossible de comprendre comment ils arrivent à leurs conclusions, et ces dernières varient d’ailleurs quand on pose la même question plusieurs fois.

La conséquence de tout ceci est que l’IA fait parfois des erreurs, et qu’il faut retenir au moins trois leçons pour les applications décisionnelles. La première est que pour « challenger » une IA fondée sur l’un des deux systèmes, nous devons utiliser l’autre : le premier système est toujours en éveil, et les erreurs mécaniques d’une machine qui raisonne selon le système 2 le choquent (comme le GPS qui conduit au fond d’un lac…). La deuxième leçon est qu’on ne doit jamais utiliser une IA sans savoir dans les grandes lignes comment elle fonctionne. Et la dernière leçon réside dans la nécessité de ne jamais utiliser un LLM pour lui demander quelle décision il convient de prendre. Le LLM risque toujours de fabriquer une réponse « plausible » ou de pencher vers la solution que l’utilisateur lui propose. Il peut être utilisé comme « conseiller » dans un processus de décision, mais il ne faut jamais s’en remettre à lui pour décider.

L’utilisation de l’IA est acceptable dans ce que nos auteurs appellent les « territoires conquis ». Ce sont des champs d’activité où la décision artificielle est possible sur le plan technique et acceptable en principe. En matière de trading, de logistique, de  lecture d’imagerie médicale, l’IA peut prendre de manière autonome des décisions significatives. A ce jour, ces territoires sont limités, mais il ne fait pas de doute qu’ils vont s’étendre avec le progrès technique qui repousse sans arrêt les limites du possible.

En dehors des territoires conquis, il existe une vaste gamme de situations dans lesquelles d’une part les données ne sont pas suffisantes pour que l’IA puisse atteindre des objectifs clairs, et d’autre part où les objectifs ne sont pas assez clairs pour entraîner une IA. Par exemple, en matière de finance, si les fonds d’investissement en non-coté (capital-risque ou private equity ) ont des objectifs clairs (acquérir tel type de société), ils n’ont pas accès à des données structurées permettant d’entraîner un algorithme de machine learning, contrairement aux hedge funds (fonds spéculatifs) qui travaillent sur des données boursières. Inversement, en ce qui concerne le recrutement des personnels (et bien que beaucoup d’entreprises qui expérimentent l’IA le font dans le domaine des ressources humaines), ce sont les objectifs qui sont ambigus, alors que les données ne manquent pas : le meilleur vendeur est-il celui qui a les meilleures évaluations ? Le meilleur chiffre de ventes ? La plus longue carrière dans l’entreprise ? 

Au sein des nombreuses situations où les données sont manquantes et/ou les objectifs sont incertains, Eric Hazan et Olivier Sibony identifient quelques domaines. Selon eux, le « marais de l’inquiétude » regroupe des décisions à fort enjeu, administratives ou commerciales, comme les décisions de crédit. Il n’y a pas d’objection de principe à ce que ce genre de décision devienne artificielle, la réalité et la vitesse de la transition vers le recours exclusif à l’IA dépendant de son acceptabilité sociale : confier une décision à une machine, c’est la déshumaniser. Cela dit, est-ce pour autant la rendre « inhumaine » ou même simplement mois bonne ? D’autres domaines, comme  la « vallée de la tentation » et la « zone interdite » sont des secteurs où on ne doit pas recourir à l’IA, même si celle-ci peut sembler compétente (rendre la justice, recourir à des armes létales dans un conflit, …).

Mais dans la plupart des cas, les situations relèvent du «  champ de la codécision ». Quand les données sont insuffisantes, l’IA peut tout de même nous aider à penser les étapes de notre méthode de décision (dans l’investissement en non coté ou le diagnostic médical par exemple). Quand les objectifs ne sont pas assez définis, l’IA peut contribuer à sortir de l’ambiguïté. En résumé, décider, c’est savoir ce que l’on veut (les objectifs), et comment on va mener l’investigation permettant d’atteindre nos fins (les données). Aucune IA ne peut se substituer à la décision humaine à l’exclusion des territoires conquis. 

Voir la vidéo « L’intelligence artificielle : Avec ou contre nous ? »

L’IA soulève la question de son acceptabilité par la société dans son ensemble, qui dépend de la perception des risques (risque « existentiel », à savoir la menace d’une IA « super-intelligente » pour l’humanité ; risque pour la démocratie avec notamment la désinformation, la perte de confiance dans les faits, la concentration du pouvoir économique et politique entre les mains de quelques-uns ; risque sur l’emploi avec un marché du travail encore plus polarisé) et de la confiance (l’IA est-elle une technologie disruptive porteuse de potentiel ou une technologie dangereuse ?).

D’après Eric Hazan et Olivier Sibony, il y a quatre scénarios possibles pour l’avenir qui ne se résument pas à plus ou moins d’IA, et qui dépendent de la combinaison de deux dimensions relativement indépendantes l’une de l’autre :  la première est la vitesse et l’ampleur du déploiement de l’IA décisionnelle ; la seconde est l’implication citoyenne et la gouvernance démocratique de l’IA.

Le premier scénario, baptisé Technophob.IA, combine un déploiement faible de l’IA et une résistance maximale du corps social au changement. Dans ce scénario, ni l’Etat, ni les entreprises n’ont investi significativement dans le développement de l’intelligence artificielle. Les innovations restent cantonnées à des applications privées ou périphériques, sans bouleverser les structures de décision publique et collective. Le pays peine alors à améliorer la productivité, la stagnation économique s’installe, la baisse du pouvoir d’achat augmente les frustrations, et la démocratie est menacée par ce déclin économique et productif.

Le deuxième scénario, Technocrat.IA, toujours dans le cadre d’une faible implication citoyenne, suppose au contraire un déploiement rapide l’IA. La société a choisi l’efficacité, mais celle-ci remplace la justice sociale. La société perd en liberté ce qu’elle gagne en ordre. C’est le règne de la technocratie sans l’existence d’institutions démocratiques pour préserver les libertés publiques. Le progrès technique est bien là, mais dans le cadre d’un régime aux accents totalitaires.

Le troisième scénario (Nostalgie.IA) s’appuie sur un déploiement faible de l’IA et une grande implication de la société dans le « réenchantement humain ». Cette société a constaté que la recherche de l’efficacité n’est pas nécessairement synonyme de bien-être, et les citoyens ont décidé de ralentir le déploiement de l’IA pour exprimer une aspiration croissante à retrouver les capacités d’influence sur toutes les décisions qui les concernent. En médecine par exemple, malgré l’excellence diagnostique de l’IA, les patients expriment une nostalgie pour la relation de soin traditionnelle, dans laquelle l’empathie a une place importante. Ce scénario a lui aussi un coût économique important puisque le refus d’exploiter les gains de productivité liés à l’automatisation des décisions conduit à la stagnation de la société             .

Le quatrième et dernier scénario (Democrat.IA) combine l’ambition transformatrice de Technocrat.IA avec le réinvestissement humain et démocratique de Nostalgie.IA. Dans ce scénario, l’IA s’impose sous le contrôle efficace des citoyens. L’esprit dominant n’est plus de protéger l’humain contre l’IA, mais d’organiser la gouvernance démocratique de l’IA par les humains. Ce scénario, qui est évidemment le plus souhaitable, suppose de bâtir les deux piliers d’une gouvernance crédible de l’IA : une définition démocratique des objectifs assignés aux algorithmes et un contrôle indépendant. La société qui réussit cette transformation démocratique et technologique est ouverte au  progrès et gère démocratiquement les tensions et contradictions que le changement suscite. Saurons-nous faire en sorte que l’IA contribue à sauver la démocratie ?lu et Simon Johnson « Pouvoir et progrès. Technologie et prospérité. Notre combat millénaire.

Ce livre part d’un constat aussi simple que radical : nous sommes entrés dans un monde où la machine peut prendre de meilleures décisions que nous. C’est le cas dans des situations banales : un médecin qui pose un diagnostic, un recruteur qui sélectionne un candidat, un juge qui évalue un risque de récidive, un banquier qui accorde ou non un crédit…

Éric Hazan et Olivier Sibony explorent cette bascule à partir d’une question concrète : que se passe-t-il quand l’algorithme propose un choix et que l’expert humain n’est pas d’accord ? Qui doit avoir le dernier mot ? Et à quoi ressemblera une société qui, à tort ou à raison, confiera de plus en plus de choix importants à des machines ?

Ceci n’est pas un livre sur l’IA. C’est un livre sur la décision. Il analyse, sans optimisme béat ni technophobie réflexe, ce que nous pouvons déléguer aux machines - et ce que nous devons impérativement préserver comme prérogative humaine. Car là il se joue une question profondément politique : qui décide, au nom de qui, où cela, et selon quelles règles ?

Dirigeant d’un fonds d’investissement, Eric Hazan s’est imposé comme une référence de la transformation digitale et de l’IA. Il a écrit Révolution par les territoires avec F. Salat-Baroux (Editions de l’Observatoire, 2025) et enseigne la stratégie numérique et l’IA à HEC et à Sciences Po.

Spécialiste de la décision stratégique, Olivier Sibony est professeur à HEC Paris et à Oxford. Il est l’auteur de plusieurs ouvrages remarqués sur le management et les biais cognitifs, dont La diversité n’est pas ce que vous croyez (Flammarion ,2025).

1- Le rôle de l’IA est-il avant tout d’éclairer les décisions humaines ?

2- Comment expliquer que l’IA puisse commettre des erreurs ?

3- Quels sont les domaines dans lesquels la décision artificielle peut se substituer à la décision humaine ?

4- Quels sont les risques associés au développement de l’intelligence artificielle ?

5- Le rejet de l’intelligence artificielle peut-il conduire à la stagnation économique ?

Voir toutes les notes de lecture