La main invisible

« A la source de l’intelligence artificielle » –

la chronique de Bertrand Jacquillat
Par Bertrand Jacquillat
25 mai 2023 à 11h10

« Herbert Simon a eu l’intuition des lacunes de la théorie économique

traditionnelle, et a ouvert la voie à la manière de les surmonter »

Il a reçu le prix Nobel d’économie il y a 45 ans — c’était en 1978 — à la grande surprise de ses
pairs, parce qu’il était titulaire de la chaire de… psychologie et d’informatique à l’université
Carnegie Mellon. Son nom : Herbert Simon. Il est à la source de l’intelligence artificielle.
D’abord pour une raison presque anecdotique. C’est lui qui a découvert la façon de
programmer des ordinateurs pour générer automatiquement des algorithmes destinés au jeu
d’échecs. Il a conçu en quelque sorte l’ancêtre du Deep Blue d’IBM qui battrait plusieurs
dizaines d’années plus tard le célèbre grand maître Gary Kasparov, ou qui dans le même ordre
d’idée pousserait à la retraite en 2016 Lee Sedol, le champion de go.

Plus sérieusement, Herbert Simon est à la source de l’intelligence artificielle pour avoir eu
l’intuition des lacunes de la théorie économique traditionnelle, et avoir ouvert la voie à la
manière de les surmonter. Gêné par l’impossibilité d’appliquer celle-ci en pratique, il chercha
à appréhender et modéliser la rationalité humaine dans le processus de prise de décision au
sein des organisations. Ce qu’il découvrit, c’est l’irréalisme du raisonnement
microéconomique classique, lequel postule que tout décideur cherche à maximiser, soit le
profit dans le monde marchand, soit l’utilité dans l’univers non marchand, en suivant une
démarche parfaitement rationnelle s’appuyant sur une information quasi parfaite sur
l’environnement.

« Rationalité limitée ». Ce schéma de pensée est, en effet, tout sauf réaliste. D’abord, il est
illusoire de penser que les individus prennent leurs décisions en optimisant systématiquement
l’utilisation des ressources dont ils disposent pour atteindre un objectif maximal. Les individus,
en fait, se contentent la plupart du temps de la solution qui leur paraît satisfaisante sans pour
autant être nécessairement optimale. Par ailleurs, et surtout, les décideurs ne disposent que
d’informations très imparfaites et très incomplètes, et n’ont que de faibles capacités pour les
traiter. L’idée centrale de Herbert Simon est donc de substituer au sacro-saint principe de la
maximisation, celui de la « rationalité limitée ». Au moins trois facteurs limitent la rationalité
des individus dans leur processus de prise de décision : d’abord leurs capacités cognitives, qui
sont loin d’être illimitées ; leurs objectifs individuels et leurs propres valeurs, c’est-à-dire leurs
motivations qui sont éventuellement différentes de celles de l’organisation ; et, enfin, leurs
connaissances partielles de chaque situation qu’ils ont à gérer.

L’intelligence artificielle a pour conséquence d’augmenter cette rationalité limitée, en puisant

dans l’immensité d’un océan de données, voire tout internet, pour apporter des réponses à
chacune des étapes du processus de prise de décision : tout d’abord, lors de la découverte des
faits qui appellent une réaction, c’est-à-dire lorsqu’on se demande « quel est le problème ? ».
Ensuite, au cours de la conception de la décision, c’est-à-dire lors de la réflexion sur les
conséquences induites par chaque action quand on cherche « quelles sont les solutions ? ».
Enfin, à l’occasion du choix de l’action finale à entreprendre parmi toutes les actions possibles
pour répondre à la question « quelle est la meilleure solution ? ». A toutes ces questions, un
robot conversationnel comme ChatGPT constitue une contribution essentielle de la réponse
et de la prise de décision, en élargissant la puissance cognitive des organisations au-delà de la
somme des connaissances de l’ensemble de ses membres.

Ces idées conduisent à penser que les organisations de demain seront très différentes de
celles d’aujourd’hui, dès lors que tout ou partie des décisions pourront être automatisées.
Ainsi, dans les organisations, les individus seront confrontés à trois types de décisions qu’ils
devront traiter de façon différente : celles qui concernent les processus physiques liés soit à
la production, soit à la distribution, et qui seront largement automatisés, et de ce fait ne
nécessiteront qu’une intervention humaine limitée ; celles qui sont liées à l’habitude et à la
mémoire collective des membres de l’organisation qui représentent en quelque sorte la
culture de l’entreprise, seront programmées. Elles permettent d’initier les individus
nouvellement embauchés aux modes de comportement de l’organisation ; enfin toutes les
autres actions, en diminution constante.

Précurseur. Les organisations futures se caractériseront donc de plus en plus par un

renforcement de la centralisation car le niveau moyen du management perdra le pouvoir face
à la montée des décisions programmées sur lesquelles il n’aura qu’une faible prise. C’est ainsi
que Herbert Simon est considéré comme le père de la théorie des organisations avant d’avoir
été reconnu comme un précurseur de l’intelligence artificielle. Au siècle dernier, dans un petit
village du nord de l’Ardèche, une dame âgée tenait une mercerie vouée à disparaître. Elle
utilisait une petite calculatrice pour faire l’addition des achats de fils, aiguilles, boutons, etc.
de ses clients. N’étant pas sûre de la fiabilité de cette machine qui lui était étrangère, elle
refaisait les calculs à la main pour s’assurer du résultat. C’est un peu la même chose avec la
fiabilité de ChatGPT qui peut délivrer des informations plausibles, mais fausses, un processus
qui porte le nom d’hallucination. Les humains se trompent aussi, sauf que les logiciels
d’intelligence artificielle narrative ne peuvent expliquer leur raisonnement, ni rendre compte
de leur degré de confort et de confiance dans les résultats qu’ils présentent et que l’utilisateur,
à l’instar de la mercière, ne peut facilement vérifier.

ChatGPT une très puissante technologie, dont les risques ont été largement débattus, et qui
offre vraisemblablement d’extraordinaires opportunités. Mais la boutade est connue d’un
autre prix Nobel d’économie, Robert Solow, qui au tournant du siècle dernier faisait la
remarque qu’il voyait des ordinateurs partout dans les entreprises et les administrations, mais
pas dans les statistiques de productivité. N’oublions pas le laps de temps qu’il aura fallu à
Herbert Simon pour que ses intuitions débouchent sur l’avènement de l’intelligence
artificielle. Faudra-t-il autant de temps à celle-ci pour avoir un impact, qu’aux ordinateurs et
autres grandes innovations technologiques du passé qui ont mis des décennies à irriguer
pleinement les économies ? Ainsi se pose la question de l’incidence de ChatGPT et autres
robots sur la productivité et la croissance économique, ce qui fera l’objet d’une prochaine
chronique.

Bertrand Jacquillat est vice-président du Cercle des économistes et senior advisor de Tiepolo.