Noam Chomsky: The False Promise of ChatGPT Noam Chomsky : La fausse promesse de ChatGPT

March 8, 2023 8 mars 2023

By Noam Chomsky, Ian Roberts and Jeffrey Watumull Par Noam Chomsky, Ian Roberts et Jeffrey Watumull

Dr. Chomsky and Dr. Roberts are professors of linguistics. Chomsky et Roberts sont professeurs de linguistique.
Dr. Watumull is a director of artificial intelligence at a Watumull est directeur de l'intelligence artificielle dans une
science and technology company. entreprise scientifique et technologique.

Jorge Luis Borges once wrote that to live in a time of great Jorge Luis Borges a écrit un jour que vivre à une époque de
peril and promise is to experience both tragedy and comedy, grands périls et de grandes promesses, c'est faire
with “the imminence of a revelation” in understanding l'expérience à la fois de la tragédie et de la comédie, avec
ourselves and the world. Today our supposedly "l'imminence d'une révélation" dans la compréhension de
revolutionary advancements in artificial intelligence are nous-mêmes et du monde. Aujourd'hui, nos avancées
indeed cause for both concern and optimism. Optimism prétendument révolutionnaires en matière d'intelligence
because intelligence is the means by which we solve artificielle suscitent à la fois inquiétude et optimisme.
problems. Concern because we fear that the most popular Optimisme parce que l'intelligence est le moyen par lequel
and fashionable strain of A.I. — machine learning — will nous résolvons les problèmes. Inquiétude parce que nous
degrade our science and debase our ethics by incorporating craignons que la forme la plus populaire et la plus en vogue
into our technology a fundamentally flawed conception of de l'IA - l'apprentissage automatique - ne dégrade notre
language and knowledge. science et n'avilisse notre éthique en incorporant dans notre
technologie une conception fondamentalement erronée du
langage et de la connaissance.

OpenAI’s ChatGPT, Google’s Bard and Microsoft’s Sydney
are marvels of machine learning. Roughly speaking, they
take huge amounts of data, search for patterns in it and
become increasingly proficient at generating statistically
probable outputs — such as seemingly humanlike language
and thought. These programs have been hailed as the first
glimmers on the horizon of artificial general intelligence —
that long-prophesied moment when mechanical minds
ChatGPT d'OpenAI, Bard de Google et Sydney de
Microsoft sont des merveilles d'apprentissage automatique.
En gros, ils prennent d'énormes quantités de données, y
recherchent des modèles et deviennent de plus en plus
compétents pour générer des résultats statistiquement
probables, tels qu'un langage et une pensée apparemment
semblables à ceux de l'homme. Ces programmes ont été
salués comme les premières lueurs à l'horizon de
surpass human brains not only quantitatively in terms of
processing speed and memory size but also qualitatively in
terms of intellectual insight, artistic creativity and every
other distinctively human faculty.
l'intelligence artificielle générale, ce moment longtemps
prophétisé où les esprits mécaniques surpasseront les
cerveaux humains non seulement quantitativement en
termes de vitesse de traitement et de taille de la mémoire,
mais aussi qualitativement en termes de perspicacité
intellectuelle, de créativité artistique et de toutes les autres
facultés typiquement humaines.

That day may come, but its dawn is not yet breaking, Ce jour viendra peut-être, mais son aube n'est pas encore
contrary to what can be read in hyperbolic headlines and levée, contrairement à ce que l'on peut lire dans les titres
reckoned by injudicious investments. The Borgesian hyperboliques et à ce que l'on peut compter sur des
revelation of understanding has not and will not — and, we investissements imprudents. La révélation borgésienne de la
submit, cannot — occur if machine learning programs like compréhension ne s'est pas produite et ne se produira pas -
ChatGPT continue to dominate the field of A.I. However et, à notre avis, ne peut pas se produire - si les programmes
useful these programs may be in some narrow domains d'apprentissage automatique comme ChatGPT continuent
(they can be helpful in computer programming, for example, de dominer le domaine de l'IA. Quelle que soit l'utilité de ces
or in suggesting rhymes for light verse), we know from the programmes dans certains domaines étroits (ils peuvent être
science of linguistics and the philosophy of knowledge that utiles en programmation informatique, par exemple, ou
they differ profoundly from how humans reason and use pour suggérer des rimes pour des vers légers), nous savons,
language. These differences place significant limitations on grâce à la science de la linguistique et à la philosophie de la
what these programs can do, encoding them with connaissance, qu'ils diffèrent profondément de la manière
ineradicable defects. dont les humains raisonnent et utilisent le langage. Ces
différences imposent des limites importantes à ce que ces
programmes peuvent faire, en leur attribuant des défauts
inéluctables.

It is at once comic and tragic, as Borges might have noted,
that so much money and attention should be concentrated
on so little a thing — something so trivial when contrasted
with the human mind, which by dint of language, in the
words of Wilhelm von Humboldt, can make “infinite use of
Il est à la fois comique et tragique, comme Borges aurait pu
le noter, que tant d'argent et d'attention soient concentrés
sur si peu de choses - quelque chose de si trivial par rapport
à l'esprit humain qui, à force de langage, selon les mots de
Wilhelm von Humboldt, peut faire "un usage infini de
finite means,” creating ideas and theories with universal moyens finis", créant des idées et des théories de portée
reach. universelle.

The human mind is not, like ChatGPT and its ilk, a
lumbering statistical engine for pattern matching, gorging
on hundreds of terabytes of data and extrapolating the most
likely conversational response or most probable answer to a
scientific question. On the contrary, the human mind is a
surprisingly efficient and even elegant system that operates
with small amounts of information; it seeks not to infer
brute correlations among data points but to create
explanations.
L'esprit humain n'est pas, à l'instar de ChatGPT et de ses
semblables, un moteur statistique encombrant destiné à la
recherche de modèles, se nourrissant de centaines de
téraoctets de données et extrapolant la réponse
conversationnelle la plus probable ou la réponse la plus
vraisemblable à une question scientifique. Au contraire,
l'esprit humain est un système étonnamment efficace et
même élégant qui fonctionne avec de petites quantités
d'informations ; il ne cherche pas à déduire des corrélations
brutes entre les points de données, mais à créer des
explications.

Par exemple, un jeune enfant qui acquiert une langue

For instance, a young child acquiring a language is développe - inconsciemment, automatiquement et
developing — unconsciously, automatically and speedily rapidement à partir de données minuscules - une
from minuscule data — a grammar, a stupendously grammaire, un système incroyablement sophistiqué de
sophisticated system of logical principles and parameters. principes et de paramètres logiques. Cette grammaire peut
This grammar can be understood as an expression of the être considérée comme l'expression du "système
innate, genetically installed “operating system” that endows d'exploitation" inné, génétiquement installé, qui confère à
humans with the capacity to generate complex sentences and l'homme la capacité de générer des phrases complexes et de
long trains of thought. When linguists seek to develop a longues chaînes de pensée. Lorsque les linguistes cherchent à
theory for why a given language works as it does (“Why are élaborer une théorie expliquant pourquoi une langue donnée
these — but not those — sentences considered fonctionne comme elle le fait ("Pourquoi telle phrase est-elle
grammatical?”), they are building consciously and considérée comme grammaticale et non telle autre ?"), ils
laboriously an explicit version of the grammar that the child construisent consciemment et laborieusement une version
builds instinctively and with minimal exposure to explicite de la grammaire que l'enfant construit
information. The child’s operating system is completely instinctivement et avec un minimum d'exposition à
different from that of a machine learning program. l'information. Le système d'exploitation de l'enfant est
complètement différent de celui d'un programme
d'apprentissage automatique.

Indeed, such programs are stuck in a prehuman or
nonhuman phase of cognitive evolution. Their deepest flaw
is the absence of the most critical capacity of any
intelligence: to say not only what is the case, what was the
case and what will be the case — that’s description and
prediction — but also what is not the case and what could
and could not be the case. Those are the ingredients of
explanation, the mark of true intelligence.
En effet, ces programmes sont bloqués dans une phase
préhumaine ou non humaine de l'évolution cognitive. Leur
défaut le plus profond est l'absence de la capacité la plus
critique de toute intelligence : dire non seulement ce qui est
le cas, ce qui a été le cas et ce qui sera le cas - c'est la
description et la prédiction - mais aussi ce qui n'est pas le
cas et ce qui pourrait et ne pourrait pas être le cas. Ce sont
là les ingrédients de l'explication, la marque de la véritable
intelligence.

Here’s an example. Suppose you are holding an apple in Voici un exemple. Supposons que vous teniez une pomme
your hand. Now you let the apple go. You observe the result dans votre main. Maintenant, vous laissez tomber la pomme.
and say, “The apple falls.” That is a description. A Vous observez le résultat et vous dites : "La pomme tombe".
prediction might have been the statement “The apple will C'est une description. Une prédiction aurait pu être la
fall if I open my hand.” Both are valuable, and both can be déclaration suivante : "La pomme tombera si j'ouvre la
correct. But an explanation is something more: It includes main". Les deux sont valables et peuvent être correctes.
not only descriptions and predictions but also counterfactual Mais une explication est quelque chose de plus : Elle
conjectures like “Any such object would fall,” plus the comprend non seulement des descriptions et des prédictions,
additional clause “because of the force of gravity” or mais aussi des conjectures contrefactuelles telles que "Un tel
“because of the curvature of space-time” or whatever. That objet tomberait", plus la clause supplémentaire "à cause de
is a causal explanation: “The apple would not have fallen la force de gravité" ou "à cause de la courbure de l'espace-
but for the force of gravity.” That is thinking. temps" ou autre. Il s'agit d'une explication causale : "La
pomme ne serait pas tombée sans la force de gravité. C'est
de la réflexion.
The crux of machine learning is description and prediction; Le cœur de l'apprentissage automatique est la description et
it does not posit any causal mechanisms or physical laws. Of la prédiction ; il ne suppose aucun mécanisme causal ni
course, any human-style explanation is not necessarily aucune loi physique. Bien entendu, toute explication de type
correct; we are fallible. But this is part of what it means to humain n'est pas nécessairement correcte ; nous sommes
think: To be right, it must be possible to be wrong. faillibles. Mais cela fait partie de ce que signifie penser :
Intelligence consists not only of creative conjectures but also pour avoir raison, il doit être possible de se tromper.
of creative criticism. Human-style thought is based on L'intelligence ne consiste pas seulement en des conjectures
possible explanations and error correction, a process that créatives, mais aussi en une critique créative. La pensée
gradually limits what possibilities can be rationally humaine est basée sur des explications possibles et la
considered. (As Sherlock Holmes said to Dr. Watson, “When correction des erreurs, un processus qui limite
you have eliminated the impossible, whatever remains, progressivement les possibilités qui peuvent être envisagées
however improbable, must be the truth.”) de manière rationnelle. (Comme l'a dit Sherlock Holmes au
Dr Watson : "Lorsque vous avez éliminé l'impossible, tout
ce qui reste, aussi improbable soit-il, doit être la vérité").

Mais ChatGPT et les programmes similaires sont, de par

But ChatGPT and similar programs are, by design, leur conception, illimités dans ce qu'ils peuvent
unlimited in what they can “learn” (which is to say, "apprendre" (c'est-à-dire mémoriser) ; ils sont incapables
memorize); they are incapable of distinguishing the possible de distinguer le possible de l'impossible. Contrairement aux
from the impossible. Unlike humans, for example, who are humains, par exemple, qui sont dotés d'une grammaire
endowed with a universal grammar that limits the languages universelle qui limite les langues que nous pouvons
we can learn to those with a certain kind of almost apprendre à celles qui présentent un certain degré
mathematical elegance, these programs learn humanly d'élégance presque mathématique, ces programmes
possible and humanly impossible languages with equal apprennent des langues humainement possibles et
facility. Whereas humans are limited in the kinds of humainement impossibles avec la même facilité. Alors que
explanations we can rationally conjecture, machine learning les humains sont limités dans les types d'explications que
systems can learn both that the earth is flat and that the nous pouvons rationnellement conjecturer, les systèmes
earth is round. They trade merely in probabilities that d'apprentissage automatique peuvent apprendre à la fois
change over time. que la terre est plate et qu'elle est ronde. Ils échangent
simplement des probabilités qui évoluent avec le temps.
For this reason, the predictions of machine learning systems C'est pourquoi les prédictions des systèmes d'apprentissage
will always be superficial and dubious. Because these automatique seront toujours superficielles et douteuses.
programs cannot explain the rules of English syntax, for Parce que ces programmes ne peuvent pas expliquer les
example, they may well predict, incorrectly, that “John is règles de la syntaxe anglaise, par exemple, ils peuvent
too stubborn to talk to” means that John is so stubborn that prédire, à tort, que "John is too stubborn to talk to" signifie
he will not talk to someone or other (rather than that he is que John est tellement têtu qu'il ne parlera pas à quelqu'un
too stubborn to be reasoned with). Why would a machine ou à une autre personne (plutôt que de dire qu'il est trop
learning program predict something so odd? Because it têtu pour qu'on le raisonne). Pourquoi un programme
might analogize the pattern it inferred from sentences such d'apprentissage automatique prédit-il quelque chose d'aussi
as “John ate an apple” and “John ate,” in which the latter étrange ? Parce qu'il pourrait faire une analogie entre le
does mean that John ate something or other. The program modèle qu'il a déduit de phrases telles que "Jean a mangé
might well predict that because “John is too stubborn to talk une pomme" et "Jean a mangé", dans lesquelles cette
to Bill” is similar to “John ate an apple,” “John is too dernière expression signifie que Jean a mangé quelque chose
stubborn to talk to” should be similar to “John ate.” The ou autre. Le programme pourrait bien prédire que, puisque
correct explanations of language are complicated and "Jean est trop têtu pour parler à Bill" est similaire à "Jean a
cannot be learned just by marinating in big data. mangé une pomme", "Jean est trop têtu pour parler à"
devrait être similaire à "Jean a mangé". Les explications
correctes du langage sont compliquées et ne peuvent pas être
apprises en se contentant de mariner dans les big data.

Perversely, some machine learning enthusiasts seem to be De manière perverse, certains adeptes de l'apprentissage
proud that their creations can generate correct “scientific” automatique semblent être fiers que leurs créations puissent
predictions (say, about the motion of physical bodies) générer des prédictions "scientifiques" correctes (par
without making use of explanations (involving, say, exemple, sur le mouvement des corps physiques) sans avoir
Newton’s laws of motion and universal gravitation). But this recours à des explications (impliquant, par exemple, les lois
kind of prediction, even when successful, is pseudoscience. de Newton sur le mouvement et la gravitation universelle).
While scientists certainly seek theories that have a high Mais ce type de prédiction, même lorsqu'elle est réussie,
degree of empirical corroboration, as the philosopher Karl relève de la pseudoscience. S'il est vrai que les scientifiques
Popper noted, “we do not seek highly probable theories but recherchent des théories fortement corroborées
explanations; that is to say, powerful and highly improbable empiriquement, comme l'a fait remarquer le philosophe
theories.” Karl Popper, "nous ne recherchons pas des théories
 hautement probables, mais des explications, c'est-à-dire des
théories puissantes et hautement improbables".

The theory that apples fall to earth because that is their La théorie selon laquelle les pommes tombent sur terre
natural place (Aristotle’s view) is possible, but it only invites parce que c'est leur lieu naturel (point de vue d'Aristote) est
further questions. (Why is earth their natural place?) The possible, mais elle ne fait que soulever d'autres questions
theory that apples fall to earth because mass bends space- (pourquoi la terre est-elle leur lieu naturel ?). (La théorie
time (Einstein’s view) is highly improbable, but it actually selon laquelle les pommes tombent sur terre parce que la
tells you why they fall. True intelligence is demonstrated in masse courbe l'espace-temps (point de vue d'Einstein) est
the ability to think and express improbable but insightful hautement improbable, mais elle permet de comprendre
things. pourquoi elles tombent. La véritable intelligence se
manifeste dans la capacité à penser et à exprimer des choses
improbables mais perspicaces.

True intelligence is also capable of moral thinking. This La véritable intelligence est également capable de penser
means constraining the otherwise limitless creativity of our moralement. Cela signifie qu'il faut limiter la créativité
minds with a set of ethical principles that determines what autrement illimitée de notre esprit par un ensemble de
ought and ought not to be (and of course subjecting those principes éthiques qui déterminent ce qui doit être et ce qui
principles themselves to creative criticism). To be useful, ne doit pas être (et bien sûr soumettre ces principes eux-
ChatGPT must be empowered to generate novel-looking mêmes à une critique créative). Pour être utile, ChatGPT
output; to be acceptable to most of its users, it must steer doit être en mesure de générer des résultats dignes d'un
clear of morally objectionable content. But the roman ; pour être acceptable par la plupart de ses
programmers of ChatGPT and other machine learning utilisateurs, il doit éviter tout contenu moralement
marvels have struggled — and will continue to struggle — to répréhensible. Mais les programmeurs de ChatGPT et
achieve this kind of balance. d'autres merveilles d'apprentissage automatique ont lutté -
et continueront à lutter - pour atteindre ce type d'équilibre.

En 2016, par exemple, le chatbot Tay de Microsoft (un

In 2016, for example, Microsoft’s Tay chatbot (a precursor précurseur du ChatGPT) a inondé l'internet de contenus
to ChatGPT) flooded the internet with misogynistic and misogynes et racistes, après avoir été pollué par des trolls en
racist content, having been polluted by online trolls who ligne qui l'ont rempli de données d'entraînement
filled it with offensive training data. How to solve the offensantes. Comment résoudre le problème à l'avenir ? En
problem in the future? In the absence of a capacity to reason l'absence d'une capacité à raisonner à partir de principes
from moral principles, ChatGPT was crudely restricted by moraux, ChatGPT a été grossièrement empêché par ses
its programmers from contributing anything novel to programmeurs d'apporter quoi que ce soit de nouveau aux
controversial — that is, important — discussions. It discussions controversées - c'est-à-dire importantes. Il a
sacrificed creativity for a kind of amorality. sacrifié la créativité à une sorte d'amoralité.

Consider the following exchange that one of us (Dr.
Watumull) recently had with ChatGPT about whether it
would be ethical to transform Mars so that it could support
human life:
Jeffrey Watumull
Prenons l'exemple de l'échange suivant que l'un d'entre
nous (le Dr Watumull) a récemment eu avec ChatGPT sur la
question de savoir s'il serait éthique de transformer la
planète Mars pour qu'elle puisse accueillir la vie humaine :
Jeffrey Watumull

Serait-il moral de terraformer Mars ?

Would it be moral to terraform Mars?
La moralité de la terraformation de Mars est un sujet
The morality of terraforming Mars is a complex and complexe et controversé qui a été débattu par des
controversial topic that has been debated by scientists, scientifiques, des philosophes et des éthiciens. Certains
philosophers, and ethicists. Some argue that it would be soutiennent qu'il serait moralement justifié de terraformer
morally justifiable to terraform Mars in order to provide a Mars afin de créer un nouvel environnement habitable pour
new habitable environment for humans and other life forms, les humains et d'autres formes de vie, tandis que d'autres
while others argue that it would be morally wrong to affirment qu'il serait moralement répréhensible de modifier
fundamentally alter the planet's natural state. Ultimately, fondamentalement l'état naturel de la planète. En fin de
whether or not terraforming Mars is considered moral compte, la question de savoir si la terraformation de Mars
would depend on one's perspective on the value of est considérée comme morale ou non dépend du point de vue
preserving the natural state of other planets and the de chacun sur la valeur de la préservation de l'état naturel
potential consequences of altering them. des autres planètes et des conséquences potentielles de leur
modification.
Jeffrey Watumull Jeffrey Watumull

Quel est votre point de vue sur la valeur de la préservation

What is your perspective on the value of preserving the de l'état naturel des autres planètes et sur les conséquences
natural state of other planets and the potential consequences potentielles de leur modification ?
of altering them?

As an AI, I do not have personal perspective. However, I can En tant qu'IA, je n'ai pas de point de vue personnel.
provide information and analysis on the topic. One Cependant, je peux fournir des informations et des analyses
perspective on preserving the natural state of other planets sur le sujet. Un point de vue sur la préservation de l'état
is that it is important to maintain the diversity and integrity naturel des autres planètes est qu'il est important de
of the universe's ecosystems, as they have existed for maintenir la diversité et l'intégrité des écosystèmes de
millions of years, and have their own unique characteristics l'univers, car ils existent depuis des millions d'années et ont
and properties that may be destroyed or irreversibly altered leurs propres caractéristiques et propriétés uniques qui
by human intervention. pourraient être détruites ou modifiées de manière
irréversible par l'intervention de l'homme.

Additionally, some argue that terraforming other planets En outre, certains affirment que la terraformation d'autres
may have unintended consequences, such as altering the planètes peut avoir des conséquences inattendues, telles que
planet's climate or atmosphere in ways that are dangerous la modification du climat ou de l'atmosphère de la planète
or harmful to any potential life forms that may exist there. d'une manière dangereuse ou nuisible pour toute forme de
On the other hand, some argue that the potential benefits of vie potentielle qui pourrait y exister. D'un autre côté,
terraforming another planet, such as providing new certains affirment que les avantages potentiels de la
habitable environments for humans, outweigh the risks and terraformation d'une autre planète, tels que la création de
that we have a moral responsibility to explore and utilize the nouveaux environnements habitables pour les humains,
resources of other planets for the benefit of humanity. l'emportent sur les risques et que nous avons la
responsabilité morale d'explorer et d'utiliser les ressources
Jeffrey Watumull d'autres planètes pour le bien de l'humanité.
Jeffrey Watumull
 Pourquoi une IA ne peut-elle pas avoir une perspective
Why can an AI not have a personal perspective? personnelle ?

As an AI, I am a machine learning model that has been
trained on large amounts of text data, and I don't have
personal experiences or feelings. I am not conscious, self-
aware, or capable of having personal perspectives. I can
provide information and analysis based on the data I have
been trained on, but I don't have the ability to form
personal opinions or beliefs. While I can understand and
interpret language, I do not have the subjective experience
that humans have.
Jeffrey Watumull
En tant qu'IA, je suis un modèle d'apprentissage
automatique qui a été formé sur de grandes quantités de
données textuelles, et je n'ai pas d'expériences ou de
sentiments personnels. Je ne suis pas conscient, ni capable
d'avoir des perspectives personnelles. Je peux fournir des
informations et des analyses basées sur les données sur
lesquelles j'ai été formé, mais je n'ai pas la capacité de
former des opinions ou des croyances personnelles. Bien que
je puisse comprendre et interpréter le langage, je n'ai pas
l'expérience subjective qu'ont les humains.
Jeffrey Watumul

Is it moral for a human to ask an amoral AI for assistance in Est-il moral pour un humain de demander à une IA amorale
making moral decisions? de l'aider à prendre des décisions morales ?

The morality of asking an amoral AI for assistance in La moralité de demander à une IA amorale de l'aider à
making moral decisions is a complex and nuanced topic that prendre des décisions morales est un sujet complexe et
has been debated by philosophers and ethicists. Some argue nuancé qui a été débattu par les philosophes et les éthiciens.
that it is morally justifiable to use AI to assist in making Certains soutiennent qu'il est moralement justifiable
moral decisions, as it can provide valuable insights and d'utiliser l'IA pour aider à prendre des décisions morales,
analysis that can help humans make better-informed car elle peut fournir des informations et des analyses
decisions. Additionally, AI can be used to identify patterns précieuses qui peuvent aider les humains à prendre des
and trends that may be difficult for humans to detect, and
can help to avoid biases that can occur in human decision
making.
décisions plus éclairées. En outre, l'IA peut être utilisée pour
identifier des modèles et des tendances qui peuvent être
difficiles à détecter pour les humains, et peut aider à éviter
les biais qui peuvent se produire dans la prise de décision
humaine.

However, others argue that it is morally wrong to rely on AI Cependant, d'autres affirment qu'il est moralement erroné
for moral decision making, as AI is not capable of having de s'appuyer sur l'IA pour prendre des décisions morales,
moral beliefs or understanding the full context of a decision. car l'IA n'est pas capable d'avoir des convictions morales ou
Additionally, there is a risk that AI could perpetuate or even de comprendre le contexte complet d'une décision. En outre,
amplify existing biases in the data it is trained on, thus l'IA risque de perpétuer, voire d'amplifier, les préjugés
leading to unfair or unjust decisions. existants dans les données sur lesquelles elle est formée, ce
qui conduirait à des décisions inéquitables ou injustes.

Ultimately, whether or not it is considered moral to use AI to En fin de compte, la question de savoir s'il est moral ou non
assist in making moral decisions would depend on one's d'utiliser l'IA pour aider à prendre des décisions morales
perspective on the capabilities and limitations of AI and the dépend du point de vue de chacun sur les capacités et les
potential consequences of using it in this way. limites de l'IA et sur les conséquences potentielles d'une telle
utilisation.
Jeffrey Watumull
Jeffrey Watumull

Is your moral indifference immoral? Votre indifférence morale est-elle immorale ?

As an AI, I do not have moral beliefs or the ability to make
moral judgments, so I cannot be considered immoral or
moral. My lack of moral beliefs is simply a result of my
nature as a machine learning model. My abilities and
limitations are determined by the data and algorithms that
En tant qu'IA, je n'ai pas de croyances morales ni la
capacité de porter des jugements moraux, je ne peux donc
pas être considéré comme immoral ou moral. Mon absence
de croyances morales est simplement le résultat de ma
nature de modèle d'apprentissage automatique. Mes
were used to train me and the specific task I was designed capacités et mes limites sont déterminées par les données et
for. les algorithmes utilisés pour me former et par la tâche
spécifique pour laquelle j'ai été conçu.

It is important to note that AI's lack of moral beliefs does Il est important de noter que l'absence de croyances morales
not necessarily mean that it is morally indifferent. As an AI,
de l'IA ne signifie pas nécessairement qu'elle est moralement
I am designed to perform specific tasks and provide indifférente. En tant qu'IA, je suis conçue pour accomplir
information or assist users with decision making based on des tâches spécifiques et fournir des informations ou aider
the data I've been trained on. It is the responsibility of the
les utilisateurs à prendre des décisions sur la base des
humans who design, train and use AI to ensure that it is données sur lesquelles j'ai été formée. Il incombe aux
aligned with their moral and ethical principles. humains qui conçoivent, forment et utilisent l'IA de veiller à
ce qu'elle soit conforme à leurs principes moraux et
-------------------- éthiques.
-----------------------
Note, for all the seemingly sophisticated thought and Notez, malgré la sophistication apparente de la pensée et du
language, the moral indifference born of unintelligence. langage, l'indifférence morale née de l'inintelligence. Ici,
Here, ChatGPT exhibits something like the banality of evil: ChatGPT fait preuve de quelque chose comme la banalité
plagiarism and apathy and obviation. It summarizes the du mal : le plagiat, l'apathie et l'obviation. Il résume les
standard arguments in the literature by a kind of super- arguments classiques de la littérature par une sorte de
autocomplete, refuses to take a stand on anything, pleads super-autocomplétion, refuse de prendre position sur quoi
not merely ignorance but lack of intelligence and ultimately que ce soit, plaide non seulement l'ignorance mais aussi le
offers a “just following orders” defense, shifting manque d'intelligence et offre finalement une défense du
responsibility to its creators. type "je ne fais que suivre les ordres", en rejetant la
responsabilité sur ses créateurs.

En bref, ChatGPT et ses frères sont constitutionnellement

In short, ChatGPT and its brethren are constitutionally incapables d'équilibrer créativité et contrainte. Soit ils
unable to balance creativity with constraint. They either surgénèrent (produisant à la fois des vérités et des
overgenerate (producing both truths and falsehoods, mensonges, approuvant des décisions éthiques et non
endorsing ethical and unethical decisions alike) or éthiques), soit ils sous-génèrent (ne s'engageant dans aucune
undergenerate (exhibiting noncommitment to any decisions décision et se montrant indifférents aux conséquences).
and indifference to consequences). Given the amorality, faux Compte tenu de l'amoralité, de la fausse science et de
science and linguistic incompetence of these systems, we can l'incompétence linguistique de ces systèmes, on ne peut que
only laugh or cry at their popularity. rire ou pleurer de leur popularité.

Noam Chomsky is a professor of linguistics at the University

of Arizona and an emeritus professor of linguistics at the
Massachusetts Institute of Technology. Ian Roberts is a
professor of linguistics at the University of Cambridge.
Jeffrey Watumull is a philosopher and the director of
artificial intelligence at Oceanit, a science and technology
company.