Blog

OpenAI et Elon Musk

Nous sommes dévoués à la mission OpenAI et l’avons poursuivie à chaque
étape.

5 mars 2024

Auteurs
Greg Brockman
Ilya Sutskever
John Schulman
Sam Altman
Wojciech Zaremba
OpenAI

Annonces

La mission d'OpenAI est de garantir que l'AGI profite à toute l'humanité, ce qui signifie à la fois
créer une AGI sûre et bénéfique et contribuer à créer des avantages largement distribués. Nous
partageons maintenant ce que nous avons appris sur la réalisation de notre mission et quelques
faits sur notre relation avec Elon. Nous avons l'intention de rejeter toutes les allégations d'Elon.

Nous avons réalisé que la construction d'AGI nécessiterait bien plus de

ressources que ce que nous avions initialement imaginé
Elon a déclaré que nous devrions annoncer un engagement initial de financement de 1 milliard de
dollars en faveur d'OpenAI. Au total, l'organisation à but non lucratif a collecté moins de 45
millions de dollars auprès d'Elon et plus de 90 millions de dollars auprès d'autres donateurs.

Lorsqu'ils ont lancé OpenAI fin 2015, Greg et Sam avaient initialement prévu de lever 100 millions
de dollars. Elon a déclaré dans un e-mail : « Nous devons choisir un chiffre bien supérieur à 100
millions de dollars pour éviter de paraître désespérés… Je pense que nous devrions dire que nous
commençons avec un engagement de financement de 1 milliard de dollars… Je couvrirai tout ce
que quelqu'un d'autre ne fournira pas. .» [1]

Nous avons passé beaucoup de temps à essayer d’envisager une voie plausible vers l’AGI. Début
2017, nous avons réalisé que la création d’AGI nécessiterait de grandes quantités de calcul. Nous
avons commencé à calculer la quantité de calcul qu'une AGI pourrait vraisemblablement
nécessiter. Nous avons tous compris que nous aurions besoin de beaucoup plus de capitaux
pour réussir notre mission : des milliards de dollars par an, ce qui était bien plus que ce que
chacun d'entre nous, en particulier Elon, pensait pouvoir réunir en tant qu'organisation à but non
lucratif.

Nous et Elon avons reconnu qu'une entité à but lucratif serait nécessaire
pour acquérir ces ressources.
Alors que nous discutions d'une structure à but lucratif afin de faire avancer la mission, Elon
voulait que nous fusionnions avec Tesla ou qu'il voulait un contrôle total. Elon a quitté OpenAI,
affirmant qu'il devait y avoir un concurrent pertinent à Google/DeepMind et qu'il allait le faire lui-
même. Il a dit qu'il nous aiderait à trouver notre propre voie.

Fin 2017, Elon et nous avons décidé que la prochaine étape de la mission était de créer une entité
à but lucratif. Elon voulait un capital majoritaire, un contrôle initial du conseil d'administration et
être PDG. Au milieu de ces discussions, il a refusé le financement. Reid Hoffman a comblé le
fossé pour couvrir les salaires et les opérations.

Nous n'avons pas pu nous mettre d'accord sur des conditions à but lucratif avec Elon car nous
estimions qu'il était contraire à la mission qu'un individu ait un contrôle absolu sur OpenAI. Il a
ensuite suggéré de fusionner OpenAI avec Tesla. Début février 2018, Elon nous a envoyé un e-
mail suggérant qu’OpenAI devrait « s’attacher à Tesla comme sa vache à lait », commentant que
c’était « tout à fait vrai… Tesla est la seule voie qui puisse même espérer tenir tête à Google. Même
dans ce cas, la probabilité de faire contrepoids à Google est faible. Ce n'est tout simplement pas
nul ». [2]

Elon a rapidement choisi de quitter OpenAI, affirmant que notre probabilité de succès était de 0
et qu'il envisageait de créer un concurrent AGI au sein de Tesla. Lorsqu'il est parti fin février 2018,
il a déclaré à notre équipe qu'il était favorable à ce que nous trouvions notre propre voie pour
collecter des milliards de dollars. En décembre 2018, Elon nous a envoyé un e-mail disant : «
Même récolter plusieurs centaines de millions ne suffira pas. Cela nécessite des milliards par an
immédiatement ou oubliez ça. [3]
Nous faisons avancer notre mission en créant des outils bénéfiques
largement disponibles
Nous rendons notre technologie largement utilisable de manière à responsabiliser les gens et à
améliorer leur vie quotidienne, notamment via des contributions open source.

Nous offrons un large accès à l'IA la plus puissante d'aujourd'hui, y compris une version gratuite
que des centaines de millions de personnes utilisent chaque jour. Par exemple, l'Albanie utilise
les outils d'OpenAI pour accélérer son adhésion à l'UE jusqu'à 5,5 ans ; Digital Green contribue à
augmenter les revenus des agriculteurs au Kenya et en Inde en réduisant de 100 fois le coût des
services de vulgarisation agricole en s'appuyant sur OpenAI ; Lifespan, le plus grand prestataire
de soins de santé du Rhode Island, utilise GPT-4 pour simplifier ses formulaires de consentement
chirurgical du niveau de lecture universitaire à celui de 6e année ; L'Islande utilise GPT-4 pour
préserver la langue islandaise.

Elon a compris que la mission n'impliquait pas une AGI open source. Comme Ilya l’a dit à Elon : « À
mesure que nous nous rapprochons de la construction de l’IA, il sera logique de commencer à
être moins ouvert. L'Open dans openAI signifie que tout le monde devrait bénéficier des fruits de
l'IA après sa construction, mais il est tout à fait acceptable de ne pas partager la science... », ce à
quoi Elon a répondu : « Ouais ». [4]

Nous sommes tristes d'en arriver là avec quelqu'un que nous admirons profondément, quelqu'un
qui nous a inspiré à viser plus haut, puis nous a dit que nous allions échouer, a lancé un
concurrent, puis nous a poursuivi en justice lorsque nous avons commencé à faire des progrès
significatifs vers la mission d'OpenAI. sans lui.

Nous nous concentrons sur l’avancement de notre mission et avons un long chemin à parcourir.
Alors que nous continuons à améliorer nos outils, nous sommes ravis de déployer ces systèmes
afin qu'ils responsabilisent chaque individu.

[1]
Depuis: Elon Musk < >
À: Greg Brockman < >
CC : Sam Altman < >
Date : dim. 22 novembre 2015 à 19h48
Objet : suivi de l'appel

Le blog semble bien, en supposant des ajustements pour la neutralité plutôt que d'être centré
sur YC.

Je préférerais positionner le blog pour qu'il s'adresse un peu plus au grand public - il y a
beaucoup de valeur à avoir une racine publique pour que nous réussissions - et ensuite avoir
une version plus longue, plus détaillée et plus interne au baseball pour le recrutement. , avec un
lien vers celui-ci à la fin de la version grand public.
 Nous devons choisir un chiffre bien supérieur à 100 millions de dollars pour éviter de paraître
désespéré par rapport à ce que Google ou Facebook dépensent. Je pense que nous devrions
dire que nous commençons avec un engagement financier de 1 milliard de dollars. C'est réel. Je
couvrirai tout ce que quelqu'un d'autre ne fournira pas.

Le modèle semble correct, à part le passage par défaut à un bonus en espèces d'acquisition, qui
peut éventuellement être transformé en actions YC ou potentiellement SpaceX (besoin de
comprendre combien cela représentera).

[2]
Depuis: Elon Musk < >
À: Ilya Sutskever < >, Greg Brockman < >
Date : jeu. 1 février 2018 à 3h52
Objet : Fwd : Les meilleures institutions d'IA aujourd'hui

est tout à fait vrai. Nous pouvons souhaiter qu'il en soit autrement, mais, à mon avis et
De l'avis de Tesla, c'est la seule voie qui pourrait même espérer tenir une bougie devant
Google. Même dans ce cas, la probabilité de faire contrepoids à Google est faible. Ce n'est tout
simplement pas nul.

Début du message réexpédié:

Depuis: < >

À: Elon Musk < >
Date : 31 janvier 2018 à 23 h 54 min 30 s PST
Objet : Re : Les meilleures institutions d'IA aujourd'hui

Travailler à la pointe de l’IA coûte malheureusement cher. Par exemple,

En plus de DeepMind, Google propose également Google Brain, Research et Cloud. Et

TensorFlow, TPU, et ils possèdent environ un tiers de toutes les recherches (en fait, ils
organisent leurs propres conférences sur l'IA).

Je soupçonne également fortement que la puissance de calcul sera nécessaire (et peut-être
même suffisante) pour atteindre l'AGI. Si les tendances historiques sont une indication, les
progrès de l’IA sont principalement motivés par les systèmes – calcul, données, infrastructure.
Les algorithmes de base que nous utilisons aujourd’hui sont restés largement inchangés
depuis les années 90. De plus, toute avancée algorithmique publiée quelque part dans un
article peut être réimplémentée et incorporée presque immédiatement. À l’inverse, les
avancées algorithmiques à elles seules sont inertes sans l’échelle qui les rend également
effrayantes.

Il me semble qu'OpenAI brûle aujourd'hui de l'argent et que le modèle de financement ne peut

pas atteindre l'échelle nécessaire pour concurrencer sérieusement Google (une entreprise de
800 milliards d'euros). Si vous ne pouvez pas sérieusement rivaliser mais continuez à faire de
la recherche ouvertement, vous risquez en fait d'empirer les choses et de les aider
 « gratuitement », car il leur est assez facile de copier et d'incorporer immédiatement, à grande
échelle, toutes les avancées.

Un pivot à but lucratif pourrait créer une source de revenus plus durable au fil du temps et,
avec l’équipe actuelle, apporterait probablement beaucoup d’investissements. Cependant,
créer un produit à partir de zéro détournerait l'attention de la recherche sur l'IA, cela prendrait
beaucoup de temps et il n'est pas sûr qu'une entreprise puisse « rattraper » l'échelle de Google,
et les investisseurs pourraient exercer trop de pression dans la mauvaise direction. L’option la
plus prometteuse à laquelle je puisse penser, comme je l’ai mentionné plus tôt, serait
qu’OpenAI s’attache à Tesla comme vache à lait. Je pense que les attachements avec d'autres
grands suspects (par exemple Apple ? Amazon ?) échoueraient en raison d'un ADN
d'entreprise incompatible. En utilisant une analogie avec une fusée, Tesla a déjà construit le «
premier étage » de la fusée avec toute la chaîne d’approvisionnement du modèle 3 et son
ordinateur de bord et une connexion Internet permanente. La « deuxième étape » serait une
solution entièrement autonome basée sur une formation de réseaux neuronaux à grande
échelle, que l’expertise d’OpenAI pourrait contribuer à accélérer de manière significative. Avec
une solution de conduite entièrement autonome fonctionnelle, d’ici 2 à 3 ans, nous pourrions
vendre beaucoup de voitures/camions. Si nous y parvenons vraiment, le secteur des
transports est suffisamment grand pour que nous puissions augmenter la capitalisation
boursière de Tesla jusqu'à un niveau élevé de O (~ 100 000) et utiliser ces revenus pour
financer les travaux d'IA à l'échelle appropriée.

Je ne vois rien d’autre qui ait le potentiel d’atteindre un capital durable à l’échelle de Google
d’ici une décennie.

[3]
Depuis: Elon Musk < >
À: Ilya Sutskever < >, Greg Brockman < >
CC : Sam Altman < >, < >
Date : mer. 26 décembre 2018 à 12h07
Objet : Je pense que je devrais réitérer

Mon évaluation de la probabilité qu'OpenAI soit pertinent pour DeepMind/Google sans

changement radical dans l'exécution et les ressources est de 0 %. Pas 1%. J'aurais aimé qu'il en
soit autrement.

Même récolter plusieurs centaines de millions ne suffira pas. Cela nécessite des milliards par an
immédiatement ou oubliez ça.

Malheureusement, l'avenir de l'humanité est entre les mains de .

Et ils font bien plus que cela.

 J'espère vraiment que je me trompe.

Élon

[4]

Fwd : félicitations pour le Falcon 9

3 messages

Depuis: Elon Musk < >

À: Sam Altman < >, Ilya Sutskever < >, Greg Brockman
< >
Date : samedi 2 janvier 2016 à 8h18
Objet : Fwd : félicitations pour le Falcon 9

Début du message réexpédié:

Depuis: < >

À: Elon Musk < >
Date : 2 janvier 2016 à 10 h 12 min 32 s CST
Sujet : félicitations pour le Falcon 9

Salut Elon

Bonne année à toi, !

Félicitations pour l'atterrissage du Falcon 9, quelle réussite incroyable. Il est temps de

constituer la flotte maintenant !

Je vous ai vu (ainsi que Sam et d'autres personnes d'OpenAI) faire récemment de nombreuses
interviews vantant les vertus de l'IA open source, mais je suppose que vous réalisez que ce
n'est pas une sorte de panacée qui résoudra comme par magie le problème de sécurité ? Il
existe de nombreux bons arguments expliquant pourquoi l’approche que vous adoptez est en
réalité très dangereuse et peut en fait accroître le risque pour le monde. Certains des points les
plus évidents sont bien expliqués dans ce billet de blog, que vous avez sûrement vu, mais il y a
aussi d'autres considérations importantes :
http://slatestarcodex.com/2015/12/17/should-ai- soyez ouvert /

Je serais intéressé d'entendre vos contre-arguments sur ces points.

Meilleur

Depuis: Ilya Sutskever < >

 À: Elon Musk < >, Sam Altman < >, Greg Brockman <
>
Date : samedi 2 janvier 2016 à 9h06
Objet : Fwd : félicitations pour le Falcon 9

L'article concerne un scénario de décollage difficile : si un décollage difficile se produit et qu'une

IA sûre est plus difficile à construire qu'une IA non sécurisée, alors en ouvrant tout, nous
facilitons la tâche à quelqu'un sans scrupules ayant accès à une quantité écrasante de matériel
à construire. une IA dangereuse, qui connaîtra un décollage difficile.

À mesure que nous nous rapprochons de la construction de l’IA, il sera logique de commencer à
être moins ouvert. L'Open dans openAI signifie que tout le monde devrait bénéficier des fruits
de l'IA après sa construction, mais il est tout à fait acceptable de ne pas partager la science
(même si tout partager est définitivement la bonne stratégie à court et éventuellement moyen
terme à des fins de recrutement).

Depuis: Elon Musk < >

À: Ilya Sutskever < >
Date : samedi 2 janvier 2016 à 9h11
Objet : Fwd : félicitations pour le Falcon 9

Ouais

Auteurs

Greg Brockman
Voir tous les articles

Ilya Sutskever
Voir tous les articles

John Schulman
Voir tous les articles

Sam Altman
Voir tous les articles

Wojciech Zaremba
Voir tous les articles

OpenAI
Voir tous les articles
Recherche connexe
Voir toutes les recherches

Modèles de génération vidéo comme simulateurs du monde

15 février 2024 Menu
Construire un système d'alerte précoce pour la création de menaces biologiques assistée par
LLM
31 janvier 2024
Généralisation faible à forte
14 décembre 2023
Pratiques pour gouverner les systèmes d’IA agentique
14 décembre 2023

Recherche API
Aperçu Aperçu
Indice Tarifs
GPT-4 Documents
DALL·E 3
Sora

ChatGPT Entreprise
Aperçu À propos
Équipe Blog
Entreprise Carrières
Tarifs Charte
Essayez ChatGPT Sécurité
Témoignages clients
Sécurité

OpenAI © 2015 – 2024 Sociale

Conditions et politiques Twitter
Politique de confidentialité Youtube
Lignes directrices de la marque GitHub
SoundCloud
LinkedIn

Retour au sommet