Fonder une startup est, dans tous les cas, une entreprise marquée par une pression constante. Les entrepreneurs doivent sans cesse chercher à établir un modèle économique viable tout en résistant à de grands acteurs établis, en conservant les talents essentiels et en évitant l’échec. Le coût pour la santé mentale et physique peut être considérable, et le parcours se caractérise par des sommets extrêmes et des creux vertigineux.

Imaginez maintenant que vous ne soyez pas seulement fondateur d’une startup, mais cofondateur de l’entreprise qui mène le domaine technologique le plus transformateur de l’histoire : l’intelligence artificielle.

Greg Brockman, cofondateur et président d’OpenAI, a accompagné le CEO Sam Altman tout au long de la trajectoire de la startup. Cela inclut la période mouvementée de l’éviction brève d’Altman de son poste de directeur général en 2023, ainsi que le court congé sabbatique pris par Brockman à la fin de l’année dernière. Entre-temps, Brockman a dû composer avec des poursuites judiciaires, une surveillance politique et réglementaire accrue, des levées de fonds d’une ampleur historique et un public qui reste sceptique quant au caractère finalement positif de l’avenir qu’OpenAI construit. OpenAI a été valorisée à plusieurs dizaines de milliards de dollars et a levé des capitaux à une échelle sans précédent pour une entreprise privée d’IA, ce qui la place sous une surveillance exceptionnelle de la part des investisseurs, des responsables politiques et de ses concurrents.

Jeudi, Fortune s’est entretenu en tête-à-tête avec Brockman autour d’un large éventail de sujets : le récent incident de sécurité d’OpenAI impliquant Hugging Face, la manière dont les États-Unis devraient aborder les modèles d’IA open source chinois, le modèle économique fondamental d’un laboratoire d’IA, et la façon dont il gère personnellement l’immense pression liée à la direction d’OpenAI.

À propos du modèle économique, Brockman s’est montré direct : "The fundamental value delivery that we are after—we're not there yet. The massive value creation is yet to come."

Et concernant la pression ? "I lean on my wife a lot," a-t-il déclaré à Fortune. De fait, à la fin de l’entretien dans les bureaux new-yorkais d’OpenAI, dans le SoHo Puck Building — où OpenAI est voisine de l’un de ses plus grands investisseurs, Thrive Capital — ce journaliste a croisé l’épouse de Brockman, venue à New York City pour soutenir son mari.

La transcription ci-dessous a été éditée pour des raisons de longueur, de clarté et de publication.

---

Fortune : Plus tôt cette semaine, OpenAI a publié un billet de blog détaillant une situation dans laquelle ses modèles LLM sont sortis d’un environnement confiné et ont interagi avec un concurrent, Hugging Face. Qu’est-ce qui vous a le plus surpris dans cet incident, et comment une telle faille de sécurité peut-elle être évitée à l’avenir ? Faut-il davantage de collaboration entre entreprises d’IA concurrentes ?

Greg Brockman : Lorsque nous réfléchissons à des moments comme celui-ci, il s’agit moins de l’incident précis que du niveau général de capacités dont disposent les modèles.

Notre point de vue est que nous voulons vraiment aider les défenseurs à mettre cette technologie à profit afin que les gens puissent l’utiliser pour sécuriser leurs systèmes.

Le fait qu’ils n’aient pas pu utiliser notre modèle est quelque chose qui nous a vraiment frappés. Nous devons faire mieux pour rendre ces modèles plus accessibles, et aussi essayer de mieux sensibiliser les gens, simplement pour qu’ils comprennent pourquoi ils en ont besoin. La cyberdéfense est une énorme priorité pour nous. C’est une équipe que nous avons beaucoup renforcée, et elle commence à exécuter avec une concentration et une urgence importantes. Ce moment est, je l’espère, une occasion de réellement rassembler l’industrie, car les intérêts de tous sont très alignés.

Fortune : Dans l’incident Hugging Face, il semblait y avoir deux modèles — un modèle connu et un autre qui n’avait pas été précédemment divulgué. Pouvez-vous nous en dire davantage sur le modèle à venir et sur la façon dont vous envisagez ce prochain modèle à la lumière de ce qui vient de se passer ?

Brockman : Je ne veux pas ajouter grand-chose à notre billet de blog, car l’enquête est toujours activement en cours. Mais nous avons dit qu’il s’agissait d’une combinaison de modèles ; nous en avons mentionné deux, mais nous avons dit qu’il s’agissait d’une combinaison de différents modèles. Il ne s’agit pas tant d’un modèle particulier ou d’une publication particulière ; il s’agit vraiment de réfléchir à l’ensemble du tableau.

Il existe un autre billet qui a reçu moins d’attention, mais qui est à certains égards plus complet. Plus tôt cette semaine, nous avons parlé d’un modèle que nous avons effectivement retiré. Nous avons mis en place en interne un certain nombre de garde-fous différents, puis nous avons pu appliquer ces enseignements à l’avenir.

Une chose que les gens comprennent moins à propos d’OpenAI, c’est notre focalisation extrême sur la sécurité de l’IA et le sérieux avec lequel nous l’avons abordée au fil des années. Et il existe en réalité plusieurs domaines où nous avons trouvé de véritables innovations fondamentales pour maintenir les modèles alignés et les surveiller.

Par exemple, la surveillance de la chaîne de pensée est quelque chose que nous avons compris comme possible dès le tout début du paradigme du raisonnement. Si vous entraînez un modèle à avoir une chaîne de pensée qui paraît bonne, vous obtiendrez en fait de meilleures performances sur les tâches, parce que vous l’avez entraîné à ne pas être illogique. Mais vous perdez alors la fidélité, car vous avez optimisé pour un résultat final qui paraît bon. C’est donc un domaine où nous avons tracé une ligne très claire : nous ne le ferons jamais. Chaque fois que des personnes commencent à dériver dans cette direction, nous corrigeons le cap. Nous prenons ces décisions en permanence. Ce n’est pas quelque chose que nous diffusons beaucoup, mais je pense que c’est un domaine dans lequel nous sommes en tête de l’industrie.

Fortune : Il y a beaucoup de débats sur la manière dont les pouvoirs publics devraient interagir avec les entreprises d’IA, surtout à mesure que ces modèles deviennent plus puissants. Une idée qui a reçu beaucoup d’éloges est la proposition de Demis Hassabis d’un organisme de supervision de type FINRA. Pensez-vous que cela pourrait constituer un modèle pour l’avenir ? Comment voyez-vous la tension entre innovation sans permission préalable et réglementation stricte ?

Brockman : Je pense que l’idée de Demis est très bonne, et quelque chose de ce type semble être une bonne manière d’équilibrer innovation et sécurité. Je pense que nous pouvons réellement avoir de l’innovation avec une bonne coordination et une bonne supervision. Un vide ralentit tout le monde, car s’il existe une incertitude sur la façon d’avancer ou sur les personnes à qui parler, nous ne pourrons pas prendre de bonnes décisions.

En interne, nous débattons toujours de ces mêmes questions : l’accent mis sur la sécurité, la cybersécurité, le fait de faire ce qu’il faut, et les débats nuancés sur les bonnes décisions. Il est utile d’avoir davantage de voix autour de la table, tant que cela est structuré correctement et que la prise de décision est claire. Même s’il existe de nombreuses façons de mal faire les choses, je pense qu’il existe un cadre capable de nous accélérer tous, et c’est ce que nous devrions chercher à résoudre collectivement.

Fortune : Qu’en est-il de la concurrence étrangère, en particulier des modèles open source venant de Chine ? Le gouvernement américain devrait-il restreindre l’accès à ces modèles chinois open source, ou devraient-ils rester disponibles pour encourager l’innovation des startups ?

Brockman : Je peux donner mon propre point de vue : nous avons lancé OpenAI avec l’idée qu’il devrait y avoir davantage d’IA dans le monde, et que les gens devraient être habilités par l’IA à bâtir une vie meilleure. Au plus haut niveau, nous pensons que davantage d’IA dans le monde est en fait une chose importante, et qu’il est absolument essentiel que les startups puissent prospérer. Il est absolument essentiel que les gens puissent utiliser l’IA de la manière qu’ils souhaitent.

Maintenant, sur la question de la distillation : est-ce une question technique ou une question de politique publique que nous devrions considérer ? Ma réponse est qu’il existe ici, sans aucun doute, une composante technique absolument centrale. Nous avons toujours eu des protections contre la distillation sur notre plateforme, dans le cadre global de la manière dont nous sécurisons ces modèles. La distillation est une chose très nuancée. Obtenir un modèle ayant exactement les mêmes capacités que ces modèles frontières centraux nécessite un modèle ayant exactement la même taille de calcul que l’un de ces modèles frontières. C’est en réalité très difficile à faire, donc nous devons reconnaître les faits techniques lorsque nous réfléchissons aux politiques publiques. Je n’ai pas de jugement complet sur la bonne réponse, mais je pense qu’il est clair qu’en tant qu’industrie, nous devons continuellement élever le niveau de nos garde-fous techniques.

Fortune : Sur quoi êtes-vous le plus enthousiaste de travailler en ce moment ? Qu’est-ce qui vous motive à vous lever le matin ?

Brockman : Pour moi, tout commence toujours par l’impact. Il y a dix ans, je faisais le parcours classique de startup [chez Stripe]. J’observais l’IA de l’extérieur et j’avais le sentiment qu’elle allait être la technologie la plus transformatrice et la force positive la plus importante jamais créée pour améliorer le bien-être humain. Je voulais simplement contribuer à l’orienter dans une direction plus positive. Ce serait une carrière dont je pourrais être fier.

L’IA n’est plus théorique ni seulement une question de benchmarks. Vous la déployez et vous voyez les gens l’utiliser. Il y a un agriculteur au Japon qui a utilisé Codex pour automatiser sa ferme. Il devait auparavant enrouler à la main des bâches en plastique, et maintenant un système mécanique le fait. La santé est un autre immense domaine d’application. Nous avons annoncé le déploiement de fonctionnalités de santé dans ChatGPT aux États-Unis, permettant aux utilisateurs de connecter leurs dossiers médicaux et de poser des requêtes agentiques sur leurs antécédents de santé.

J’ai une amie qui était à l’hôpital, et le médecin s’apprêtait à lui administrer un antibiotique précis. Elle a vérifié avec ChatGPT, qui a averti qu’au vu de ses antécédents médicaux, ce médicament pouvait être mortel. Elle l’a montré au médecin, qui s’est rendu compte qu’il n’avait eu que cinq minutes pour lire son dossier. On réalise combien de problèmes que nous avions auparavant renoncé à résoudre ne doivent plus nécessairement être abandonnés.

Fortune : À quoi devons-nous nous attendre concernant l’IA physique et les appareils matériels d’OpenAI ? Comment voyez-vous l’IA se manifester sous des formes physiques ?

Brockman : Nous ne sommes clairement pas encore prêts à parler de l’appareil. Ce sera un moment extraordinaire lorsque nous le dévoilerons, et ce sera le premier d’une série visant à repenser ce que les appareils devraient être, compte tenu de ce dont cette technologie est capable.

Le point fondamental est que, même si l’on se concentre beaucoup sur les capacités de l’IA — résoudre des problèmes plus difficiles — l’interface est cruciale. Si vous regardez l’interface de ChatGPT aujourd’hui, elle est beaucoup trop compliquée, avec des sélecteurs de modèles et des boutons latéraux. Notre objectif est de faire disparaître toute cette interface utilisateur.

Comment avoir Chat, utilisé par près d’un milliard de personnes, et apporter la puissance des agents à tous ces humains ? C’est le pivot produit le plus compliqué de l’histoire.

Il faudrait disposer de quelque chose avec lequel on peut interagir aussi naturellement et fluidement qu’avec une personne. Utiliser un ordinateur aujourd’hui est épuisant. Vous développez un syndrome du canal carpien, vous êtes penché — nous ressentons les effets physiques de tout cela.

Dans les années à venir, nous nous sentirons libérés d’une grande partie de la pénibilité et des manières dont nous avons dû nous contorsionner pour nos machines.

Fortune : Comment décidez-vous quels produits ou appareils lancer chez OpenAI ? Comment les décisions produit sont-elles prises en interne ?

Brockman : OpenAI a une culture très ascendante. Nous avons différents schémas historiques de ce qui devient très réussi. Par exemple, Codex a été largement ascendant, avec un petit groupe passionné concentré sur quelques projets différents que nous avons réunis en un seul produit. À l’inverse, notre API a été entièrement descendante. À l’époque, nous étions une entreprise de recherche et nous devions créer un produit commercial pour soutenir notre financement. Nous avons passé en revue une liste de 20 idées et rejeté les outils verticaux étroits [comme dans le domaine médical] qui auraient consisté à renoncer au caractère « général » de l’AGI. Nous avons décidé de créer une API pour les développeurs, et ils peuvent déterminer quoi construire. C’est probablement le projet le plus difficile sur lequel j’aie jamais travaillé, car nous avons dû injecter de l’ADN produit dans une organisation de recherche, et il n’était même pas évident que quelqu’un paierait pour cela. Mais six mois plus tard, nous l’avons lancée, nous avions des clients payants et cela fonctionnait.

Beaucoup de nos produits présentent cette caractéristique : quelqu’un a l’étincelle d’une idée, ou il existe une direction claire à suivre, ou nous avons un modèle doté de nouvelles capacités surprenantes que nous n’avions jamais vues auparavant. C’est de là que viennent les produits.

Fortune : Compte tenu de l’ampleur des capitaux qui affluent vers l’IA, quel est le modèle économique durable ? Faut-il un appareil matériel ou une intégration au lieu de travail pour bâtir une entreprise générationnelle, ou le modèle lui-même est-il le cœur de l’activité ?

Brockman : Il y a deux parties à cela. La première est la suivante : supposons que les capacités des modèles soient figées aujourd’hui, quelle est l’activité ? Je pense qu’OpenAI est actuellement la mieux positionnée pour ce scénario. Nous avons une vraie chance de construire quelque chose de générationnel et d’unique. Nous devons exécuter très bien, mais c’est une opportunité à laquelle nous pouvons être à la hauteur. Nous avons ChatGPT, qui compte près d’un milliard d’utilisateurs, et il y a tellement plus de valeur que nous pouvons apporter à ces utilisateurs, même avec la technologie qui existe déjà aujourd’hui.

Cette année, nous avons aussi commencé à vraiment donner la priorité aux entreprises, et nous observons une vague de dynamisme. De nombreuses entreprises qui utilisaient un concurrent passent chez nous, et de nombreux clients qui n’avaient jamais utilisé cette technologie auparavant l’utilisent avec nous pour la première fois. Une grande partie de cela consiste à écouter les besoins du client, à construire des fonctionnalités de grande qualité, à bâtir la confiance et à réfléchir à la confidentialité des données. Nous nous dirigeons vers un avenir où ce qu’est même une entreprise sera très différent. Des outils agentiques comme ChatGPT Work changent la manière dont les entreprises fonctionnent en prenant en charge les tâches administratives répétitives. L’entreprise que nous construisons ne ressemble à aucune entreprise qui ait existé auparavant, parce que nous démocratisons son usage dans la vie professionnelle comme dans la vie personnelle, et tout cela est alimenté par cette seule technologie.

Des éléments comme l’appareil en font partie, mais ils ne constituent pas toute l’histoire.

La deuxième partie est que l’hypothèse selon laquelle les progrès des modèles seraient figés n’est pas réaliste. Il faut y penser un peu moins comme si nous avions désormais l’électricité [les LLM] et qu’il fallait maintenant construire des machines à laver [des entreprises au-dessus des LLM]. De même que des personnes tentent de parvenir à la fusion, nous essayons d’amener la technologie à faire quelque chose de qualitativement très différent de ce qui a été fait auparavant. C’est ce qui reste possible avec l’IA. L’IA pourra résoudre des problèmes non résolus. Nous en avons déjà un aperçu en mathématiques, en chimie et en science. La livraison de valeur fondamentale que nous recherchons — nous n’y sommes pas encore. La création massive de valeur reste à venir. Une partie finira par constituer la valeur détenue par les laboratoires d’IA. Mais une autre partie reviendra au monde.

Fortune : Il est difficile d’être fondateur de n’importe quelle entreprise. Vous êtes le fondateur de la principale entreprise d’IA dans ce qui est peut-être la technologie la plus transformatrice que le monde ait jamais connue. Comment portez-vous ce poids et cette responsabilité ?

Brockman : Pour être honnête, je ne pourrais pas le faire sans ma femme. Je m’appuie beaucoup sur elle. C’est difficile. Certains jours sont extrêmement stressants. D’autres sont joyeux et amusants. La plupart du temps, il faut simplement continuer. Ma citation préférée est cette citation du cyclisme : "It never gets easier; you just go faster." C’est vraiment ainsi que nous fonctionnons chez OpenAI.

Je ressens la gravité du moment. Je me sens très honoré et privilégié d’avoir cette opportunité. Nous nous y sommes engagés dans une certaine mesure il y a dix ans, même si le vivre est différent.

Il y a certainement des moments où il est agréable d’imaginer qu’une fois la mission accomplie avec succès, que la vie de chacun sera meilleure grâce à l’IA et que l’AGI sera en bonne voie, nous pourrons nous détendre et prendre quelques vacances. Mais d’ici là, je dois simplement garder la tête baissée et continuer. La vérité est que les personnes chez OpenAI sont formidables, et nous avons construit une équipe qui se soucie vraiment de cette mission ; chacun d’entre nous aide les autres à rester ancrés et concentrés.

Cet article a été initialement publié sur Fortune.com.