Dario Amodei, cofondateur et PDG d'Anthropic, estime que l'IA comporte des risques importants et il continue d'en parler publiquement. Il a également tenté de positionner Anthropic comme l'entreprise d'IA la plus engagée dans le développement d'une IA sûre. Or, cela pourrait faire partie du problème.

Dans une précédente interview accordée à Fortune, Amodei a déclaré : « AI safety continues to be the highest-level focus » (« la sécurité de l'IA demeure la priorité au plus haut niveau »), et ce positionnement axé sur la sécurité a donné aux acheteurs en entreprise l'assurance que les modèles d'Anthropic sont moins risqués que ceux de ses concurrents.

Amodei et sa sœur Daniela ont également quitté OpenAI en 2021, en partie en raison de divergences sur son approche de la sécurité. Il a aussi exprimé des inquiétudes concernant les armes autonomes et la surveillance par l'IA auprès du Pentagone.

Malgré cela, le public reste profondément méfiant. Une récente enquête de Gallup a révélé que près de la moitié des adultes de moins de 30 ans estiment désormais que l'IA fait plus de mal que de bien, en forte hausse par rapport à l'année précédente, et que la confiance dans l'utilisation de l'IA par les entreprises a reculé après deux années de hausse. Les chiffres de Pew pour 2026 sont encore plus mauvais : la plupart des Américains jugent que l'IA progresse trop vite, et seule une petite minorité s'attend à ce que son impact au cours des deux prochaines décennies soit globalement positif. Un sondage de Quinnipiac a montré que plus des trois quarts des Américains déclarent ne faire confiance à l'IA que rarement ou parfois, alors même que son utilisation continue d'augmenter.

Dans une longue publication récente sur X, Amodei — qui utilise rarement les réseaux sociaux, ce qui rendait cette publication inhabituelle — a indiqué avoir rédigé un grand essai sur les risques de l'IA et un autre sur ses bénéfices. Il a soutenu que les perceptions négatives du public à l'égard de l'IA n'étaient pas dues au fait que lui ou d'autres dirigeants d'entreprises d'IA parlent des risques, mais plutôt à l'incapacité de l'industrie à livrer suffisamment des bénéfices promis, comme la guérison de maladies humaines.

Mais alors qu'Amodei s'efforce de rassurer le public sur l'IA, il continue d'associer Anthropic à la « sécurité » d'une manière qui laisse entendre que l'ensemble de l'industrie de l'IA est dangereuse. Ce faisant, il tombe peut-être dans un piège que les agences de relations publiques connaissent depuis des décennies : le problème de l'association.

Le désaveu de l'industrie aérienne

L'industrie aérienne a appris depuis longtemps à ne pas s'associer au mot « sécurité » dans ses supports marketing. La sécurité n'a pas disparu du transport aérien, mais elle a quitté la publicité pour se réfugier dans les briefings obligatoires à bord, que les compagnies aériennes s'emploient depuis des années à transformer en courts-métrages et en chansons plutôt qu'en avertissements solennels.

La raison est simple : même une démonstration de sécurité imposée par la loi passe mieux comme divertissement que comme rappel. La sécurité laisse un goût amer ; ce n'est pas ce à quoi la plupart des gens veulent penser avant un vol.

Les recherches de l'historien Richard Popp sur la publicité aérienne ont montré que, dès les années 1930, les compagnies suivaient déjà un ensemble de règles non écrites destinées à écarter totalement toute évocation du danger : les publicités ne devaient montrer ni montagnes, ni vols de nuit, ni grandes étendues d'eau, ni travaux de maintenance, car chaque image risquait d'évoquer la possibilité d'un crash avant même que quiconque ne prononce le mot sécurité.

Malgré ce tabou, Pan Am a mené pendant les années 1980 sa propre campagne de rassurance, dans un contexte de vague de menaces de détournements et d'attentats contre les vols transatlantiques, insistant sur sa sécurité et sa sûreté alors même que les menaces s'intensifiaient.

Puis, en décembre 1988, une bombe a fait s'écraser le vol 103 de Pan Am au-dessus de Lockerbie, en Écosse, tuant 270 personnes. L'expert en sûreté aérienne Glen Winn a déclaré que cette catastrophe avait finalement convaincu toute l'industrie de bannir définitivement le mot « sûr ».

Ce que Dario peut apprendre

L'industrie aérienne a découvert qu'énoncer soi-même une peur à son sujet est pire que de ne rien dire, car le mot travaille alors contre vous de la même manière. Le livre du linguiste George Lakoff paru en 2004, Don't Think of an Elephant, décrit la même dynamique : demander à quelqu'un de ne pas penser à un éléphant l'oblige d'abord à se représenter l'éléphant, et l'injonction de cesser d'y penser ne fait rien pour effacer l'image.

Quand Amodei a créé une Responsible Scaling Policy (politique de développement responsable) inspirée des niveaux de biosécurité et émis des avertissements publics sur les risques de l'IA et les pertes d'emplois, cela a trouvé un écho auprès d'un public composé principalement d'ingénieurs, de chercheurs en sécurité, d'acheteurs en entreprise et d'investisseurs, qui perçoivent l'inquiétude d'Anthropic face au « risque catastrophique » comme une preuve de sérieux.

Mais ce public était sans doute déjà enclin à faire confiance aux intentions d'Anthropic, de sorte que l'imagerie du danger ne s'est pas attachée à l'entreprise comme elle aurait pu le faire ailleurs. Aujourd'hui, la stratégie d'Amodei, qui consiste à aborder directement les inquiétudes, pourrait pousser les utilisateurs de l'IA à s'en détourner.

Quand Anthropic a diffusé une publicité télévisée intitulée « There's hope in hard questions » (« Il y a de l'espoir dans les questions difficiles »), elle s'ouvrait sur une maison en flammes, puis montrait une foule scannée par la reconnaissance faciale, une personne dormant dans une rue de ville et des rangées de pierres tombales dans une image évoquant un cimetière national, le tout sur une voix off posant des questions telles que « Can AI be trusted? » (« Peut-on faire confiance à l'IA ? »).

Après avoir vu cette publicité, Sam Altman, PDG d'OpenAI, a réagi : « i thought this was satire » (« je pensais que c'était une satire »), la confondant avec une parodie. Pour le grand public, le message qui a probablement retenu l'attention n'est pas qu'Anthropic est la seule entreprise d'IA disposée à affronter honnêtement les plus grands risques de l'IA, mais que toutes les entreprises d'IA, Anthropic y compris, étaient en train d'instaurer un futur dystopique.

Telle est la leçon que les compagnies aériennes ont apprise sur la vente de la sécurité. C'est une leçon que l'industrie de l'IA pourrait bien devoir réapprendre aujourd'hui.

Cet article a été publié à l'origine sur Fortune.com