Le récent piratage de Hugging Face fait l'objet de la dernière chronique du Free Press de l'économiste Tyler Cowen. Hugging Face, l'une des plus grandes plateformes ouvertes d'hébergement de modèles et de jeux de données d'IA — largement utilisée par les chercheurs et les entreprises travaillant sur l'apprentissage automatique open source — est devenue une infrastructure majeure de l'écosystème de l'IA, ce qui explique en partie l'attention considérable suscitée par cet incident de sécurité. Certains observateurs ont réagi de manière très dramatique.

Un commentateur craint une « prise de contrôle totale par l'IA d'ici quelques mois », et un autre a écrit être « un peu triste à l'idée de notre extinction imminente ». Nate Soares, qui œuvre dans le mouvement de la sécurité de l'IA et est coauteur du best-seller apocalyptique sur l'IA If Anyone Builds It, Everyone Dies, a écrit : « Cela pourrait être le dernier avertissement que nous recevons. » Cotra a déclaré que l'incident « donne l'impression d'avoir parcouru plus de 50 % du chemin vers une prise de contrôle totale par l'IA ».

Cowen, économiste à l'université George Mason, connu pour ses écrits sur l'économie de la technologie et pour son blog Marginal Revolution, suggère une approche différente, plus technocratique :

Comme il l'a écrit la semaine dernière dans The Free Press, il estime qu'un effort national coordonné, et même international, est nécessaire pour limiter à l'avenir ce type d'épisodes où un puissant modèle d'IA échappe à tout contrôle. Cela sera probablement coûteux, et il n'existe aucune solution complète et facile, quel que soit le budget mobilisé.

Néanmoins, Cowen observe que les gens commettent la même erreur que les Américains ont commise de nombreuses fois par le passé. « Ils basculent dans le registre de l'hystérie et de l'anecdote, et ils laissent les réactions émotionnelles prendre le pas sur la raison et les estimations quantitatives. »

Il cite quelques autres exemples : le DDT dans les années 1960 et 1970, la « crise » de l'an 2000, le réchauffement climatique, le Covid, les bébés de la thalidomide et l'énergie nucléaire. Tous représentaient — ou représentent encore — des problèmes bien réels. Pourtant, à chaque fois, selon lui, nous avons drastiquement surestimé le danger, nous laissant emporter dans un climat de peur après un incident unique et frappant sur le plan émotionnel, souvent relaté de manière haletante.

S'agissant des risques de cybersécurité liés à l'IA avancée, Cowen écrit qu'ils n'atteindront très probablement rien de comparable au Covid ou au réchauffement climatique. Mais la même logique d'exagération est à l'œuvre, amplifiée par les réseaux sociaux et par les biais de négativité et de pessimisme des médias traditionnels.

Il lance donc un appel : « Si vous voulez parler de ce problème, veuillez fournir une estimation quantitative de ce que vous pensez que seront les coûts de cybersécurité liés à l'IA avancée au cours de la prochaine année ou des deux prochaines années. Mieux encore, exprimez ce chiffre en pourcentage du produit intérieur brut. Tout simplement, combien coûterait-il de manière réaliste de mettre en place les safeguards de base que nous convenons tous d'être essentiels ? Et quels seraient les dommages restants dus aux problèmes que nous ne pouvons pas contrôler ? »

Ceux qui s'inquiètent des risques des systèmes d'IA, écrit Cowen, semblent déterminés à prouver le sérieux de leurs préoccupations. « Mais ils tombent dans des réactions émotionnelles excessives trop courantes dans notre passé, au lieu de se concentrer sur le quantitatif et le scientifique. » Il conclut en rappelant la maxime de Scotty, l'ingénieur en chef de la série classique Star Trek : « Fool me once, shame on you. Fool me twice, shame on me » ( « Trompe-moi une fois, honte à toi ; trompe-moi deux fois, honte à moi »).

Cowen encourage les lecteurs à lire la chronique complète.