La futurologue Amy Webb estime que les grandes entreprises prennent du retard sur l'intelligence artificielle, et qu'une grande partie de l'argent qu'elles y consacrent n'est liée à aucun plan. Webb, fondatrice et PDG du cabinet de conseil Future Today Strategy Group, s'est exprimée jeudi lors du Fortune AIQ Summit dans une conversation avec l'éditeur IA de Fortune, Jeremy Kahn.

« Soyons honnêtes, les entreprises du Fortune 500 sont plutôt en retard à cette fête », a déclaré Webb. « L'intelligence artificielle n'est pas apparue il y a à peine quelques années. »

Webb a indiqué observer « d'énormes quantités de capital » affluer vers des pilotes « sans aucune stratégie au préalable ». Les entreprises se heurtent ensuite à leurs propres équipes de sécurité, a-t-elle dit, et se retrouvent avec des projets orphelins qui ne servent jamais à rien. Dans certains cas, des dirigeants confient à des tiers la construction de ce qui devient une technologie propriétaire, puis restent bloqués, tandis que des employés frustrés commencent à créer leurs propres outils.

Avoir l'IA partout ne signifie pas grand-chose si les employés ne savent pas l'utiliser, a soutenu Webb. Elle a comparé la situation à une course en taxi à New York où l'on vous tend un téléphone en vous demandant de saisir une adresse — un schéma qu'elle estime constant depuis environ deux ans. Les chauffeurs, a-t-elle dit, sont devenus si dépendants des outils de navigation qu'il existe « une certaine impudeur apprise », un peu comme certains dirigeants à l'ère actuelle de l'IA.

Son conseil aux entreprises n'était pas de viser à être « AI native », mais de se concentrer sur « la flexibilité ». Cela dit, a-t-elle précisé, les entreprises doivent mettre en place des mécanismes pour permettre cette flexibilité, et elle n'a pas encore vu de grandes entreprises le faire, même si de nombreux PDG s'efforcent de comprendre l'IA. L'argument a du poids parce que l'alternative, selon elle, est précisément ce qu'elle a décrit : des pilotes non planifiés, des affrontements avec la sécurité et des projets orphelins.

Pourquoi les gains ne se cumulent pas

Si les gains de productivité individuels ne se cumulent pas à l'échelle d'une entreprise, c'est en partie selon Webb, à la manière dont les entreprises définissent le retour sur investissement. La plupart appliquent l'IA au résultat net. La mesure choisie par une entreprise aide à déterminer si les gains issus des outils individuels finiront par se cumuler en résultats à l'échelle de l'entreprise. Elle a opposé cette approche à celle de Runway, une société d'IA vidéo dont la stratégie, a-t-elle décrit, constitue une vision claire de l'avenir que ses outils contribuent à faire avancer.

Webb a raconté l'histoire d'un ami travaillant dans une immense entreprise qu'elle a refusé de nommer. Lorsque le directeur technique de la société a refusé d'approuver un bac à sable sécurisé, l'ami est allé directement voir le PDG, a construit sa propre instance, a obtenu l'accès à un superordinateur et a constitué une équipe. Ce groupe prévoit désormais de dépenser quelques centaines de millions de dollars en jetons d'IA, a précisé Webb. Elle a imputé cette situation à l'absence de « leadership solide et de planification » et a déclaré que de nombreuses entreprises sont guidées par « la peur et la FOMO ». Cette histoire illustrait la culture du contournement qu'elle avait décrite plus tôt, dans laquelle des employés frustrés commencent à créer leurs propres outils lorsque les canaux officiels s'enlisent.

Le contrepoint de Runway

Michelle Kwon, directrice des opérations de Runway, a décrit une entreprise construite à l'inverse. Runway a été fondée il y a environ neuf ans par trois diplômés de l'Université de New York. Elle a déclaré que la société utilise l'IA « dans pratiquement tout ce que nous faisons », et que l'ensemble de son personnel écrit du code.

Les employés ont créé environ 215 applications pour une boutique d'applications interne depuis le début de l'année, y compris des personnes d'équipes hors ingénierie, et le tout dernier produit de la société est issu de cette approche, a-t-elle indiqué. Runway a annoncé un pilote d'agent publicitaire autonome la veille du panel. Un employé l'a construit en « quelques semaines », a précisé Kwon, et il a augmenté la production publicitaire de plus de 1 000 % à partir d'une base très réduite ; le produit est désormais mis à disposition du public — un exemple concret de la flexibilité que Webb dit que les grandes entreprises n'ont pas encore su institutionnaliser.

Runway achète toujours ce qui n'est pas central pour son activité, a-t-elle ajouté, et ne construira pas son propre système de paiement ni son logiciel de conformité RH.

Sur la productivité, Kwon a déclaré : « Le simple fait d'utiliser l'IA n'est pas un indicateur de votre productivité ni de la qualité de votre travail. » Elle a ajouté que l'IA devrait faire partie intégrante de la façon dont les gens travaillent, à condition qu'elle soit « responsable » et qu'elle « ne crée pas de travail pour les autres ».

« Ce n'est pas utile si je reçois un dossier de 100 diapositives », a dit Kwon. « Qu'est-ce qu'on me demande de faire avec ça ? » Il en va de même pour les résultats des chatbots, que Runway reçoit parfois, a-t-elle noté : les gens « se contentent de copier-coller le résultat sans s'être demandé : “Comment puis-je synthétiser cela ?” [Cela] n'est pas une utilisation productive du temps de quiconque. »

Francis Shanahan, directeur technique de Peloton, a apporté un commentaire du public sur le problème inverse. Les employés sont « submergés aujourd'hui parce qu'ils peuvent littéralement tout construire », a-t-il dit, et il constate que « l'épuisement professionnel est de plus en plus un problème ».

Kwon a répondu que Runway veille à « célébrer les réussites » et à « mettre en avant les gens ». La société accorde à l'ensemble de son personnel le même jour de congé, sans lien avec un jour férié, car avec les vendredis d'été, « qui prend un demi-jour ? prend une journée entière ? C'est difficile à suivre ? » Lorsque Kahn a plaisanté en disant que les agents d'IA pourraient continuer à travailler ces jours-là, Kwon a répondu : « Ils peuvent travailler sans relâche. »

Risques et responsabilité

Matt Maher, fondateur de M7 Innovations et partenaire de consortium avec le MIT Media Lab, a demandé qui est responsable lorsqu'un agent d'IA viole un contrat ou cause d'autres dommages.

Webb a raconté un projet de codage qu'elle avait construit et qui a envoyé du spam à 1 000 personnes après l'avoir déployé dans un environnement réel avec une boucle. De tels échecs, a-t-elle dit, sont des erreurs humaines ordinaires, et non des signes d'une IA qui « se réveille ». Les dirigeants, a-t-elle soutenu, doivent « cesser d'anthropomorphiser » l'IA.

Webb a ajouté que les responsables de la sécurité et des risques devraient dire « Dites-m'en plus » avant de dire non, et que les dirigeants devraient leur accorder une certaine latitude. Elle a également averti qu'une vague d'appareils connectés, tels que des lunettes et des pendentifs dotés d'écoute, arrivera au cours des 18 prochains mois avec peu de planification. C'était l'échéancier le plus concret avancé lors du panel, et cela transforme la gouvernance des appareils en une question de planification à court terme pour les entreprises plutôt qu'à long terme.

Interrogée sur l'utilisation de l'IA par les conseils d'administration, Webb a déclaré que son cabinet l'utilise depuis une décennie, mais que ces outils sont inutiles si les administrateurs ne comprennent pas ce que montrent les données. Elle a comparé la situation à ses propres capteurs de cyclisme. « On ne peut pas se dissocier de ce qui se passe », a-t-elle dit, « sinon on en est responsable. »

Pour cet article, les journalistes de Fortune ont utilisé l'IA générative comme outil de recherche, et un éditeur a vérifié l'exactitude des informations avant publication. Cette histoire a été initialement publiée sur Fortune.com.