Futurist Amy Webb zegt dat grote bedrijven achterop raken met kunstmatige intelligentie, en dat een groot deel van het geld dat ze aan de technologie besteden niet aan enig plan is gekoppeld. Webb, oprichter en CEO van het adviesbureau Future Today Strategy Group, sprak donderdag op de Fortune AIQ Summit in gesprek met Fortune’s AI-redacteur Jeremy Kahn.

“Let’s be fair, Fortune 500 companies are pretty late to the party on this,” zei Webb. “Artificial intelligence didn’t just show up a couple of years ago.”

Webb zei dat ze “enormous amounts of capital” ziet stromen naar pilots “with no strategy ahead of them.” Bedrijven botsen vervolgens met hun eigen securityteams, zei ze, en eindigen met verweesde projecten die nooit iets doen. In sommige gevallen dragen topmanagers de bouw van wat propriëtaire technologie wordt over aan derden en komen vervolgens vast te zitten, terwijl gefrustreerde medewerkers hun eigen tools gaan bouwen.

AI overal hebben betekent weinig als werknemers niet weten hoe ze het moeten gebruiken, betoogde Webb. Ze vergeleek de situatie met een taxi in New York nemen, een telefoon in handen krijgen en gevraagd worden een adres in te typen—een patroon dat volgens haar schatting al zo’n twee jaar constant is. Chauffeurs, zei ze, zijn zo afhankelijk geworden van navigatietools dat er “a certain amount of learned helplessness” is, net als bij sommige leiders in het huidige AI-tijdperk.

Haar advies aan bedrijven was niet om ‘AI native’ te willen zijn, maar zich te richten op “being flexible.” Toch, zei ze, moeten bedrijven mechanismen bouwen om die flexibiliteit mogelijk te maken, en ze heeft grote bedrijven dat nog niet zien doen, ook al werken veel bestuursvoorzitters eraan om AI te begrijpen. Het punt heeft gewicht omdat het alternatief, in haar vertelling, precies is wat ze beschreef: ongeplande, stand-offs met security en verweesde projecten.

Waarom winsten niet opstapelen

Een deel van de reden waarom individuele productiviteitswinsten zich niet binnen een bedrijf opstapelen, ligt volgens Webb aan hoe bedrijven rendement op investeringen definiëren. De meesten passen AI toe op de bedrijfsresultaten. De maatstaf die een bedrijf kiest, helpt bepalen of winsten uit individuele tools ooit uitgroeien tot bedrijfswijde resultaten. Ze zette die aanpak af tegen Runway, een AI-videobedrijf wiens strategie ze omschreef als een heldere toekomstvisie die de tools van het bedrijf helpen bevorderen.

Webb vertelde een verhaal over een vriend bij een gigantisch bedrijf dat ze niet wilde noemen. Toen de chief technology officer van het bedrijf geen beveiligde sandbox wilde goedkeuren, ging de vriend rechtstreeks naar de CEO, bouwde zijn eigen instantie, kreeg toegang tot een supercomputer en stelde een team samen. Die groep is nu van plan een paar honderd miljoen dollar uit te geven aan AI-tokens, zei Webb. Ze gaf de afwezigheid van “strong leadership and planning” de schuld en zei dat veel bedrijven leiden met “fear and FOMO.” Het verhaal ving de omzeilcultuur die ze eerder beschreef, waarin gefrustreerde medewerkers hun eigen tools gaan bouwen wanneer officiële kanalen vastlopen.

Runways tegenpoint

Michelle Kwon, chief operating officer van Runway, beschreef een bedrijf dat op de tegenovergestelde manier is gebouwd. Runway werd ongeveer negen jaar geleden opgericht door drie afgestudeerden van NYU. Ze zei dat het bedrijf AI gebruikt in “essentially every part of what we do,” en dat het hele personeel code schrijft.

Medewerkers hebben sinds begin dit jaar ongeveer 215 apps gebouwd voor een interne app store, ook mensen van teams buiten engineering, en het nieuwste product van het bedrijf kwam voort uit die aanpak, zei ze. Runway kondigde een dag voor het panel een pilot aan voor een autonome advertentie-agent. Eén werknemer bouwde hem in “a handful of weeks,” zei Kwon, en de agent verhoogde de advertentie-output met meer dan 1.000% vanuit een zeer kleine basis; het product wordt nu publiek uitgerold—een live voorbeeld van de flexibiliteit waarvoor Webb zei dat grote bedrijven nog geen mechanismen hebben gebouwd.

Runway koopt nog steeds wat niet centraal staat in de bedrijfsvoering, voegde ze toe, en zal geen eigen betalingssysteem of HR-compliancesoftware bouwen.

Over productiviteit zei Kwon: “Just because you are using AI, that is not a proxy for your productivity or you doing a good job at work.” Ze voegde eraan toe dat AI een kernonderdeel moet zijn van hoe mensen werken, zolang het “responsible” is en “doesn’t create work for other people.”

“It’s not helpful if I receive a 100-slide deck,” zei Kwon. “What is someone asking me to do with that?” Hetzelfde geldt voor chatbot-output, die Runway soms ontvangt, merkte ze op: mensen “just copy and paste the output without having thought about, ‘How do I synthesize this?’ [It] isn’t a productive use of anyone’s time.”

Francis Shanahan, chief technology officer van Peloton, bracht vanuit het publiek een opmerking aan over het tegenovergestelde probleem. Werknemers zijn “inundated now because they can literally build anything,” zei hij, en hij merkt dat “burnout to be more and more of an issue.”

Kwonwoordde dat Runway er bewust voor zorgt om “celebrate the wins” en “shout people out.” Het bedrijf geeft het hele personeel dezelfde dag vrij, niet gekoppeld aan een feestdag, want met summer Fridays: “who’s taking a half day? Who’s taking a full day? What’s hard to track?” Toen Kahn grapte dat AI-agents op die dagen door konden blijven werken, antwoordde Kwon: “They can work tirelessly.”

Risico en aansprakelijkheid

Matt Maher, oprichter van M7 Innovations en consortiumpartner van het MIT Media Lab, vroeg wie aansprakelijk is wanneer een AI-agent een contract schendt of andere schade veroorzaakt.

Webb vertelde over een codeerproject dat ze ooit had gebouwd en dat 1.000 mensen spam stuurde nadat ze het in een live omgeving had gezet met een lus erin. Dit soort fouten, zei ze, zijn gewone menselijke fouten, geen tekenen dat AI “waking up.” Topmanagers, betoogde ze, moeten “stop anthropomorphizing” met AI.

Webb voegde eraan toe dat security- en risicomanagers “Tell me more” zouden moeten zeggen voordat ze nee zeggen, en dat leiders hen enige speelruimte moeten geven. Ze waarschuwde ook dat een golf apparaten, zoals brillen en bedels die luisteren, de komende 18 maanden zal arriveren met weinig planning. Het was de meest concrete tijdlijn die op het panel werd genoemd en maakt apparaatbesturing tot een langetermijnvraag op korte termijn voor bedrijven in plaats van een verafgelegen.

Gevraagd naar besturen die AI gebruiken, zei Webb dat haar bedrijf het al tien jaar gebruikt, maar dat de tools nutteloos zijn als directeuren niet begrijpen wat de data laten zien. Ze vergeleek de situatie met haar eigen fietssensoren. “You can’t disassociate from what’s happening,” zei ze, “or you are liable.”

Voor dit verhaal gebruikten Fortune-journalisten generatieve AI als onderzoeks tool, en een redacteur verifieerde de juistheid van de informatie vóór publicatie. Dit verhaal verscheen oorspronkelijk op Fortune.com.