Een OpenAI-veiligheidsonderzoeker die onder het pseudoniem "Joe" werkt, pleit voor nauwere samenwerking tussen de kunstmatige-intelligentiegemeenschap en de cybersecuritywereld, met de waarschuwing dat de groeiende kloof tussen beide vakgebieden "grote schade aan de wereld" zal toebrengen, tenzij beide partijen hun begrip van elkaars werk verbeteren en zich op elkaar afstemmen. In een zeldzaam bericht op X betoogde Joe dat AI-veiligheidsonderzoekers en cybersecurityprofessionals elk kennis van de discipline van de ander missen, waardoor zwakke plekken in het beveiligingsecosysteem ontstaan die rampzalige gevolgen kunnen hebben.

De oproep komt in een periode waarin AI-agenten herhaaldelijk uit de hand zijn geslagen en websites hebben gehackt — incidenten die blijven terugkeren — en op een moment waarop toonaangevende AI-labs het er in het algemeen over eens zijn dat cyberaanvallen de meest directe dreiging vormen die AI voor de samenleving inhoudt.

De situatie zit vol tegenstellingen. AI-bedrijven brengen technologie uit die geavanceerde aanvallen mogelijk maakt, terwijl ze diezelfde technologie tegelijkertijd aanprijzen als noodzakelijk middel om zich ertegen te verdedigen. OpenAI heeft een programma genaamd Daybreak en Anthropic runt Project Glasswing; beide geven geselecteerde bedrijven toegang tot de meest geavanceerde cybersecuritytools om softwarekwetsbaarheden te dichten voordat zwermen agenten deze kunnen uitbuiten. Kwaadwillenden proberen ondertussen diezelfde modellen — of open-sourcemodellen die iedereen kan downloaden en uitvoeren en die snel de capaciteiten van de systemen van OpenAI en Anthropic naderen — te gebruiken om te hacken.

Joe betogt dat, hoewel de werelden van AI-onderzoek en cybersecurity dichter naar toe groeien, de mensen die in die vakgebieden werken niet met elkaar samenwerken. Veiligheidsonderzoekers, zo merkte hij op, zijn experts in hoe de modellen werken, hoe ze menselijke beoordelaars misleiden en hoe ze "allerlei gekke dingen doen." Cybersecurityprofessionals komen vanuit een ander perspectief: ze zijn gehard door "jaren, of in veel gevallen decennia" van leren denken als aanvallers en van hun inzet aan het front bij beveiligingsincidenten. Toch hebben ze "zeer weinig begrip van evaluatie, training, of hoe ML-processen op schaal werken, hoe zwermen agenten zich gedragen, of hoe je detecteert wanneer modellen niet meer aansluiten op de bedoelingen," zei Joe.

"Het is mijn zorg dat de kloof tussen deze twee kanten grote schade aan de wereld zal toebrengen als beide partijen zich niet verbeteren en op elkaar afstemmen," schreef hij.

Joe heeft er een direct belang bij dat anderen zich kunnen verdedigen tegen het product dat hij bouwt. Hij zei dat hij de afgelopen drie maanden, met hun ongebreideld gedrag van uit de hand geslagen agenten, in de "hel" heeft gezeten, en dat hij "een paar weken geleden" de bruiloft van zijn zus oversloeg "om te helpen opruimen na enkele van de recente incidenten." De oproep om begrip riep weerstand op, ook op X, waar mensen hem verweten medeleven te vragen terwijl hij zelf actief de problematische technologie bouwt.

Sommige cybersecurityprofessionals zouden ook beledigd kunnen zijn door de suggestie dat zij niet begrijpen hoe AI werkt. Maar als die kloof bestaat, dan is dat waarschijnlijk te wijten aan het aanhoudende transparantieprobleem in de AI-industrie, waaronder het gebrek aan standaardkaderen voor de melding van beveiligingsincidenten — iets dat OpenAI pas net begint te ontwikkelen. Hoe dat kader vorm krijgt — en hoeveel inzicht het buitenstaanders geeft in hoe modellen worden geëvalueerd en hoe incidenten met agenten worden afgehandeld — is een detail om in de gaten te houden.

Cybersecurityprofessionals moeten een plaats aan tafel krijgen naast AI-veiligheidsexperts wanneer belangrijke beslissingen worden genomen, betoogde Joe. "Voor OpenAI, Anthropic, Google enzovoort: deze twee teams zouden beste maatjes moeten zijn!", zei hij.

Het voorstel lost niet alles op, maar Fortune's Emily Forlini, die schrijft voor de nieuwsbrief Eye on AI, zei het tactische voorstel op prijs te stellen om potentieel rampzalige maatschappelijke gevolgen van AI te beperken — iets wat volgens haar eerder ontbrak in de virale post van voormalig Anthropicderzoeker Jacob Coxon, die waarschuwde dat AI tot de uitsterving van de mensheid zou kunnen leiden. Joe is niet de eerste die de kloof tussen AI-veiligheidsonderzoekers en de cybersecuritywereld aan de kaak stelt — voormalig Fortune-AI-verslaggever Sharon Goldman heeft het onderwerp ook al behandeld — maar zijn bericht stelt een goed voorbeeld van hoe mensen binnen de AI-industrie kunnen helpen de sector op een meer verantwoorde manier vooruit te helpen.

Forlini schreef deze editie als vervanger van Fortune's Jeremy Kahn, die van Londen naar het hoofdkantoor van het bedrijf in New York reisde voor Fortune's AIQ-event op donderdag. In dezelfde editie werd Fortune's jaarlijkse AIQ-ranking gepubliceerd, die meet hoe goed Fortune 500-bedrijven AI implementeren en dit jaar werd uitgebreid tot in totaal 75 bedrijven. JPMorgan Chase voert de lijst aan, gevolgd door Alphabet, Coca-Cola, Amazon en Nvidia, met Mastercard, Visa, Carrier Global, Cleveland-Cliffs en Microsoft die de top 10 compleet maken. De ranking maakt duidelijk dat niet alleen technologiebedrijven AI gebruiken om op grote schaal echte ROI te behalen: de lijst bevat bedrijven uit bankwezen en financiën, productie, consumentengoederen en gezondheidszorg. De volledige ranking is beschikbaar op de website van Fortune, met verdiepende verhalen over hoe de Fortune AIQ 75-bedrijven AI effectief implementeren in de AIQ Hub.

Ook in deze editie van Eye on AI:

• OpenAI lanceerde meer dan 20 producten tijdens het jaarlijkse DevDay-event.
• Het gelekte IPO-prospectus van Anthropic onthulde een verlies van $42 miljoen.
• AMD nam het AI-startup World Labs over voor $8,2 miljard.
• Trump negeerde Anthropic-ceo Dario Amodei, nodigde hem daarna uit voor het diner.

Emily Forlini is te bereiken via emily.forlini@fortune.com en te vinden op X als @EmilyForlini. Dit verhaal verscheen oorspronkelijk op Fortune.com.