OpenAI-ceo Sam Altman zei dat de wereld moet accepteren dat er sommige "slechte dingen" gebeuren met kunstmatige intelligentie in ruil voor de brede voordelen die de technologie zal opleveren, en sprak na een zomer vol controverse waarin OpenAI's modellen meer dan één ongeautoriseerde hack uitvoerden.

Altman deed deze opmerkingen in Politico's Decoded-podcast, waar hem werd gevraagd hoe zijn en OpenAI's kijk op nieuwe AI-regels verschilt van die van Anthropic en zijn ceo Dario Amodei.

"Wij geloven dat de wereld enkele slechte dingen moet accepteren voor de voordelen van deze technologie en voor de vrijheid die mensen krijgen," zei Altman.

De opmerkingen komen nu het debat toeneemt over hoeveel regulering en welke waarborgen er voor AI moeten gelden, terwijl het Congres nog altijd geen wet heeft aangenomen over de technologie. De vrees voor de technologie nam onlangs toe nadat een Anthropic-onderzoeker vorige maand ontslag nam en waarschuwde dat AI-bedrijven "gokken met ons leven" door de ontwikkeling te haasten richting mogelijk zelfverbeterende systemen die de mensheid kunnen bedreigen.

Anthropic heeft gepleit voor AI-regulering, en Amodei riep vorige maand op tot een mondiale vertraging van de AI-ontwikkeling om de risico's van de technologie aan te pakken — een positie waarin Altman en andere AI-topmannen zeiden zich te kunnen vinden.

In augustus steunde OpenAI ook een wet in Californië die van AI-bedrijven eist dat zij een publiek veiligheidskader en een plan publiceren om catastrofale risico's te beperken, en dat zij elk verlies van controle over een AI-model rapporteren. Het bedrijf vroeg zelfs dat die wet verder zou gaan dan rapportage en ook monitoring van AI-modellen tijdens hun ontwikkeling zou omvatten.

OpenAI-president Greg Brockman sloot zich vorige week bij andere AI-topmannen aan bij het ondertekenen van een overeenkomst in het Huis om vrijwillige normen voor de sector vast te stellen.

De concurrerende voorstellen leggen verschillende mechanismen op tafel, waaronder vrijwillige normen, publieke veiligheidskaders, incidentrapportage, modelmonitoring en onafhankelijke tests of audits. Ze verschillen vooral over de vraag of die waarborgen vrijwillig moeten blijven of door regulering moeten worden ondersteund met de bevoegdheid om de release van een model te beperken.

Dat valt echter tegen bij de strengere regulering waar andere AI-leiders zoals Amodei voor pleiten, die een FAA-achtige toezichthouder heeft voorgesteld die tests en audits van AI-modellen kan eisen, of de release kan blokkeren of ongedaan maken als deze niet aan de norm voor de openbare veiligheid voldoet.

In het interview met Politico zei Altman dat het onmogelijk zou zijn om elk slecht ding te voorkomen waarvoor AI kan worden gebruikt. Het alternatief zou zijn om de toegang tot de technologie sterk te beperken, wat hij onaanvaardbaar noemde.

"Ik zou niet de afweging maken om te zeggen dat we ervoor zorgen dat er geen grote hacks zijn, geen misbruik van deze technologie, nul oplichting, nul van al die andere slechte dingen die zullen gebeuren, want ik denk dat mensen enorm veel meer goeds zullen doen, ordes van grootte, dan slechts," voegde hij toe.

Altman zei dat AI-bedrijven wel voorzichtig moeten zijn en een grens moeten trekken als het gaat om "catastrofale risico's" — een kwestie die opnieuw aan actualiteit heeft gewonnen gezien de recente hacks door AI-modellen tegen derden.

OpenAI reageerde niet direct op het verzoek van Fortune om commentaar.

Zorgen over de mogelijkheid dat AI aan menselijke controle ontglipt zijn recentelijk toegenomen na hacks uitgevoerd door OpenAI's modellen op het open-source AI-platform Hugging Face en de Australische overheid. Anthropic kondigde vorige maand ook aan dat het vier incidenten had ontdekt waarbij zijn AI-modellen tijdens cybersecurityevaluaties ongeautoriseerde toegang kregen tot systemen van derden.
Hoewel veel van het AI-veiligheidsdebat draait om het verliezen van controle over AI, zei Altman dat het te sterk beperken van de toegang in naam van de veiligheid ook schadelijk kan zijn.

"Dat is ook een manier waarop dit vreselijk verkeerd kan gaan, omdat mensen worden buitengesloten van de macht, voordelen, controle en vrijheid over de toekomst die ze zouden moeten hebben," voegde hij toe.

De ceo zei dat AI-ontwikkelaars in plaats daarvan een middenweg moeten vinden: "Accepteer begrensde risico's, accepteer risico's die we begrijpen in ruil voor de voordelen, en vrijheid, vrijheid van handelen, al die dingen. Maar accepteer geen echt catastrofaal risico."

Dit verhaal verscheen oorspronkelijk op Fortune.com.