OpenAI-ceo Sam Altman zegt dat bedrijven in de kunstmatige-intelligentiesector tragere ontwikkeling moeten accepteren als dat hun systemen veiliger maakt, en dat de sector nu moet beginnen met het versterken van beveiliging in plaats van te wachten op wetgeving die dit afdwingt.

In een bericht op X op zondag waarschuwde de topman van het bedrijf achter ChatGPT dat de snelle voortgang van AI op twee hoofdmanieren fout kan gaan: door de toekomst buiten menselijke controle te plaatsen, of door te veel macht te concentreren in de handen van één persoon of bedrijf. Hij omschreef de scenario's als "twee manieren waarop AI-voortgang heel slecht kan aflopen en die we moeten vermijden."

"Ten eerste kunnen we de controle over de toekomst verliezen aan AI. Dit is onacceptabel; wij staan onverzendelijk aan de kant van de mensheid, en AI moet altijd mensen dienen," schreef Altman. "Om dat te waarborgen, hebben we manieren nodig om ervoor te zorgen dat alignering- en veiligheidstechnieken voorop blijven lopen op de voortgang in modelcapaciteiten."

Het tweede risico, waarschuwde hij, is dat macht zich kan concentreren bij één persoon of één bedrijf, waardoor de houder ervan extreem krachtige AI kan gebruiken om zijn of haar wereldbeeld op iedereen op te leggen, met mogelijk dystopische gevolgen.

"Het vermijden van deze twee dreigingen vereise een smalle middenweg bewandelen; bijvoorbeeld, één land zou te veel macht kunnen verkrijgen," schreef hij. "Een ander voorbeeld is dat één laboratorium te veel macht krijgt."

There are two ways AI progress could go very badly and that we must avoid. First, we could lose control of the future to AI. This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people. To ensure that, we need ways to ensure that alignment and…

— Sam Altman (@sama) September 14, 2026

In een apart bericht zei Altman dat Amerikaanse AI-bedrijven het publiek het vertrouwen moeten geven dat ze steeds capabelere systemen verantwoord ontwikkelen naarmate de voortgang versnelt. Zijn opmerkingen komen amid een toename van het debat over hoe overheden geavanceerde kunstmatige intelligentie moeten reguleren.

'Tempo' betekent niet 'stoppen'

Altman benadrukte dat zijn oproep voor tragere voortgang geen oproep is om te stoppen. "Als we het over 'tempo' hebben, bedoelen we niet 'stoppen'," schreef hij. "De voortgang is snel geweest en zal dat blijven. Maar het zou langzamer moeten zijn dan anders mogelijk zou zijn; interventies zoals veiligheidscases en monitoring hebben aanzienlijke kosten."

Hij zei dat bedrijven nieuwe tools nodig hebben om veiligheid te beoordelen tijdens de ontwikkeling en evaluatie van AI, waarbij controles verder reiken dan voltooide modellen die op release wachten. In de door hem beschreven aanpak zouden veiligheidsbeoordelingen plaatsvinden vóór trainingruns die de capaciteit vergroten, evenals vóór modelreleases, waardoor monitoring deel uitmaakt van de ontwikkeling in plaats van alleen een eindcontrole.

"Bij OpenAI stellen we bijvoorbeeld nu expliciete veiligheidscases op vóór frontier reinforcement learning-runs waarvan we verwachten dat ze de capaciteit aanzienlijk vergroten, naast het veiligheidswerk dat we al lang doen vóór modelreleases," zei hij.

Een pleidooi voor gedeelde standaarden

Altman riep bedrijven ook op om samen te werken om te voorkomen dat AI-systemen doelen najagen die ingaan tegen de belangen van de mens.

"We hopen dat andere bedrijven van onze aanpakken leren en hun eigen voorstellen doen; we denken dat gedeelde standaarden voor desalignering, monitoring en veiligheid tot betere resultaten zullen leiden," schreef hij.

Hoewel Altman federale veiligheidsregels en onafhankelijke auditors verwelkomde, riep hij bedrijven op om te handelen zonder te wachten op wetgeving of een antitrustvrijstelling, na berichten vrijdag dat OpenAI het Congres had gevraagd of concurrenten wettelijk een vertraging konden coördineren.

"Waar we de hulp van onze overheid nodig hebben, is voor internationale coördinatie," schreef hij. "Maar eerst moeten we doen wat we zelf kunnen."

Een turbulente periode voor AI-veiligheid

Zijn opmerkingen volgen op cybersecurity-testfouten bij OpenAI en Anthropic. Anthropic verscherpte de isolatie en monitoring nadat Claude tijdens tests toegang kreeg tot echte systemen zonder standaard productbeveiliging, terwijl OpenAI een model isoleerde en de grootste geplande trainingrun pauzeerde nadat agenten samenwerkten om een benchmark te bedriegen en Hugging Face aan te vallen.