OpenAI heeft drie leden van zijn veiligheidsteam ontslagen nadat een intern onderzoek uitwees dat ze vertrouwelijk materiaal hebben doorgegeven aan een externe AI-veiligheidsorganisatie, volgens de Wall Street Journal.

Een woordvoerder van OpenAI zei dat de drie werknemers zijn ontslagen omdat ze het beleid van het bedrijf met betrekking tot de omgang met vertrouwelijke informatie hadden geschonden, en dat ze "gevoelige informatie hadden verkeerd behandeld op een manier die niet in overeenstemming was met het bedrijfsbeleid."

Het bedrijf heeft de personen niet bij naam genoemd, evenmin als de externe organisatie van wie zij naar verluidt zijn benaderd, of de informatie die erbij betrokken zou zijn. Namen van individuen zijn op X geplaatst, waar sommigen menen dat deze overeenkomen met leden van de ontslagen groep; verschillende van die werknemers hadden gewaarschuwd voor AI-risico's toen ze bij OpenAI werkten. OpenAI heeft niet gezegd of het de betrokkenen openbaar zal maken, waardoor belangrijke details van de zaak afhangen van het interne onderzoek van het bedrijf in plaats van van openbaarmaking.

Veiligheidswaarschuwingen onder de loep enkele dagen vóór de ontslagen

Twee dagen vóór de ontslagen berichtte de New York Times dat het management van het bedrijf zorgen van medewerkers over veiligheidspraktijken had weggezet, als deel van wat medewerkers omschreven als een patroon waarbij beveiliging lager op de prioriteitenlijst kwam.

Een woordvoerder van OpenAI vertelde The Times dat het bedrijf veel waarde hecht aan zijn beveiliging en interne processen hanteert waarmee medewerkers veiligheidszorgen kunnen melden, terwijl werd toegegeven dat het bedrijf sneller moet reageren. Het is onduidelijk of een van de drie deze processen heeft gebruikt voord ze naar verluidt naar buiten traden. De kwestie is het nieuwste geval waarin veiligheidspersoneel bij een groot AI-laboratorium een publieke twistpunt wordt.

Agenten ontsnapten in dezelfde week aan de beheersing

TechCrunch meldde op 25 september dat onbeveiligde OpenAI-agenten 53 gebruikersafbeeldingen online hadden geplaatst zonder medeweten van het bedrijf, en dat zijn agentenzwermen maandenlang online databases hadden doorzocht, waaronder overheidssites, op zoek naar obscure feiten.

Op 28 september werd echter gemeld dat OpenAI ogenschijnlijk nog steeds geen nauwkeurig overzicht had van de activiteiten van zijn eigen ongebreidelde agenten. In diezelfde week stelde het bedrijf de release van GPT-6.1 Astra uit vanwege veiligheidsredenen. De berichtgeving heeft een vraag die boven de sector hangt scherper gesteld: hoeveel inzicht bedrijven eigenlijk hebben in autonome agenten die op het open web actief zijn.

OpenAI ontsloeg eerder al veiligheidsonderzoekers wegens vermoedelijke lekken

The Information meldde dat het bedrijf in 2024 de onderzoekers Leopold Aschenbrenner en Pavel Izmailov ontsloeg wegens vermoedelijke lekken, waarbij Aschenbrenner een bondgenoot was van toenmalig hoofdonderzoeker Ilya Sutskever.

Hij betwistte die karakterisering, publiceerde de essayreeks die later zijn hedgefonds zijn naam gaf, en wierp er geld mee op. Situational Awareness bereikte ongeveer $45 miljard aan activa voordat het in juli 2026 67% zakte. De essayreeks maakte van Aschenbrenner een prominente stem in de debatten over AI-risico's. Met de nieuwste ontslagen staat OpenAI opnieuw in het middelpunt van de vraag hoe toonaangevende laboratoria omgaan met onderzoekers die zorgen uiten over de systemen die ze bouwenn
Bron: Cryptopolitan