NieuwsMacroFBI: OpenAI-ingenieur gebruikte ChatGPT-account van zijn vrouw om een geheim opnameapparaat op kantoor te plaatsen

FBI: OpenAI-ingenieur gebruikte ChatGPT-account van zijn vrouw om een geheim opnameapparaat op kantoor te plaatsen

Auteur: Fortune Crypto·

Belangrijkste punten

  • •Volgens dinsdagbaar gemaakte gerechtelijke documenten zou Alfozan tussen 24 en 30 september ChatGPT-prompts hebben verstuurd met het verzoek om ontwerpen voor een continue, versleutelde audio-recorder, via een account gekoppeld aan zijn vrouw, die niet wordt vervolgd.
  • •Medewerkers ontdekten het apparaat, een commercieel verkrijgbare Seeed XIAO ESP32-S3 Sense, op 30 september ingepakt in toiletpapier achter een televisie in de vergaderzaal, en geen van de bestanden op de geheugenkaart kon worden hersteld of ontsleuteld.
  • •Alfozan riskeert één tel onder de federale Wiretap Act met een maximale straf van vijf jaar gevangenis, en de regering vraagt om geen borgtocht terwijl deportatie onder de mogelijke straffen wordt genoemd.
  • •Volgens aanklagers hadden Alfozan, zijn vrouw en een derde familielid eenzame vluchten naar Saoedi-Arabië via Istanboel geboekt voor 12 oktober, en hij werd drie dagen voor het geplande vertrek aangehouden.
  • •De aanklacht noemt geen diefstal van handelsgeheimen en gaat niet uit van een buitenlandse connectie, en OpenAI verklaarde geen aanwijzingen te hebben dat Alfozan modelgewichten, broncode of klantgegevens heeft meegenomen.
FBI: OpenAI-ingenieur gebruikte ChatGPT-account van zijn vrouw om een geheim opnameapparaat op kantoor te plaatsen

De ChatGPT-prompts lezen als een takenlijst: bouw “een continue audio-recorder”, voeg “live meeluisteren” en “het downloaden/verwijderen van opnames” toe, versleutel de SD-kaart en stel de USB-uitgang in op “alleen voeding”. Latere stappen vereisten de ontwikkeling van “een tweede apparaat en spraakgestuurde opname”, daarna “een derde apparaat”, en ten slotte “definitieve bescherming toepassen en de opstartuitvoer dempen”.

Volgens dinsdag openbaar gemaakte gerechtelijke documenten werden de prompts tussen 24 en 30 september verstuurd vanaf een ChatGPT-account gekoppeld aan de vrouw van Abdulrahman Alfozan, een ingenieur bij OpenAI en een Saoedi die sinds september 2020 in het legale bezit is van een Amerikaanse verblijfsvergunning. Volgens het Openbaar Ministerie verstopte Alfozan op of rond 28 september een opnameapparaat achter een televisie in een vergaderzaal voor bestuurders in een van de gebouwen van het bedrijf in San Francisco, nadat hij een AI-chatbot die aan zijn vrouw gekoppeld was had gevraagd het apparaat te bouwen. Zijn vrouw wordt in de aanklacht niet vervolgd.

De federale aanklacht noemt niet welke chatbot Alfozan volgens de beschuldiging voor die prompts heeft gebruikt, maar OpenAI bevestigde aan Fortune dat het de eigen ChatGPT van het bedrijf was. Het chatbot-account verwees naar het persoonlijke AI-chatbot-account van Alfozan en deelde unieke identificatiegegevens en IP-gebruik.

Het account van zijn vrouw was niet de enige chatbot die Alfozan volgens de beschuldiging bij dit incident gebruikte. Ongeveer zes weken eerder gebruikte hij, aldus de gerechtelijke documenten, een interne productiviteitsagent van OpenAI om te achterhalen welke vergaderruimtes plaats boden aan zes of meer personen en in welke zalen belangrijke vergaderingen zouden plaatsvinden. “Hoe zit het met externe partners, waar zouden die doorgaans vergaderen”, zou Alfozan hebben gevraagd aan de productiviteitsagent van OpenAI, volgens de gerechtelijke documenten.

OpenAI heeft nog niet gereageerd op Fortunes verzoek om comment over de vraag of het bedrijf op de hoogte was van Alfozans prompts voordat het opnameapparaat werd ontdekt.

Volgens de beëdigde verklaring van een FBI-agent in de gerechtelijke documenten koos Alfozan die specifieke vergaderzaal, nadat hij de productiviteitsagent had geraadpleegd, omdat vergaderingen daar “vaak discussies over zeer vertrouwelijke technische, commerciële en strategische informatie zouden omvatten, waaronder eigen onderzoek, productplannen en zakelijke ontwikkelingskansen”. De beëdigde verklaring merkt ook op dat de zaal “doorgaans wordt gebruikt voor interne bestuursvergaderingen … evenals externe briefings met overheidsfunctionarissen en zakelijke counterparten”. Alfozan had geen geautoriseerde toegang tot de vergaderzaal; alleen bestuurders en hun assistenten konden deze reserveren.

Wie is Abdulrahman Alfozan en wat heeft hij gedaan?

Alfozan, 35 jaar, een Saoedi, werd op 9 oktober aangehouden, volgens het Ministerie van Justitie. Hij wordt aangeklaagd op één tel onder de federale Wiretap Act, die het opzettelijk onderscheppen van mondelinge, bedrade en elektronische communicatie criminaliseert en een maximale gevangenisstraf van vijf jaar met zich meebrengt.

De beëdigde verklaring stelt dat hij een apparaat gebruikte om mondelinge communicatie te onderscheppen, maar het is nog onbekend of het apparaat daadwerkelijk een gesprek heeft vastgelegd. Toen OpenAI een forensische kopie van de geheugenkaart maakte, “kon geen van de bestanden erop worden hersteld of ontsleuteld”, schreef de agent. OpenAI en het Ministerie van Justitie hebben de inhoud versleuteld genoemd; de beëdigde verklaring zegt dat dat “mogelijk het geval was”.

De rest van de zaak berust op camera's en logboeken. OpenAI had geen camera in de zaal toen het apparaat werd geplaatst. Camera's in de kantoren van het bedrijf namen Alfozan op 10 verschillende dagen in september nabij de zaal op. Gerechtelijke documenten stellen dat hij op 28 september, de dag waarop de firmware van het apparaat werd gecompileerd, van 14:18 tot 18:30 uur nabij de zaal was.

Medewerkers vonden het apparaat op 30 september, ingepakt in toiletpapier en achter de televisie in de zaal verstopt tijdens een routinecontrole, aldus OpenAI tegenover Fortune. Het was een Seeed XIAO ESP32-S3 Sense, een duim groot bord met een microfoon en microSD-opslag, gemaakt door een bedrijf uit Shenzhen en commercieel verkocht als kant-en-klaar ontwikkelbord. De vondst leidde tot samenwerking tussen OpenAI en de FBI, en op 5 oktober was er een camera in de zaal geplaatst. Op de foto in de aanklacht werd Alfozan die dag om 13:20:47 uur op video vastgelegd terwijl hij achter de televisie keek.

Diezelfde dag liet hij, aldus de gerechtelijke documenten, een tas achter in een printerrimte. Beveiliging doorzocht de tas en vond er zijn portemonnee, zijn ID en een tweede Seeed-opnamebord in — dat door de beveiliging werd verwijderd. Nadat hij het bedrijf had verteld dat hij de tas was kwijtgeraakt, haalde hij deze de volgende dag rond het middaguur op bij de gevonden voorwerpen en stuurde hij vervolgens een schriftelijke update met een vraag naar wat hij omschreef als “gestolen” spullen: “Er zijn enkele spullen gestolen: één creditcard, contant geld (~$500), 2 AirPods, 1 koptelefoon, een zonnebril, een powerbank.” Hij vroeg niet naar een van beide apparaten. Beelden lijen vervolgens zien dat hij die dag spullen in een boodschappentas van Target verplaatste.

Volgens de motie hadden Alfozan, zijn vrouw en een derde familielid eenzame tickets geboekt van San Francisco naar Saoedi-Arabië, via Istanboel, voor 12 oktober. Aanklagers schreven dat hij “de middelen heeft — en een reden zal hebben — om eerder uit de Verenigde Staten te vluchten als hij eerder van deze zaak hoort voordat hij wordt gearresteerd.” Hij werd op 9 oktober aangehouden, drie dagen voor de vlucht.

Wat zijn de gevolgen?

Het dekblad van de regering vraagt om geen borgtocht en noemt “uitschakeling/verwijdering (deportatie)” onder de mogelijke straffen.

De aanklacht noemt geen diefstal van handelsgeheimen of economische spionage en gaat niet uit van een buitenlandse connectie. Desondanks assisteert een advocaat van de sectie Tegen-inlichtingen en Exportcontrole van de Nationale Veiligheidsdivisie het Openbaar Ministerie, volgens het Ministerie van Justitie. De vertrouwensmotie vroeg ook om het Openbaar Ministerie toe te staan de bestanden te delen met “andere wetshandhavings- en inlichtingendiensten voor zover nodig voor onderzoeksdoeleinden”.

Directeur van Nationale Inlichtingen Jay Clayton zei dat de inlichtingengemeenschap zich inzet om Amerikaanse intellectuele eigendom “te beschermen tegen buitenlandse dreigingen”. FBI-directeur Kash Patel noemde het beschermen van “Amerikaanse SI-innovatie” een van de “hoogste tegen-inlichtingenprioriteiten” van het bureau. OpenAI zei in een bericht op X dat het “geen aanwijzingen” heeft dat Alfozan modelgewichten, broncode of klantgegevens heeft meegenomen.

Onder de Speedy Trial Act hebben aanklagers 30 dagen na zijn aanhouding om hem te aanklagen, en een grand jury kan extra aanklachten toevoegen. Alfozan verscheen dinsdag voor het eerst in de rechtbank en moet op 19 oktober terugkeren voor een hechtingszitting, waarin het verzoek van de regering om geen borgtocht zal worden overwogen.

Dit verhaal verscheen oorspronkelijk op Fortune.com.