Een loopbaan gewijd aan het opsporen van illegale activiteiten online heeft in het tijdperk van kunstmatige intelligentie (AI) een nieuw doel gekregen.

Choi Seung-hyun werkte bijna twee decennia lang in softwarelicentie-compliance en antipiraterij, met periodes bij Adobe, Microsoft, de Business Software Alliance en PTC. Vandaag, als CEO van DragonEyes, past hij die ervaring toe op een ander probleem: een AI-agent die schadelijke online content moet opsporen en helpen kinderen te beschermen.

"Mijn 20 jaar in softwarelicentie-compliance waren een grote inspiratie voor DragonEyes," vertelde Choi in een interview met The Korea Times. "Het begon met een vraag die ik had als compliance-professional: hoe we schadelijke content online konden aanpakken. Dat leidde uiteindelijk tot de ontwikkeling van een AI-agent."

Het idee werd persoonlijk in november 2025, toen Choi las over een multinational in de gamessector in de Verenigde Staten dat onderzoek riskeerde vanwege de omgang met schadelijke online content. Sommige zaken hadden zorgen gewekt over kinder mishandeling. Choi, wiens twee zonen toen op de middelbare school en basisschool zaten, begon het probleem zowel als ouder als als compliance-expert te bekijken.

"Als vader kon ik er gewoon niet omheen," zei hij. "Ik begon die zaken nauwkeurig te bestuderen vanuit een compliance-perspectief, en ik denk dat dat het moment was waarop ik serieus over schadelijke online content begon na te denken."

De timing weerspiegelt een bredere fase voor de sector. Platforms en gamebedrijven wereldwijd worden steeds scherper bekeken door overheden en toezichthouders vanwege hun omgang met schadelijke content, waaronder materiaal dat kinderen in gevaar brengt. De druk voor snellere en consistentere detectie en verwijdering is toegenomen. AI-ondersteunde moderatie is een gangbaar antwoord geworden op de enorme hoeveelheid content, al gaan debatten over nauwkeurigheid, verantwoordelijkheid en de rol van menselijk oordeel door.

Na drie maanden planning begon Choi in februari met de ontwikkeling van DragonEyes en presenteerde hij het zes maanden later, op 25 augustus, tijdens een seminar in de Nationale Vergadering. De keuze van de locatie laat zien waar veel van het debat over online veiligheid zich nu afspeelt: bij wetgevers, nu landen waaronder Zuid-Korea overwegen de verplichtingen voor platforms om minderjarigen te beschermen te versterken.

DragonEyes gebruikt AI om mogelijk schadelijke content te zoeken en te analyseren, maar de uiteindelijke beslissing ligt bij een menselijke reviewer. Dat human-in-the-loop-ontwerp sluit aan bij een breed gedragen principe in contentmoderatie, waarbij geautomatiseerde systemen op grote schaal mogelijke overtredingen markeren en mensen het laatste woord hebben bij dubbele gevallen. Choi, die rechten studeerde in plaats van techniek, zei dat de opbouw zijn kijk op technologie weerspiegelt.

"Recht, samenleving en technologie moeten uiteindelijk allemaal de mens centraal stellen," zei hij. "Het doel van DragonEyes is, in de kern, mensen beschermen en hun leven verbeteren."

Die menselijke rol bracht Choi ertoe te overwegen contentreview om te zetten in banen voor mensen met een beperking en ouderen. Dat maakte geen deel uit van zijn oorspronkelijke plan. In het begin vroeg hij zich af wie de reviews kon uitvoeren en hoe het werk gefinancierd kon worden.

Gesprekken met Kwon Chan, een voormalige Microsoft-collega en voormalig vicevoorzitter van ChorogUsan for Children, hadden hem ook bewust gemaakt van het tekort aan stabiele, toegankelijke banen voor mensen met een beperking. Werkgelegenheid voor mensen met een beperking blijft een hardnekkig probleem in Zuid-Korea, waar het arbeidsparticipatiepercentage van mensen met een beperking al lang achterblijft bij dat van de algemene beroepsbevolking.

Choi aarzelt om het idee in grootse termen te vatten.

"'Digitaal humanisme' klinkt mij een beetje te groots in de oren," zei hij. "Ik zie AI eerder als een betrouwbare vriend — iets dat ons helpt met de dingen die lastig of vervelend zijn om alleen te doen."

Zijn hoop voor DragonEyes is even simpel.

"DragonEyes kan voor de een een waardevolle baan worden, en voor een ander een manier om met de wereld verbonden te zijn," zei hij.