Una carriera trascorsa a tracciare attività illegali online ha assunto un nuovo scopo nell'era dell'intelligenza artificiale (AI).

Per quasi due decenni, Choi Seung-hyun ha lavorato nel campo della conformità delle licenze software e dell'anti-pirateria, con esperienze in Adobe, Microsoft, Business Software Alliance e PTC. Oggi, come CEO di DragonEyes, sta applicando quell'esperienza a un problema diverso: un agente AI progettato per rilevare contenuti online dannosi e contribuire a proteggere i minori.

"I miei 20 anni nel campo della conformità delle licenze software sono stata una grande fonte di ispirazione per DragonEyes", ha raccontato Choi in un'intervista a The Korea Times. "È tutto iniziato da una domanda che mi ponevo come professionista della conformità: come poter affrontare i contenuti dannosi online. Questo mi ha infine portato a sviluppare un agente AI."

L'idea è diventata personale nel novembre 2025, quando Choi ha letto di una società multinazionale di videogiochi negli Stati Uniti oggetto di indagini per la gestione di contenuti online dannosi. Alcuni casi avevano sollevato preoccupazioni riguardo ad abusi sui minori. Choi, i cui due figli frequentavano allora le scuole superiori e le elementari, ha iniziato a esaminare la questione sia come genitore sia come esperto di conformità.

"Come padre, non potevo fare a meno di prestare attenzione", ha detto. "Ho cominciato a esaminare da vicino quei casi da una prospettiva di conformità, e credo che sia stato allora che ho iniziato a riflettere seriamente sui contenuti online dannosi."

I tempi riflettono un momento più ampio per il settore. Le piattaforme e le società di videogiochi in tutto il mondo sono sottoposte a un controllo crescente da parte di governi e regolatori su come gestiscono i contenuti dannosi, inclusi materiali che mettono a rischio i minori, e la pressione per un rilevamento e una rimozione più rapidi e coerenti è aumentata. La moderazione assistita dall'AI è diventata una risposta comune all'enorme volume di contenuti, sebbene i dibattiti continuino su accuratezza, responsabilità e ruolo del giudizio umano.

Dopo tre mesi di pianificazione, Choi ha avviato lo sviluppo di DragonEyes a febbraio e lo ha presentato sei mesi dopo, il 25 agosto, in un seminario all'Assemblea Nazionale. La scelta del luogo indica dove si svolge oggi gran parte del dibattito sulla sicurezza online: con i legislatori, mentre paesi come la Corea del Sud valutano come rafforzare gli obblighi delle piattaforme a protezione dei minori.

DragonEyes utilizza l'AI per cercare e analizzare contenuti potenzialmente dannosi, ma la decisione finale spetta a un revisore umano. Questo modello con l'uomo nel ciclo (human-in-the-loop) rispecchia un principio ampiamente condiviso nella moderazione dei contenuti, in cui i sistemi automatici segnalano su larga scala le potenziali violazioni mentre le persone decidono sui casi ambigui. Choi, che ha studiato giurisprudenza anziché ingegneria, ha affermato che questa struttura riflette la sua visione della tecnologia.

"La legge, la società e la tecnologia dovrebbero tutte, in ultima analisi, mettere la persona al centro", ha dichiarato. "Lo scopo di DragonEyes è, in fondo, proteggere le persone e migliorare le loro vite."

Questo ruolo umano ha portato Choi a considerare la trasformazione della revisione dei contenuti in opportunità di lavoro per persone con disabilità e anziani. Non faceva parte del piano originario. Nelle fasi iniziali si chiedeva chi potesse svolgere la revisione e come finanziare il lavoro.

Le conversazioni con Kwon Chan, ex collega di Microsoft ed ex vicepresidente di ChorogUsan for Children, lo avevano inoltre reso consapeole della carenza di lavori stabili e accessibili per le persone con disabilità. L'occupazione delle persone con disabilità rimane una sfida persistente in Corea del Sud, dove il tasso di occupazione delle persone con disabilità è da tempo inferiore a quello della popolazione in età lavorativa generale.

Choi è restio a rivestire l'idea di termini grandiosi.

"'Umanesimo digitale' mi suona un po' troppo grandioso", ha detto. "Penso all'AI più come a un amico affidabile — qualcosa che ci aiuta con le cose che sono scomode o noiose da fare da soli."

La sua speranza per DragonEyes è altrettanto semplice.

"DragonEyes potrebbe diventare un lavoro prezioso per qualcuno e, per qualcun altro, un modo di entrare in contatto con il mondo", ha concluso.