Kariera poświęcona śledzeniu nielegalnej działalności w internecie zyskała nowy cel w erze sztucznej inteligencji (AI).

Przez blisko dwie dekady Choi Seung-hyun pracował w dziedzinie compliance'u licencji software'owych i zwalczania piractwa, m.in. w Adobe, Microsofcie, Business Software Alliance i PTC. Dziś, jako CEO DragonEyes, wykorzystuje to doświadczenie do rozwiązania innego problemu: tworzy agenta AI zaprojektowanego do wykrywania szkodliwych treści w internecie i ochrony dzieci.

"Moje 20 lat w compliance'ie licencji software'owych były główną inspiracją dla DragonEyes" – powiedział Choi w wywiadzie dla The Korea Times. "Wszystko zaczęło się od pytania, które zadawałem sobie jako specjalista ds. compliance'u: jak możemy zwalczać szkodliwe treści w internecie. To ostatecznie doprowadziło mnie do opracowania agenta AI."

Pomysł stał się osobisty w listopadzie 2025 roku, gdy Choi przeczytał o międzynarodowej firmie gamingowej w Stanach Zjednoczonych, która znajdowała się pod śledztwem z powodu sposobu obsługi szkodliwych treści online. Niektóre z tych przypadków budziły obawy dotyczące wykorzystywania dzieci. Choi, którego dwóch synów uczęszczało wtedy do szkoły średniej i podstawowej, zaczął przyglądać się temu zagadnieniu zarówno jako rodzic, jak i ekspert ds. compliance'u.

"Jako ojciec nie mogłem nie zwrócić na to uwagi" – powiedział. "Zacząłem się bliżej przyglądać tym przypadkom z perspektywy compliance'owej i myślę, że to był moment, w którym zacząłem poważnie myśleć o szkodliwych treściach w internecie."

Timing odzwierciedla szerszy moment dla branży. Platformy i firmy gamingowe na całym świecie są coraz mocniej kontrolowane przez rządy i regulatorów pod kątem obchodzenia się ze szkodliwymi treściami, w tym materiałami zagrażającymi dzieciom, a presja na szybsze i bardziej spójne wykrywanie i usuwanie takich treści rośnie. Moderacja wspomagana AI stała się powszechną odpowiedzią na ogromną skalę treści, choć debaty o dokładności, rozliczalności i roli ludzkiego osądu trwają.

Po trzech miesiącach planowania Choi rozpoczął rozwój DragonEyes w lutym i zaprezentował narzędzie sześć miesięcy później, 25 sierpnia, podczas seminarium w Zgromadzeniu Narodowym. Wybór miejsca wskazuje, gdzie obecnie toczy się większość dyskusji o bezpieczeństwie online: wśród ustawodawców, gdy kraje takie jak Korea Południowa rozważają zaostrzenie obowiązków platform w zakresie ochrony nieletnich.

DragonEyes wykorzystuje AI do wyszukiwania i analizowania potencjalnie szkodliwych treści, ale ostateczna decyzja należy do człowieka-recenzenta. Taki projekt z człowiekiem w pętli odzwierciedla szeroko przyjętą zasadę w moderacji treści, gdzie systemy automatyczne flagują potencjalne naruszenia na dużą skalę, a ludzie podejmują ostateczne decyzje w niejednoznacznych przypadkach. Choi, który studiował prawo, a nie inżynierię, powiedział, że ta struktura odzwierciedla jego pogląd na technologię.

"Prawo, społeczeństwo i technologia powinny ostatecznie stawiać człowieka w centrum" – powiedział. "Celem DragonEyes jest, w gruncie rzeczy, ochrona ludzi i czynienie ich życia lepszym."

Ta rola człowieka skłoniła Choia do rozważenia przekształcenia recenzowania treści w miejsca pracy dla osób z niepełnosprawnościami i seniorów. Nie było to częścią pierwotnego planu. We wczesnych etapach zastanawiał się, kto mógłby wykonywać recenzowanie i jak finansować tę pracę.

Rozmowy z Kwon Chanem, byłym kolegą z Microsoftu i byłym wiceprezesem ChorogUsan for Children, uświadomiły mu także niedobór stabilnych, dostępnych miejsc pracy dla osób z niepełnosprawnościami. Zatrudnienie osób z niepełnosprawnościami pozostaje trwałym wyzwaniem w Korei Południowej, gdzie wskaźnik zatrudnienia tej grupy od dawna odbiega od wskaźnika dla ogólnej populacji w wieku produkcyjnym.

Choi niechętnie ubiera ten pomysł w wielkie słowa.

"'Cyfrowy humanizm' brzmi dla mnie trochę zbyt monumentalnie" – powiedział. "Traktuję AI raczej jako niezawodnego przyjaciela – coś, co pomaga nam w rzeczach niewygodnych lub żmudnych do zrobienia samemu."

Jego nadzieja związana z DragonEyes jest równie prosta.

"DragonEyes może stać się cenną pracą dla jednej osoby, a dla innej – sposobem na kontakt ze światem" – powiedział.