Eine Karriere, die dem Aufspüren illegaler Aktivitäten im Internet gewidmet war, hat im Zeitalter der künstlichen Intelligenz (KI) einen neuen Zweck gefunden.

Fast zwei Jahrzehnte lang arbeitete Choi Seung-hyun im Bereich Software-Lizenzcompliance und Antipiraterie, mit Stationen bei Adobe, Microsoft, der Business Software Alliance und PTC. Heute wendet er als CEO von DragonEyes diese Erfahrung auf ein anderes Problem an: einen KI-Agenten, der schädliche Online-Inhalte erkennen und dazu beitragen soll, Kinder zu schützen.

"Meine 20 Jahre in der Software-Lizenzcompliance waren eine wesentliche Inspiration für DragonEyes", sagte Choi in einem Interview mit The Korea Times. "Alles begann mit einer Frage, die ich mir als Compliance-Fachmann stellte: Wie können wir schädliche Inhalte im Internet bekämpfen? Das führte mich schließlich zur Entwicklung eines KI-Agenten."

Persönlich wurde die Idee im November 2025, als Choi von einem multinationalen Spieleunternehmen in den USA las, das wegen seines Umgangs mit schädlichen Online-Inhalten untersucht wurde. In einigen Fällen waren Bedenken hinsichtlich Kindesmisshandlung aufgekommen. Choi, dessen zwei Söhne damals die High School bzw. die Grundschule besuchten, begann, das Problem sowohl als Vater als auch als Compliance-Experte zu betrachten.

"Als Vater konnte ich nicht wegschauen", sagte er. "Ich begann, diese Fälle aus Compliance-Perspektive genau zu betrachten, und ich glaube, das war der Moment, in dem ich ernsthaft über schädliche Online-Inhalte nachzudenken begann."

Der Zeitpunkt spiegelt eine breitere Entwicklung in der Branche wider. Plattformen und Spieleunternehmen weltweit sehen sich wachsender Prüfung durch Regierungen und Regulierungsbehörden ausgesetzt – insbesondere zu der Frage, wie sie mit schädlichen Inhalten umgehen, einschließlich Material, das Kinder gefährdet. Der Druck auf schnellere und konsistentere Erkennung und Entfernung solcher Inhalte hat zugenommen. KI-gestützte Moderation ist zu einer gängigen Antwort auf die schiere Menge an Inhalten geworden, wobei Debatten über Genauigkeit, Verantwortlichkeit und die Rolle menschlicher Urteilskraft andauern.

Nach drei Monaten Planung begann Choi im Februar mit der Entwicklung von DragonEyes und stellte das Tool sechs Monate später, am 25. August, bei einem Seminar der Nationalversammlung vor. Die Wahl des Veranstaltungsortes deutet darauf hin, wo viel der Diskussion über Online-Sicherheit heute stattfindet: bei den Gesetzgebern, während Länder wie Südkorea erwägen, die Pflichten von Plattformen zum Schutz Minderjähriger zu verschärfen.

DragonEyes nutzt KI, um potenziell schädliche Inhalte zu suchen und zu analysieren, doch die endgültige Entscheidung liegt bei einem menschlichen Prüfer. Dieses Konzept der menschlichen Mitwirkung (Human-in-the-Loop) entspricht einem in der Inhaltsmoderation verbreiteten Grundsatz: Automatisierte Systeme kennzeichnen potenzielle Verstöße in großem Umfang, während Menschen bei ambivalenten Fällen die letzte Entscheidung treffen. Choi, der Jura und nicht Ingenieurwissenschaften studierte, sagte, diese Struktur spiegele seine Sicht auf Technologie wider.

"Recht, Gesellschaft und Technologie sollten letztlich alle den Menschen in den Mittelpunkt stellen", sagte er. "Der Zweck von DragonEyes ist am Ende, Menschen zu schützen und ihr Leben zu verbessern."

Diese menschliche Rolle veranlasste Choi zu überlegen, die Inhaltsprüfung zu Arbeitsplätzen für Menschen mit Behinderungen und ältere Menschen zu machen. Das war ursprünglich nicht Teil seines Plans. In den frühen Phasen fragte er sich, wer die Prüfung übernehmen könnte und wie die Arbeit finanziert werden könnte.

Gespräche mit Kwon Chan, einem ehemaligen Microsoft-Kollegen und früheren Vizepräsidenten von ChorogUsan for Children, hatten ihm zudem die Knappheit an stabilen, zugänglichen Arbeitsplätzen für Menschen mit Behinderungen bewusst gemacht. Die Beschäftigung von Menschen mit Behinderungen bleibt in Südkorea eine hartnäckige Herausforderung, wo die Erwerbsquote von Menschen mit Behinderungen schon lange hinter der der allgemeinen erwerbsfähigen Bevölkerung zurückliegt.

Choi scheut davor zurück, die Idee in großen Worten zu präsentieren.

"'Digitaler Humanismus' klingt für mich etwas zu hoch gegriffen", sagte er. "Ich sehe KI eher als einen verlässlichen Freund – etwas, das uns bei Dingen hilft, die allein zu tun unpraktisch oder mühsam sind."

Seine Hoffnung für DragonEyes ist ebenso schlicht.

"DragonEyes könnte für jemanden ein wertvoller Beruf sein und für jemand anderen ein Weg, mit der Welt verbunden zu sein", sagte er.