Una carrera dedicada a rastrear actividades ilegales en línea ha tomado un nuevo propósito en la era de la inteligencia artificial (IA).

Durante casi dos décadas, Choi Seung-hyun trabajó en cumplimiento de licencias de software y antipiratería, con pasos por Adobe, Microsoft, la Business Software Alliance y PTC. Hoy, como CEO de DragonEyes, aplica esa experiencia a un problema diferente: un agente de IA diseñado para detectar contenido dañino en línea y ayudar a proteger a los niños.

"Mis 20 años en cumplimiento de licencias de software fueron una gran inspiración para DragonEyes", dijo Choi a The Korea Times en una entrevista. "Todo comenzó con una pregunta que me hacía como profesional del cumplimiento sobre cómo podíamos combatir el contenido dañino en línea. Eso finalmente me llevó a desarrollar un agente de IA."

La idea se volvió personal en noviembre de 2025, cuando Choi leyó sobre una multinacional de videojuegos en Estados Unidos que enfrentaba investigaciones por su manejo de contenido dañino en línea. Algunos de los casos habían generado preocupaciones sobre abuso infantil. Choi, cuyos dos hijos estudiaban entonces en la escuela secundaria y primaria, comenzó a examinar el problema tanto como padre como experto en cumplimiento.

"Como padre, no podía dejar de prestar atención", dijo. "Comencé a analizar de cerca esos casos desde una perspectiva de cumplimiento, y creo que fue entonces cuando empecé a pensar seriamente en el contenido dañino en línea."

El momento refleja una coyuntura más amplia para la industria. Las plataformas y las empresas de videojuegos de todo el mundo han enfrentado un escrutinio creciente por parte de gobiernos y reguladores por su manejo del contenido dañino, incluido el material que pone en peligro a los niños, y ha aumentado la presión para una detección y eliminación más rápidas y consistentes. La moderación asistida por IA se ha convertido en una respuesta común al enorme volumen de contenido, aunque continúan los debates sobre la precisión, la rendición de cuentas y el papel del juicio humano.

Tras tres meses de planificación, Choi comenzó a desarrollar DragonEyes en febrero y lo presentó seis meses después, el 25 de agosto, en un seminario de la Asamblea Nacional. La elección del lugar señala dónde se está produciendo hoy gran parte de la discusión sobre la seguridad en línea: con los legisladores, mientras países como Corea del Sur evalúan cómo fortalecer las obligaciones de las plataformas para proteger a los menores.

DragonEyes utiliza IA para buscar y analizar contenido potencialmente dañino, pero la decisión final recae en un revisor humano. Ese diseño con intervención humana refleja un principio ampliamente aceptado en la moderación de contenido, donde los sistemas automatizados señalan posibles infracciones a gran escala mientras las personas toman las decisiones finales en los casos ambiguos. Choi, quien estudió derecho y no ingeniería, dijo que la estructura refleja su visión de la tecnología.

"La ley, la sociedad y la tecnología deberían, en última instancia, poner a las personas en el centro", dijo. "El propósito de DragonEyes es, al final, proteger a las personas y mejorar sus vidas."

Ese papel humano llevó a Choi a considerar convertir la revisión de contenido en empleos para personas con discapacidad y adultos mayores. Esto no formaba parte de su plan original. En las etapas iniciales, se preguntaba quién podría realizar las revisiones y cómo se podría financiar el trabajo.

Conversaciones con Kwon Chan, excolega de Microsoft y exvicepresidente de ChorogUsan for Children, también lo hicieron consciente de la escasez de empleos estables y accesibles para personas con discapacidad. El empleo de las personas con discapacidad sigue siendo un desafío persistente en Corea del Sur, donde la tasa de empleo de este grupo ha estado tradicionalmente por debajo de la de la población en edad de trabajar.

Choi evita vestir la idea con términos grandilocuentes.

"El 'humanismo digital' me suena un poco demasiado grandioso", dijo. "Pienso en la IA más bien como un amigo confiable: algo que nos ayuda con las cosas que son incómodas o tediosas de hacer solos."

Su esperanza para DragonEyes es igual de sencilla.

"DragonEyes podría convertirse en un empleo valioso para alguien y, para otra persona, en una forma de conectarse con el mundo", dijo.