新闻宏观经济从打击软件盗版到用AI保护儿童:DragonEyes CEO将AI转向有害内容治理

从打击软件盗版到用AI保护儿童:DragonEyes CEO将AI转向有害内容治理

作者: The Korea Times Business·

要点速览

  • 崔承铉凭借在Adobe、微软、PTC和商业软件联盟等机构近二十年的软件许可合规与反盗版经验,打造了DragonEyes。
  • DragonEyes是一款旨在检测有害网络内容、保护儿童的AI代理,于今年2月启动开发,8月25日在韩国国会研讨会上正式发布。
  • 该系统采用“人在回路中”设计:由AI标记潜在有害内容,最终决策由人工审核员做出。
  • 崔承铉计划将内容审核岗位转变为适合残障人士和老年人的工作,以应对韩国稳定、可及就业岗位短缺的问题。
  • 此次发布正值全球平台和游戏公司在有害内容与儿童安全义务方面面临日益加大的监管审视之际。
从打击软件盗版到用AI保护儿童:DragonEyes CEO将AI转向有害内容治理

一段致力于追踪网络非法行为的职业生涯,在人工智能(AI)时代有了新的使命。

近二十年来,崔承铉一直从事软件许可合规与反盗版工作,曾任职于Adobe、微软、商业软件联盟(Business Software Alliance)以及PTC。如今,作为DragonEyes的CEO,他将这些经验用于一个不同的问题:开发一款能够检测有害网络内容、帮助保护儿童的AI代理。

“我在软件许可合规领域的20年经历是DragonEyes的重要灵感来源,”崔承铉在接受《韩国时报》(The Korea Times)采访时表示。“这始于我作为合规专业人士的一个疑问:我们该如何应对网络上的有害内容。这个问题最终促使我开发了一款AI代理。”

2025年11月,这一想法变得与个人息息相关。当时崔承铉读到一则新闻:美国一家跨国游戏公司因处理有害网络内容的方式而接受调查,其中一些案件引发了对虐待儿童问题的担忧。崔承铉的两个儿子当时分别就读于高中和小学,他开始以家长和合规专家的双重身份审视这一问题。

“作为一名父亲,我无法不关注这件事,”他说。“我开始从合规的角度仔细研究这些案件,我想正是那个时候,我开始认真思考有害网络内容的问题。”

这一时机也反映了整个行业正处在一个关键节点。世界各地的平台和游戏公司因如何处理有害内容(包括危害儿童的材质)而面临政府和监管机构日益严格的审视,要求更快、更一致地检测和删除此类内容的压力不断加大。AI辅助审核已成为应对海量内容的常见方案,但围绕准确性、问责机制以及人类判断所扮演角色的争论仍在继续。

经过三个月的规划,崔承铉于今年2月开始开发DragonEyes,并在六个月后的8月25日于国会研讨会上正式发布。发布地点的选择也表明,如今关于网络安全的许多讨论正转移到立法者层面——包括韩国在内,多个国家正在权衡如何强化平台保护未成年人的义务。

DragonEyes利用AI搜索并分析潜在的有害内容,但最终决策权由人工审核员掌握。这种“人在回路中”的设计呼应了内容审核领域的一项广泛共识:自动化系统可大规模标记潜在违规内容,而模糊案例的最终裁定由人来完成。崔承铉学习的是法律而非工程学,他表示这一结构体现了他的技术观。

“法律、社会和技术的最终目标都应以人为中心,”他说。“DragonEyes的目的,归根结底是保护人,让人们的生活变得更好。”

正是这一人类角色,让崔承铉考虑将内容审核转变为适合残障人士和老年人的工作岗位。这并不在他最初的计划之中。在早期阶段,他一直在思考由谁来承担审核工作,以及这项工作如何获得资金支持。

与前微软同事、前ChorogUsan for Children副会长权灿(Kwon Chan)的交流,也让他意识到残障人士缺乏稳定、可及的工作岗位。在韩国,残障人士就业长期以来落后于一般劳动年龄人口的就业率,这依然是一个持续存在的难题。

崔承铉不愿用宏大的辞藻来包装这一想法。

“‘数字人文主义’对我来说听起来有些太宏大了,”他说。“我更愿意把AI看作一位可靠的朋友——帮我们完成那些独自去做会很麻烦或枯燥的事情。”

他对DragonEyes的期望同样朴实。

“DragonEyes对某些人来说可能成为一份有价值的工作,对另一些人来说,则是与这个世界建立联系的一种方式,”他说。