違法行為の追跡に費やされたキャリアが、人工知能（AI）の時代に新たな目的を持つことになった。

チェ・スンヒョン氏は約20年にわたり、Adobe、Microsoft、Business Software Alliance、PTCなどでソフトウェアライセンスのコンプライアンスおよび海賊版対策に従事してきた。現在、DragonEyesのCEOとして、その経験を別の課題に活かしている。有害なオンラインコンテンツを検出し、児童保護に役立てるAIエージェントの開発である。

「ソフトウェアライセンスコンプライアンスでの20年の経験が、DragonEyesの大きなインスピレーションになりました」とチェ氏は『コリア・タイムズ』のインタビューで語った。「コンプライアンス専門家として、オンラインの有害コンテンツにどう対処できるかという疑問から始まり、それが最終的にAIエージェントの開発につながりました」

この考えが個人的なものになったのは2025年11月のことだ。チェ氏は、有害なオンラインコンテンツの対応をめぐり調査を受けている米国の多国籍ゲーム会社について読んだ。一部の事例では児童虐待への懸念が持ち上がっていた。当時、高校生と小学生の二人の息子がいたチェ氏は、この問題を親として、そしてコンプライアンス専門家としての両面から検討し始めた。

「父親として、関心を持たないわけにはいきませんでした」と彼は言う。「コンプライアンスの視点からそれらの事例を詳しく見始め、本格的に有害オンラインコンテンツについて考えるようになったのはその時だと思います」

この時期は業界全体の大きな流れを反映してもいる。世界中のプラットフォームやゲーム企業は、児童を危険にさらすコンテンツを含む有害コンテンツへの対応をめぐり、政府や規制当局からの監視を強めており、より迅速で一貫した検出・削除への圧力が高まっている。膨大なコンテンツ量への対応策として、AI支援によるモデレーションは一般的な答えとなりつつあるが、精度、責任の所在、人間の判断の役割をめぐる議論は続いている。

3か月の準備期間を経て、チェ氏は2月にDragonEyesの開発を開始し、6か月後の8月25日、国会セミナーで公開した。この会場の選択は、オンライン安全をめぐる議論の多くが今、韓国を含む各国がプラットフォームに対する未成年保護義務の強化を検討するなかで、立法者との間で行われていることを示している。

DragonEyesはAIを使って有害と思われるコンテンツを検索・分析するが、最終判断は人間のレビュアーに委ねられる。この「ヒューマン・イン・ザ・ループ」設計は、コンテンツモデレーションで広く受け入れられている原則と一致している。自動化システムが大規模に潜在的な違反を検出し、曖昧な事例についての最終判断は人間が行うという考え方だ。法学を学び工学ではなかったチェ氏は、この構造が自身の技術観を反映していると語る。

「法も社会も技術も、最終的には人間を中心に置くべきです」と彼は言う。「DragonEyesの目的は、結局のところ、人を守り、人々の生活をより良くすることです」

その人間の役割が、チェ氏にコンテンツレビューを障害者や高齢者の仕事にできないかと考えさせた。これは当初の計画にはなかったことだった。初期段階では、誰がレビューを行い、その業務をどのように資金調達するかという疑問を抱いていた。

Microsoftの元同僚で、ChorogUsan for Childrenの元副代表であるクォン・チャン氏との対話は、障害者向けの安定したアクセスしやすい仕事が不足していることをチェ氏に認識させた。韓国では障害者の雇用は長年の課題であり、障害者の雇用率は労働可能年齢の一般人口の雇用率に長らく遅れをとっている。

チェ氏は、この構想を大げさな言葉で飾ることを好まない。

「『デジタル・ヒューマニズム』というのは、私には少し大げさに聞こえます」と彼は言う。「AIは、私にとってむしろ頼りになる友人のようなもの――一人では面倒だったり億劫だったりすることを手伝ってくれる存在です」

DragonEyesへの思いも同様に率直だ。

「DragonEyesは、誰かにとっては価値ある仕事になり、別の誰かにとっては世界とつながる手段になればと思っています」と彼は語った。