Le régulateur sud-coréen en matière de confidentialité examine une fuite de données chez Anthropic ayant exposé environ 100 comptes professionnels appartenant à des entreprises coréennes.

La Commission de protection des informations personnelles (PIPC) a déclaré lundi avoir reçu un rapport de fuite de données d'Anthropic, déposé par l'entreprise le 31 octobre. Cette divulgation du régulateur a été rapportée par l'Agence de presse Yonhap et le Seoul Economic Daily. La PIPC est la principale autorité sud-coréenne en matière de protection des données personnelles, et cet examen soumet à un contrôle officiel la gestion par un fournisseur d'IA étranger des données de clients entreprise coréens.

Qu'a rapporté Anthropic à la PIPC ?

La PIPC a confirmé qu'Anthropic avait déposé un rapport concernant la fuite de données le 31 octobre, indiquant qu'environ 100 comptes professionnels — tous appartenant à des entreprises coréennes — avaient été exposés.

L'examen en est à un stade préliminaire, et la commission n'a pas encore ouvert d'enquête formelle. Elle a noté que les examens impliquant des entreprises étrangères peuvent prendre plus de temps, car les régulateurs peuvent demander des documents avant le début formel d'une enquête. Une fois l'enquête formelle lancée, la PIPC a déclaré qu'elle prévoyait de confirmer l'ampleur des dommages. Cette affaire illustre également la manière dont la supervision coréenne en matière de protection des données s'étend aux fournisseurs d'IA étrangers dont les clients entreprise coréens sont touchés par une fuite.

Anthropic a informé certains de ses clients que les données exposées comprenaient des numéros d'identification de compte et d'organisation, ainsi que des coordonnées professionnelles telles que les noms et les adresses e-mail.

Lydia Harley, chercheuse technique de l'entreprise, a révélé sur X que l'intrus avait également consulté les plans d'abonnement professionnels, bien que les requêtes des utilisateurs, les sorties d'IA et les données de paiement n'aient pas été consultées. Les poids des modèles d'Anthropic, son code source et les conversations Claude n'ont pas non plus été atteints.

L'entreprise a déclaré avoir arrêté les systèmes concernés le jour même où elle a confirmé le problème et collaboré avec le fournisseur de logiciels tiers pour corriger la faille exploitée. Anthropic a également reconnu qu'un travail reste à faire concernant la surveillance des logiciels tiers. L'incident montre comment les logiciels tiers peuvent devenir un point d'exposition pour les fournisseurs d'IA, même lorsque leurs systèmes centraux restent intacts.

Qui est Cathedral, et comment la fuite s'est-elle produite ?

Cathedral est une jeune start-up de cybersécurité fondée par quatre anciens membres du Département de l'efficacité gouvernementale (DOGE), aujourd'hui dissous : Gavin Kliger, Luke Farritor, Marko Elez et Jack Stein. L'entreprise est valorisée à 1,4 milliard de dollars après avoir levé 160 millions de dollars auprès d'Andreessen Horowitz et de Sequoia Capital, et Marc Andreessen ainsi que Shaun Maguire siègent tous deux à son conseil d'administration.

La start-up viserait, selon les rapports, à renforcer la puissance cyber militaire des États-Unis face à des rivaux tels que la Chine, et elle détient des contrats avec trois agences fédérales.

Kliger, le PDG, entretient les liens les plus étroits avec Anthropic. Il a précédemment été directeur des données au Pentagone et, selon plusieurs sources, a participé au conflit du département avec Anthropic sur la manière dont l'armée pouvait utiliser ses modèles d'IA.

Selon la version des événements de Cathedral — consignée dans la base de données des incidents IA du MIT — ses agents d'IA ont trouvé des chemins d'accès aux transcriptions de réunions, aux détails de salaires et d'offres d'emploi, ainsi qu'aux messages Slack internes en moins de 12 heures.

Logan Graham, responsable de la cybersécurité d'Anthropic, a réfuté cette affirmation, publiant sur X que l'opération avait en réalité pris plusieurs jours. Il a écrit que la méthode de Cathedral était « inhabituelle et hors périmètre » car elle combinait des failles issues de plusieurs logiciels tiers.

Le test des défenses d'Anthropic mené par Cathedral était censé s'inscrire dans le cadre du programme de bug bounty de l'entreprise, mais Anthropic affirme que la start-up a enfreint les règles du programme en n'expliquant pas pleinement l'étendue du test, et en donnant à ses découvertes une importance pour la sécurité nationale supérieure à la réalité.

De plus, les propres systèmes de surveillance d'Anthropic auraient détecté une partie de l'activité avant que Cathedral ne dépose son rapport.

À ce jour, Anthropic n'a pas déposé de plainte, et Cathedral a conclu un accord avec OpenAI pour tester ses propres défenses. La question de savoir si l'examen préliminaire de la PIPC débouchera sur une enquête formelle demeure le point de suivi immédiat, de même qu'une éventuelle décision d'Anthropic d'engager des poursuites.