Le tribunal du travail sud-africain a suspendu une procédure disciplinaire visant trois employés de la municipalité locale de Matjhabeng après que les avocats des employés ont présenté des éléments prima facie indiquant que le président de l’audience pourrait s’être appuyé sur des sources juridiques hallucinéés et générées par l’IA pour rendre des décisions clés.

L’avocat des employés a montré que, à l’exception d’une source citée, les sources juridiques mentionnées par le président de l’audience dans une décision de juin n’existaient pas ou ne disaient rien de proche de ce que le président leur attribuait. La contestation visait deux décisions rendues par le président et soulevait de sérieuses questions sur l’intégrité de la procédure disciplinaire.

Dans son jugement, la juge K Allen-Yaman s’est arrêtée avant de conclure que l’intelligence artificielle avait rédigé le raisonnement du président. Elle a toutefois averti que, si un outil d’IA avait généré les citations, “the ruling cannot stand,” et a déclaré qu’une confiance aveugle dans un chatbot serait inacceptable au regard des normes déjà fixées par les tribunaux sud-africains. Le terme « hallucination » désigne ici la tendance des grands modèles de langage à générer des textes fluides et assurés — y compris des noms d’affaires, des citations et des principes juridiques — qui sont fabriqués, car ces modèles prédisent un langage plausible plutôt que de retrouver des faits vérifiés.

L’affaire survient à peine trois mois après que le ministère sud-africain des Communications et des Technologies numériques a été contraint de retirer son projet de Politique nationale sur l’intelligence artificielle, après que News24 a constaté qu’une partie de ses 67 références universitaires étaient fabriquées ou renvoyaient à des revues qui n’avaient pas publié les travaux cités. Le document avait déjà été approuvé par le Cabinet et publié au Journal officiel pour consultation publique avant que l’exactitude des travaux scientifiques qui le soutenaient ne soit vérifiée. Deux hauts responsables du ministère ont ensuite été nommés dans une enquête de Rapport et ont eu jusqu’à la fin avril pour fournir des explications.

Cet épisode n’était pas la seule controverse récente portant sur des citations au sein des institutions gouvernementales sud-africaines. Le ministère de l’Intérieur avait été confronté peu auparavant à un problème similaire, après que des journalistes ont identifié plus d’une centaine de références inventées dans la liste bibliographique du Livre blanc révisé sur la citoyenneté, l’immigration et les réfugiés. Le ministère a soutenu que les citations fabriquées se limitaient à une liste autonome et n’affectaient pas le fond de la politique. Cette défense faisait écho à l’argument avancé dans l’affaire de la politique sur l’IA : des sources incorrectes, mais des conclusions correctes.

Le pouvoir judiciaire sud-africain est confronté au même problème depuis au moins janvier 2025, lorsque le jugement de la Haute Cour du KwaZulu-Natal dans l’affaire Mavundla v MEC for Co-Operative Government and Traditional Affairs a révélé des chefs d’argumentation rédigés avec ChatGPT par un avocat stagiaire. Le mémoire comprenait une affaire inventée, “Hassan v Coetzee,” fondée sur un principe juridique qui semblait plausible mais était entièrement fabriqué.

Depuis, la Haute Cour de Johannesburg a renvoyé des avocats devant le Legal Practice Council pour avoir utilisé de fausses autorités juridiques dans l’affaire Northbound Processing v South African Diamond and Precious Metals Regulator. Dans cette affaire, un juge a démontré à l’audience avec quelle facilité ChatGPT pouvait inventer des affaires en lançant des requêtes en direct.

L’Afrique du Sud confrontée à des scandales répétés de citations liées à l’IA

Ces affaires ne révèlent pas seulement une imprudence isolée de certains praticiens ou responsables. Elles traduisent aussi une défaillance institutionnelle plus large : s’appuyer sur des outils auxquels on ne peut pas faire confiance pour vérifier l’exactitude des contenus qu’ils génèrent. Les modèles d’IA générative sont conçus pour produire des textes fluides et assurés, pas nécessairement des textes exacts. Un jugement fabriqué de la Cour constitutionnelle peut se lire comme un vrai jusqu’à ce que quelqu’un tente de le retrouver et de le vérifier.

Les tribunaux et les ministères sud-africains découvrent, à travers des scandales répétés, que paraître exact et être exact sont deux choses différentes. Le Legal Practice Council et le tribunal du travail ont tous deux signalé une approche stricte face à l’usage de fausses autorités, et l’affaire Matjhabeng montre que le problème dépasse désormais les jeunes avocats travaillant sous la pression des délais.

La question s’étend maintenant à la prise de décision quasi judiciaire, où les décisions peuvent affecter les emplois et les moyens de subsistance des travailleurs. Si un président de procédure disciplinaire peut s’appuyer sur une citation hallucinéé pour justifier une décision impliquant trois employés, le même risque peut apparaître partout où un agent public est censé exercer un jugement indépendant plutôt que reproduire un résultat généré par un chatbot.

Les données internationales indiquent que le risque augmente. La base de données de Damien Charlotin a recensé plus de 1 300 cas confirmés d’hallucinations d’IA devant les tribunaux dans le monde : L’un des premiers et des plus largement médiatisés a été l’affaire américaine Mata v. Avianca en 2023, dans laquelle un juge fédéral de New York a sanctionné deux avocats ayant soumis un mémoire juridique contenant six affaires inexistantes générées par ChatGPT, l’un d’eux ayant utilisé l’outil pour vérifier les citations produites par l’autre. Des recherches publiées dans Nature ont montré que la part d’articles universitaires contenant au moins une citation fabriquée a été multipliée par environ neuf entre 2024 et 2025.

L’Afrique du Sud n’est pas une exception dans le problème plus large des fausses citations générées par l’IA. Elle constitue l’un des exemples les plus clairs de la vitesse à laquelle la confiance institutionnelle dans le travail assisté par l’IA peut dépasser la capacité des institutions à le vérifier.