Трудовой суд ЮАР приостановил дисциплинарное производство в отношении трех сотрудников Matjhabeng Local Municipality после того, как юристы сотрудников представили доказательства prima facie того, что председатель слушания мог опираться на «галлюцинированные» юридические источники, сгенерированные ИИ, при вынесении ключевых решений.

Юрист сотрудников показал, что, за исключением одного процитированного источника, юридические материалы, на которые председатель слушания сослался в июньском решении, либо не существовали, либо не содержали ничего близкого к тому, что, по утверждению председателя, в них говорилось. Оспаривание касалось двух решений председателя и поставило серьезные вопросы о добросовестности дисциплинарного процесса.

В своем решении судья K Allen-Yaman не стала прямо устанавливать, что искусственный интеллект написал обоснование председателя. Однако она предупредила, что если ИИ-инструмент сгенерировал эти ссылки, “the ruling cannot stand,” и заявила, что слепая опора на чат-бот была бы недопустима по стандартам, уже установленным судами ЮАР. Термин «галлюцинация» в этом контексте означает склонность больших языковых моделей генерировать связный и уверенно звучащий текст — включая названия дел, ссылки и правовые принципы, — который является сфабрикованным, поскольку модели предсказывают правдоподобный язык, а не извлекают проверенные факты.

Дело появилось спустя едва ли три месяца после того, как Department of Communications and Digital Technologies ЮАР был вынужден отозвать свой Draft National Artificial Intelligence Policy после того, как News24 обнаружил, что часть из 67 академических ссылок была сфабрикована или указывала на журналы, которые не публиковали цитируемую работу. Документ уже был одобрен Кабинетом и опубликован в официальном порядке для общественного обсуждения до того, как была проверена точность научной базы, на которую он опирался. Два высокопоставленных чиновника департамента позднее были названы в расследовании Rapport и получили срок до конца апреля, чтобы предоставить объяснения.

Этот эпизод был не единственным недавним спором о ссылках с участием государственных институтов ЮАР. Department of Home Affairs незадолго до этого столкнулся с похожей проблемой после того, как журналисты выявили более ста вымышленных ссылок в списке литературы Revised White Paper on Citizenship, Immigration and Refugees. Департамент утверждал, что сфабрикованные ссылки ограничивались отдельным списком и не затрагивали содержание политики. Эта защита повторяла аргумент, прозвучавший в деле о политике в области ИИ: источники неверны, но выводы верны.

Судебная система ЮАР сталкивается с той же проблемой как минимум с января 2025 года, когда решение KwaZulu-Natal High Court по делу Mavundla v MEC for Co-Operative Government and Traditional Affairs выявило письменные тезисы, подготовленные с помощью ChatGPT кандидатом в адвокаты. В документе фигурировало вымышленное дело “Hassan v Coetzee,” основанное на правовом принципе, который выглядел правдоподобно, но был полностью сфабрикован.

С тех пор Johannesburg High Court направил юристов в Legal Practice Council за использование фиктивных юридических источников в деле Northbound Processing v South African Diamond and Precious Metals Regulator. В этом деле один судья продемонстрировал в суде, насколько легко ChatGPT может выдумывать дела, запустив запросы в режиме реального времени.

ЮАР сталкивается с повторяющимися скандалами вокруг ИИ-ссылок

Эти дела указывают не только на отдельную безрассудность индивидуальных практикующих юристов или чиновников. Они также отражают более широкий институциональный сбой: зависимость от инструментов, которым нельзя доверять проверку точности генерируемых ими материалов. Генеративные модели ИИ предназначены для создания связного и уверенного текста, но не обязательно точного текста. Сфабрикованное решение Constitutional Court может читаться как настоящее, пока кто-то не попытается найти и проверить его.

Суды и государственные ведомства ЮАР через повторяющиеся скандалы обнаруживают, что звучать правильно и быть правильным — разные вещи. Legal Practice Council и Labour Court оба обозначили строгий подход к использованию ложных источников, а дело Matjhabeng показывает, что проблема вышла за рамки младших юристов, работающих под давлением сроков.

Теперь вопрос затрагивает квазисудебное принятие решений, где постановления могут влиять на рабочие места и средства к существованию работников. Если председатель дисциплинарного слушания может опереться на «галлюцинированную» ссылку, чтобы обосновать решение, касающееся трех сотрудников, тот же риск может возникнуть везде, где от государственного должностного лица ожидается независимое суждение, а не воспроизведение результата, сгенерированного чат-ботом.

Международные данные указывают на рост риска. База данных Damien Charlotin зафиксировала более 1,300 подтвержденных случаев «галлюцинаций» ИИ в судах по всему миру: Одним из самых ранних и широко освещавшихся стало американское дело Mata v. Avianca 2023 года, в котором федеральный судья в New York наложил санкции на двух юристов, подавших юридический документ с шестью несуществующими делами, сгенерированными ChatGPT; один из них использовал инструмент для проверки ссылок, подготовленных другим. Исследование, опубликованное в Nature, показало, что доля академических статей, содержащих хотя бы одну сфабрикованную ссылку, выросла примерно в девять раз между 2024 и 2025 годами.

ЮАР не является исключением в более широкой проблеме ложных ссылок, сгенерированных ИИ. Это один из наиболее наглядных примеров того, как быстро институциональное доверие к работе с помощью ИИ может опережать способность институтов проверять ее.