Источник предупреждает, что Конгресс наводнен «абсолютно ужасающим» законодательством, написанным ИИ
Ключевые выводы
- •Сотрудники Конгресса и правозащитные группы все чаще используют чат-боты, такие как Claude и ChatGPT, для генерации текста законопроектов, а исправлять черновики приходится непартийному Управлению законодательного совета Палаты представителей.
- •Советник для офисов Конгресса заявил, что OLC теперь тратит больше времени на исправление законопроектов, созданных ИИ, чем потребовалось бы на их написание с нуля, в том числе из-за путаницы моделей в вопросах налоговых кредитов, вычетов, исключений и грантов.
- •Текст, сгенерированный чат-ботами для правовой сферы, уязвим к галлюцинациям — выдуманным делам, ссылкам и положениям; это подтвердился в 2023 году, когда судья в Нью-Йорке санкционировал юристов за ходатайство с шестью вымышленными решениями.
- •В июне офис представителя Анны Паулины Луны опубликовал краткое изложение поправки с неотредактированной фразой «Claude responded», а конгрессвумен признала на X, что ее сотрудники использовали ИИ для исправления черновика без редактирования.
- •Поскольку законы становятся обязательными после принятия, а ошибки обычно требуют нового законодательства для исправления, Ари Хершовиц предупредил, что бесконтрольная подготовка законов с помощью ИИ — это гарантированный способ ввести тысячи ошибок в правовую систему.
Искусственный интеллект тихо проник в процесс подготовки американского законодательства, и те, кто отвечает за точность законопроектов, говорят, что это приводит к нарастающему хаосу.
Как сообщает Politico, сотрудники Конгресса и внешние правозащитные группы все чаще обращаются к чат-ботам, таким как Claude от Anthropic и ChatGPT от OpenAI, чтобы создавать законодательный текст — вынуждая Управление законодательного совета Палаты представителей (OLC), непартийный офис, помогающий членам Палаты представителей готовить законопроекты, исправлять их недочеты.
«ИИ хорош для многих вещей», — сказал Дэниел Шуман, исполнительный директор American Governance Institute. «Но он не способен подготовить законодательство, которое вы захотели бы принять в качестве закона».
Один из советников, работающих с офисами Конгресса, сказал, что OLC теперь тратит «больше времени на исправление сгенерированного ИИ законодательства, чем потребовалось бы, чтобы подготовить его с нуля», отметив, что модели ИИ, как сообщается, спотыкаются о тонкие юридические различия — например, о том, должна ли поддержка оформляться как «налоговый кредит, вычет, исключение или грант».
Проблема точности усугубляется хорошо задокументированным ограничением технологии: чат-боты формируют связный текст, а не опираются на проверенные юридические источники, и, как известно, выдумывают дела, ссылки и положения — сбой, известный как галлюцинация. Федеральные суды столкнулись с этой проблемой спустя несколько месяцев после публичного запуска ChatGPT в конце 2022 года: в 2023 году федеральный судья в Нью-Йорке наложил санкции на юристов, подавших ходатайство со ссылкой на шесть судебных решений, которые ChatGPT выдумал.
Сотрудник Конгресса, которому поручили внимательно изучить предложенное законодательство, сказал, что законодатели не понимают, что их ждет впереди, из-за ошибок и ссылок, которые не выдержат проверки, когда возникнут противоречия.
«Это абсолютно ужасает, и пока никто об этом не думает», — сказал он.
По данным Politico, риски не гипотетические. В июне офис представителя Анны Паулины Луны (R-FL) опубликовал краткое изложение поправки, в котором все еще сохранялась неотредактированная фраза чат-бота «Claude responded». Луна признала на X, что «my staff used AI to correct a draft text and didn't edit», что тогда вызвало тревогу.
Ари Хершовиц, юрист и технолог, работавший с офисом над внедрением технологических инструментов в законодательный процесс, признал, что без проверок это «гарантированный способ ввести тысячи ошибок в нашу правовую систему».
