Законопроекты, подготовленные ИИ, заполняют офис Палаты представителей, который разрабатывает законы США

      Сотрудники Конгресса и внешние группы используют Claude и ChatGPT для разработки законодательства. Юристы, проверяющие эту работу, не успевают за объемом. Оуэн Далкэмп сообщил о нагрузке на Офис законодательного консультанта Палаты представителей для Politico в понедельник. Он опирался на интервью с восемью действующими и бывшими чиновниками, которые работают или работали в этом офисе.

      Один человек, который консультировал офис по технологии, сообщил Politico фразу, которая отражает суть проблемы. Офис тратит «больше времени на исправление законопроектов, составленных ИИ, чем потребовалось бы для их написания с нуля», сказал этот человек. Politico предоставил анонимность нескольким людям, поскольку у них не было разрешения говорить на условиях открытости.

      Четыре сотрудника Конгресса, участвующие в разработке, сказали Politico, что использование ИИ становится рутинным в Палате. «Это абсолютно пугающе», — сказал один из сотрудников Палаты, — «и никто еще не задумывается об этом».

      Что делает офис

      Офис законодательного консультанта является контрольным слоем качества между идеей и законом. «Когда мы говорим о способности Конгресса к законодательству, мы говорим об этом офисе», — сказала Марси Харрис из фонда POPVOX в интервью Politico.

      Объем работы уже велик. В 118-м Конгрессе офис подготовил 30,494 законопроекта, что на 188 процентов больше, чем 10,564, которые были фактически представлены. Эти данные были получены из показаний законодательного консультанта Уоррена Бёрка в марте. Офис также подготовил 21,484 поправки, что на 46 процентов больше, чем в 114-м Конгрессе.

      Цифры Бёрка также показывают, кто выполняет эту работу. В первом заседании этого Конгресса в офисе работали 78 юристов и 23 сотрудника поддержки. Число юристов увеличилось на 59 процентов с 116-го Конгресса. Средний опыт работы сократился на 22 процента за тот же период, и 58 процентов юристов теперь имеют менее десяти лет стажа.

      Где ИИ ошибается в законопроекте

      Ошибки, о которых идет речь, небольшие, но имеют последствия. Уэйд Баллоу возглавлял офис с 2016 по 2024 год. Он сказал Politico, что ИИ испытывает трудности в определении, должна ли сумма денег быть «налоговым кредитом, налоговым вычетом, налоговым исключением или грантом», и что ИИ упустит эти нюансы.

      Определения вызывают аналогичные проблемы. Законопроект, который определяет штат как только 50 штатов, может исключить Вашингтон, округ Колумбия, и племенные нации из федеральной программы. Человек, работающий с офисом, привел этот пример Politico.

      Цитаты — третья ошибка. Ари Хершовиц — юрист и технолог, который работал с офисом. Он назвал неправильные ссылки на законы «гарантированным способом внедрения тысяч ошибок в нашу правовую систему».

      Дэниел Шуман из Американского института управления изложил общую ситуацию. «ИИ хорош для многих вещей», — сказал он Politico. «Но он не способен составить законодательство, которое вы хотели бы принять в закон».

      Официальные каналы уже не раз ломались под давлением машинных заявок. В августе мы сообщили, что кто-то подал 55 уязвимостей программного обеспечения за несколько дней, и что 54 из них были придуманы ИИ.

      Две разные цифры роста

      Politico привел данные о 72-процентном росте запросов, основанные на показаниях Бёрка в прошлом году. Эта цифра охватывает первые 60 дней этого Конгресса. Она сравнивает 5,623 запроса с 3,271 в том же временном окне предыдущего Конгресса.

      Недавние показания Бёрка сообщают о другой скорости за более длительный период. За первые 13 месяцев этого Конгресса офис получил 23,239 запросов. Сравнительная цифра для 118-го составила 21,979. Это рост на 5,7 процента.

      Что касается ИИ в частности, Бёрк был прямолинеен в марте. «В краткосрочной перспективе мы готовимся к тому, что ИИ увеличит нашу рабочую нагрузку», — написал он. Он добавил, что текст, созданный внешними организациями, будь то человек или компьютер, часто требует значительно больше времени на проверку и исправление. Бёрк отказался комментировать статью для Politico.

      Офис тестирует свой собственный ИИ

      Офис организовал группу сотрудников для оценки Microsoft Copilot, как это разрешено Палатой. Заявленная цель — улучшение эффективности, такой как юридические исследования, согласно показаниям Бёрка.

      У него уже есть один собственный инструмент. Comparative Print Suite использует обработку естественного языка, чтобы показать, как законопроект изменит Кодекс США. Хершовиц описал его для Politico как первый инструмент ИИ в Палате. Он возвращает ошибку, когда не может с уверенностью определить изменение. «Здесь нет галлюцинаций», — сказал он.

      Шарлотта Ли из Granicus помогла разработать этот инструмент. Она описала более широкую схему для Politico. «Члены и заинтересованные группы могут писать вещи с помощью ИИ, но затем юридические консультанты сами не могут использовать [коммерчески доступный] ИИ», — сказала она. «Здесь полное несоответствие».

      Что еще не установлено

      Politico сообщил, что ни один законопроект, голосованный в обеих палатах, не оказался полностью созданным ИИ. Доказательства на данный момент касаются законопроектов, составленных ИИ, поступивших в офис, а не законов, покидающих Конгресс.

      Раскрытие информации по своей природе неполное. Один сотрудник сказал Politico, что люди, использующие ИИ, как правило, не говорят об этом, и что это все еще кажется табу. Правила маркировки в других местах также были неравномерными. Согласно Закону ЕС о ИИ, как мы сообщали в этом месяце, статья, написанная ИИ, не требует маркировки, в то время как вычитанное электронное письмо — да.

      Один инцидент стал публичным. Представитель Анна Полина Луна подверглась критике в июне за резюме поправки, созданное с помощью Claude, хотя она сказала, что не использовала ИИ для написания самой поправки. «Не удивительно. Большинство сотрудников используют это», — сказала она, добавив позже, что поручила своим сотрудникам перепроверить. Майк Пирл из Gizmodo сообщил, что она позже удалила один пост по этому эпизоду и заменила его.

      Два члена Комитета по административным вопросам Палаты сделали заявления. «ИИ не может заменить квалифицированных и преданных профессионалов в Офисе законодательного консультанта», — сказал представитель Джо Морелл. Представитель Норма Торрес сказала, что ответственность за представленные законопроекты лежит на членах и их сотрудниках и «не может быть передана чат-боту».

      Широкое продвижение ИИ на Капитолийском холме

      Конгресс в этом году рассматривает технологию с нескольких сторон. Он тратит девять из десяти долларов на ИИ с OpenAI. Демократы Палаты хотят получить ответы от OpenAI и Anthropic по поводу неуправляемых агентов.

      Законодательство также движется. Законопроект от Теда Лью и Джерри Морана создаст аварийный выключатель для ИИ-систем. Это последовало за тем, как неуправляемый агент нарушил безопасность Hugging Face в июле.

      Баллоу видит более узкую роль для технологии. ИИ может помочь законодателям обрабатывать информацию, сказал он Politico, но не может заменить искусство составления. Хершовиц ожидает, что проблема объема усугубится в любом случае. «У вас уже была проблема на уровне 10», — сказал он. «Теперь вы умножаете это на 100».