Штраф за ИИ: работники наказываются за честное использование ИИ

      Компании приказывают сотрудникам полагаться на ИИ, а затем отдают кредит машине. Исследователи называют это «штрафом за ИИ», а работники утверждают, что это лишает их повышения и прибавок к зарплате.

      Обри провела более года над проектом по ускорению затратного медицинского производственного процесса. Когда она закончила, ее менеджер попросил ее представить его старшему руководству так, будто работу выполнил ИИ-чатбот Клод. Она пошла на компромисс, расхваливая бота, при этом ясно давала понять, что несла основную нагрузку.

      Тем не менее, ее менеджер вмешался и сказал в комнате, что она построила все это за минуту с помощью ИИ. Через несколько недель ее ежегодный обзор оказался прохладным, и ее босс признал, что этот момент сыграл против нее.

      Она не одна, как сообщает Шубхам Агарвал из Business Insider. Дипак, разработчик ИТ в компании Fortune 500 в Индии, начал открыто упоминать кодирующих агентов, которых он использовал, во имя прозрачности. Вскоре его менеджеры предположили, что вся его хорошая работа принадлежит машине, и он считает, что это остановило его продвижение по службе.

      Многие офисные работники теперь оказались между боссами, которые требуют больше ИИ, и боссами, которые штрафуют его пользователей. Поэтому они начали скрывать, насколько сильно они на него полагаются.

      Инстинкт скрывать это рационален. Кристоф Ридл, профессор Северо-восточного университета, провел мета-анализ 13 исследований в различных профессиях и обнаружил четкую закономерность. Менеджеры последовательно снижали оценки работы, как только сотрудники признавали, что чатбот помог, предполагая, что машина сделала большую часть работы. Ридл называет это «штрафом за ИИ».

      Основной способ избежать этого, как он выяснил, — это сохранить контроль над основной задачей и точно изложить, что вы сделали. Это сложно, когда боссы внедряют все более грубые способы контроля использования ИИ на рынке труда, который уже потрясен автоматизацией.

      Вы не можете измерить креативность в токенах

      Самым грубым измерением является токен, базовая единица, которую обрабатывает модель ИИ.

      Подсчет токенов показывает менеджеру, как часто кто-то обращался к чатботу и сколько текста перемещалось взад и вперед. Это ничего не говорит о том, что на самом деле внес ИИ. Сотрудники вскоре научились манипулировать этим, задавая бессмысленные вопросы, чтобы выглядеть как активные пользователи, поэтому компании теперь сдерживают это.

      В прошлом месяце Amazon отменил внутренний рейтинг, который оценивал использование токенов. «Пожалуйста, не используйте ИИ просто ради использования ИИ», — сказал на собрании компании старший вице-президент Дэйв Тредвелл.

      Даже более тонкие инструменты вводят в заблуждение. Кодирующие помощники, такие как Claude Code, ставят строку соавтора на код, который они помогают писать. Они не указывают, какие строки были их или насколько человек их изменил.

      «Если использование ИИ раскрывается без конкретных деталей о том, как он использовался, то предположение менеджера, похоже, заключается в том, что он использовался таким образом, который снижает агентность», — говорит Ридл. Проще говоря, боссы предполагают, что бот вел. Поэтому то, как, добавляет он, имеет огромное значение.

      Инструменты, пытающиеся это исправить

      Некоторые исследователи пытаются определить разделение между человеком и машиной. Грэм Нойбиг, компьютерный ученый из Университета Карнеги-Меллон, стал соучредителем OpenHands. Платформа с открытым исходным кодом сносит сноски на любую строку, написанную ИИ, чтобы рецензенты знали, что следует ее тщательно проверить.

      Команда IBM пошла дальше, создав Инструмент атрибуции ИИ, смоделированный по системе, которую ученые используют для указания каждого автора статьи. Он позволяет людям фиксировать, сколько сгенерировал чатбот и что проверил человек, а затем создает заявление об атрибуции.

      Высокие одобрения ИИ недостаточны, говорит Джессика Хе, одна из его разработчиков.

      Парадокс прозрачности

      Глубокая проблема социальная.

      Несколько исследований показывают, что раскрытие ИИ, даже честно, заставляет коллег меньше доверять вам и воспринимать вас как ленивого. Оливер Шилке, профессор Университета Аризоны, обнаружил то же самое в своей работе. Он называет это парадоксом: люди, которые поступают честно, расплачиваются за это. Он хочет общих правил по атрибуции ИИ, а не чтобы каждый работник догадывался.

      Томас Проммер, инженерный директор Adidas, наблюдал, как обязательная атрибуция обернулась против него. Его инженеры вообще перестали обращаться к ИИ, говорит он, «потому что не хотели, чтобы их лучшие вклады были отмечены как «совместно написано Клодом»». Вместо этого сработало кредитование результата, а не инструмента.

      Ставки выходят за рамки упущенной прибавки.

      Ранее в этом году было установлено, что Amazon обвинил сотрудников и уволил их за ошибки агента ИИ. «Похвала идет ИИ, но разбор его содержания — наша ответственность», — говорит Дипак. Алессио Артуфо, генеральный директор обучающей платформы Docebo, утверждает, что простая атрибуция — это неправильная рамка.

      Настоящий вопрос не в том, как была выполнена работа, а в том, может ли человек, стоящий за ней, защитить и исправить ее. Если компании продолжат наказывать людей, которые честно используют ИИ, предупреждает он, они получат больше результатов и меньше ответственности. Это, по его словам, «регресс способности, замаскированный под эффективность».