Штраф за ИИ: работники наказаны за честное использование ИИ

      Компании приказывают сотрудникам полагаться на ИИ, а затем отдают кредит машине. Исследователи называют это «штрафом за ИИ», а работники говорят, что это лишает их повышения и надбавок.

      Обри провела более года над проектом, чтобы ускорить дорогостоящий процесс медицинского производства. Когда она закончила, ее менеджер попросил ее представить его старшему руководству так, будто работу выполнил ИИ-чатбот Клод. Она пошла на компромисс, расхваливая бота, при этом ясно давала понять, что именно она несла основную нагрузку.

      Тем не менее, ее менеджер вмешался и сказал в комнате, что она создала все это за минуту с помощью ИИ. Через несколько недель ее ежегодный обзор оказался теплым, и ее босс признал, что этот момент сыграл против нее.

      Она не одна, как сообщает Шубхам Агарвал из Business Insider. Дипак, разработчик ИТ в компании Fortune 500 в Индии, начал открыто упоминать кодирующих агентов, которых он использовал, во имя прозрачности. Вскоре его менеджеры предположили, что вся его хорошая работа принадлежит машине, и он считает, что это задержало его повышение.

      Многие офисные работники теперь оказались между боссами, которые требуют больше ИИ, и боссами, которые наказывают его пользователей. Поэтому они начали скрывать, насколько сильно они на него полагаются.

      Инстинкт скрывать это рационален. Кристоф Ридл, профессор Северо-восточного университета, провел мета-анализ 13 исследований по многим профессиям и обнаружил четкий паттерн. Менеджеры последовательно снижали оценку работы, как только сотрудники признавали, что чатбот помог, предполагая, что машина сделала большую часть работы. Ридл называет это «штрафом за ИИ».

      Основной способ избежать этого, как он выяснил, — это контролировать основную задачу и четко объяснять, что вы сделали. Это сложно, когда боссы внедряют все более грубые способы отслеживания использования ИИ на рынке труда, который уже потрясен автоматизацией.

      Вы не можете измерить креативность в токенах

      Самым грубым измерением является токен, базовая единица, которую обрабатывает модель ИИ.

      Подсчет токенов показывает менеджеру, как часто кто-то обращался к чатботу и сколько текста перемещалось взад и вперед. Это ничего не говорит о том, что на самом деле внес ИИ. Сотрудники вскоре научились манипулировать этим, задавая бессмысленные вопросы, чтобы выглядеть как активные пользователи, поэтому компании теперь ограничивают это.

      В прошлом месяце Amazon отменил внутренний рейтинг, который оценивал использование токенов. «Пожалуйста, не используйте ИИ просто ради использования ИИ», — сказал на собрании компании старший вице-президент Дэйв Тредвелл.

      Даже более тонкие инструменты вводят в заблуждение. Кодирующие помощники, такие как Claude Code, ставят строку соавтора на код, который они помогают писать. Они не указывают, какие строки были их, или насколько человек их изменил.

      «Если использование ИИ раскрывается без конкретных деталей о том, как он использовался, предположение менеджера, похоже, заключается в том, что он использовался таким образом, который снижает агентность», — говорит Ридл. Проще говоря, боссы предполагают, что бот вел. Поэтому то, как, добавляет он, имеет огромное значение.

      Инструменты, пытающиеся это исправить

      Некоторые исследователи пытаются определить разделение между человеком и машиной. Грэм Нойбиг, компьютерный ученый из Университета Карнеги-Меллон, стал соучредителем OpenHands. Платформа с открытым исходным кодом сносит сноски на любую строку, написанную ИИ, чтобы рецензенты знали, что нужно ее тщательно проверить.

      Команда IBM пошла дальше с помощью Инструмента атрибуции ИИ, смоделированного по системе, которую ученые используют для указания каждого автора статьи. Он позволяет людям фиксировать, сколько сгенерировал чатбот и что проверил человек, а затем создает заявление об атрибуции.

      Высокие одобрения ИИ недостаточны, говорит Джессика Хе, одна из его разработчиков.

      Парадокс прозрачности

      Глубокая проблема социальная.

      Несколько исследований показывают, что раскрытие ИИ, даже честно, делает коллег меньше доверяющими вам и воспринимающими вас как ленивого. Оливер Шилке, профессор Университета Аризоны, нашел то же самое в своей работе. Он называет это парадоксом: люди, которые поступают честно, расплачиваются за это. Он хочет общих правил по атрибуции ИИ, а не чтобы каждый работник догадывался.

      Томас Проммер, инженерный исполнитель в Adidas, наблюдал, как обязательная атрибуция обернулась против него. Его инженеры вообще перестали обращаться к ИИ, говорит он, «потому что не хотели, чтобы их лучшие вклады были отмечены как ‘совместно написано Клодом’». Вместо этого сработало кредитование результата, а не инструмента.

      Ставки выходят за рамки упущенной надбавки.

      Ранее в этом году было установлено, что Amazon обвинил сотрудников и уволил их за ошибки агента ИИ. «Похвала идет ИИ, но разбор его содержания — наша ответственность», — говорит Дипак. Алессио Артуфо, генеральный директор обучающей платформы Docebo, утверждает, что простая атрибуция — это неправильная рамка.

      Настоящий вопрос не в том, как была выполнена работа, а в том, может ли человек, стоящий за ней, защитить и исправить ее. Если компании продолжат наказывать людей, которые честно используют ИИ, предупреждает он, они получат больше результатов и меньше ответственности. Это, по его словам, «регресс способности, замаскированный под эффективность».