Meta устанавливает программное обеспечение для отслеживания на компьютерах сотрудников в США

      Действие, раскрытое в внутреннем мемо, увиденном Reuters, представлено как способ обучения ИИ-агентов тому, как люди работают с программным обеспечением. Критики утверждают, что это слежка на рабочем месте под другим названием.

      Meta устанавливает новое программное обеспечение для отслеживания на рабочих компьютерах сотрудников в США, чтобы фиксировать движения мыши, клики, нажатия клавиш и периодические скриншоты, которые будут переданы в учебный процесс модели ИИ компании, сообщает Reuters.

      Инструмент, названный Инициативой Модельных Возможностей, был раскрыт сотрудникам на этой неделе в мемо, распространенном через канал, принадлежащий команде Meta Superintelligence Labs.

      Согласно Reuters, который видел мемо, он будет работать на определенном списке рабочих приложений и веб-сайтов. Сотрудникам сказали, что они могут «помочь, просто выполняя свою повседневную работу».

      Заявленная Meta причина заключается в том, что создание агентов, способных работать с программным обеспечением от имени пользователей, требует учебных данных, полученных из реального использования компьютеров людьми, в частности, микро-поведенческих факторов, таких как навигация по выпадающим меню и использование сочетаний клавиш, которые модели ИИ трудно воспроизвести только на основе общих веб-данных.

      «Если мы создаем агентов, чтобы помочь людям выполнять повседневные задачи с использованием компьютеров, нашим моделям нужны реальные примеры того, как люди на самом деле их используют, такие как движения мыши, нажатие кнопок и навигация по выпадающим меню», — сказал представитель Meta.

      Компания добавила, что существуют меры предосторожности для защиты конфиденциального контента и что данные не будут использоваться ни для каких целей, кроме обучения модели.

      Мемо, как сообщается, представило усилия как часть программы Meta «ИИ для Работы», которая была переименована в Ускоритель Трансформации Агентов.

      Подразделение Superintelligence Labs, которое возглавляет самые амбициозные исследования ИИ Meta, теперь возглавляет Александр Ванг, бывший генеральный директор Scale AI, компании по маркировке данных, в которой Meta приобрела 49% акций за более чем 14 миллиардов долларов в прошлом году.

      Связь имеет значение: основной бизнес Scale AI заключается в производстве учебных данных в промышленных масштабах, и назначение Ванга сигнализирует о том, что Meta рассматривает сбор данных как основную стратегическую компетенцию, а не как процесс закупки.

      Это действие ставит открытый вопрос о трудовых отношениях между компаниями ИИ и их сотрудниками. Для работников Meta динамика необычно прямая: их, в буквальном смысле, просят генерировать учебные данные, которые научат ИИ-агентов воспроизводить их собственное поведение при использовании компьютера.

      Meta не первая компания, которая использует внутренние рабочие процессы для обучения ИИ; в январе сообщалось, что OpenAI просила подрядчиков загружать образцы реальных рабочих продуктов, но сочетание захвата нажатий клавиш и сбора скриншотов представляет собой более системный и автоматизированный подход.

      Уверение компании в том, что данные не будут использоваться для мониторинга производительности, встретило скептицизм в публичных комментариях, хотя никаких доказательств того, что это происходит, не появилось.

      Программное обеспечение для отслеживания будет работать только на определенном списке приложений и веб-сайтов, а не на всех действиях компьютера. Meta не раскрыла, какие приложения включены.

      Сбор данных, похоже, ограничен сотрудниками из США на данном этапе; законы о защите данных ЕС и Великобритании потребуют явных юридических оснований и потенциально явного согласия для аналогичных мер в этих юрисдикциях.