Рабочий день должен столкнуться с иском в Калифорнии по поводу предвзятости в найме с использованием ИИ, постановил судья

      Судья в Сан-Франциско разрешил продолжить предложенный коллективный иск, который описывается как первый, который широко нацеливается на алгоритмы, стоящие за программным обеспечением для скрининга на основе ИИ.

      Федеральный судья США постановил, что компания Workday должна столкнуться с обвинениями в том, что ее программное обеспечение для найма на основе ИИ отсеивало соискателей на работу в других компаниях способами, которые якобы нарушали закон Калифорнии и федеральный запрет на дискриминацию по признаку инвалидности.

      Решение, вынесенное судье окружного суда США Ритой Лин в Сан-Франциско, поддерживает дело, которое стало испытанием того, могут ли поставщики алгоритмических инструментов для рекрутинга нести ответственность за то, что делают эти инструменты.

      Лин отклонила аргумент Workday о том, что закон Калифорнии о недискриминации не должен распространяться на нее, когда ее программное обеспечение отсекает соискателей, которые находятся за пределами штата и подают заявки на работу в других местах, согласно Reuters.

      Этот юрисдикционный момент был важен для компании, поскольку большая часть ее защиты основывается на идее о том, что она просто предоставляет программное обеспечение и сама не занимается наймом, ни в Калифорнии, ни где-либо еще.

      Дело называется Mobley против Workday, это предложенный коллективный иск, впервые поданный в 2023 году ведущим истцом Дереком Мобли, которому за 40, он афроамериканец и имеет инвалидность. Оно описывается как первое в своем роде, которое широко нацеливается на алгоритмическое принятие решений, стоящее за программным обеспечением для скрининга на основе ИИ, а не на действия какого-либо отдельного работодателя, который его использует.

      Мобли утверждает, что его отклонили от множества вакансий, проходивших через платформу Workday.

      Решение Лин не стало полной победой для истцов. Она отклонила обвинение в том, что программное обеспечение дискриминировало соискателей-азиатов, в то время как позволила продолжить отдельные обвинения в том, что оно ставило в невыгодное положение чернокожих соискателей, женщин и людей старше 40 лет.

      Сохранившиеся обвинения остаются утверждениями, которые истцы все еще должны доказать; решение лишь определяет, что их можно обсуждать, а не то, что они истинны.

      Дело уже преодолело один значительный барьер. Суд ранее разрешил ему продолжаться как коллективное действие, охватывающее соискателей в возрасте 40 лет и старше, которые были отклонены через платформу Workday с 24 сентября 2020 года и далее, что потенциально охватывает очень большое количество отклоненных соискателей.

      Последнее решение расширяет юридические теории, которые теперь могут быть протестированы в суде.

      Workday полностью отвергает обвинения. Компания утверждает, что они ложные, что ее инструменты рекрутинга на основе ИИ «не принимают решения о найме в Калифорнии или где-либо еще», и что технология «смотрит только на квалификации для работы, а не на защищенные характеристики, такие как раса, возраст или инвалидность».

      Она добавляет, что тщательно тестирует свои продукты в рамках программы Ответственного ИИ, защита, которая, если она будет подтверждена, проведет четкую грань между поставщиком и работодателями, которые настраивают и действуют на основе ее программного обеспечения.

      Эта грань как раз и является предметом спора. Если инструмент скрининга дает предвзятые результаты, открытым вопросом остается, может ли компания, которая его создала, рассматриваться в юридическом смысле как агент работодателей, которые его используют.

      Ставки выходят далеко за пределы одной компании. Алгоритмический скрининг тихо распространился через корпоративный найм, и война ИИ против ИИ в рекрутинге сосредоточила внимание на потерянных рабочих местах, а не на кандидатах, отсеянных до того, как человек вообще прочитает их заявку.

      Многие из крупнейших работодателей в США пропускают соискателей через одну платформу или другую, часто не раскрывая, что именно алгоритм, а не рекрутер, сделал первый отбор.

      Вывод о том, что поставщика можно привлечь к суду, поставит на уши каждую из этих инструментов. Проверка того, как системы ИИ обрабатывают чувствительные личные данные, также усилилась.

      На данный момент практический эффект решения Лин узок, но реален: дело Mobley против Workday продолжается, и этап раскрытия информации начнет подводить цифры под обвинения.