Самый жуткий иск Meta за последние годы заставит вас пересмотреть свои взгляды на её умные очки с ИИ.

      Умные очки Ray-Ban от Meta оказались в центре очередного скандала. Кенийская компания по обучению ИИ под названием Sama, которую Meta использовала для помощи в обучении своего ИИ, неожиданно потеряла контракт вскоре после того, как ее работники выступили с глубоко тревожными обвинениями (по данным BBC).

      Работники утверждают, что они многократно подвергались воздействию графического контента, снятого с помощью очков Meta, и теперь более тысячи из них потеряли работу.

      Тревожные кадры, стоящие за обучением ИИ Meta

      Работники Sama были аннотаторами данных, роль которых заключалась в ручной разметке видеоконтента, чтобы обучить ИИ Meta интерпретировать изображения. Они также просматривали стенограммы разговоров ИИ Meta, чтобы убедиться, что чат-бот дает точные ответы.

      Однако, как утверждается, они не подписывались на просмотр кадров людей, занимающихся сексом или использующих туалет, все это снималось через очки Meta без ведома пользователей. В одном из случаев очки мужчины оставили записывать в спальне, запечатлев, как его жена раздевается.

      Очки Meta действительно имеют небольшой индикаторный свет, который загорается, когда камера активна, хотя это явно не предотвратило злоупотребления. Компания признала, что контрактные работники могут время от времени просматривать контент, переданный ИИ Meta, представляя это как стандартную практику для улучшения пользовательского опыта.

      Почему Meta разорвала контракт?

      Менее чем через два месяца после появления этих сообщений Meta расторгла соглашение с Sama, оставив 1,108 работников без работы. Sama утверждает, что выполнила все требования Meta и никогда не получала обратной связи. Однако Meta не согласна, заявляя, что Sama не оправдала ее ожиданий.

      Meta

      Кенийская организация работников считает, что настоящей причиной было желание заставить замолчать сотрудников, которые публично говорили о том, что люди просматривают записи с умных очков.

      Офис информационного комиссара Великобритании назвал ситуацию «тревожной» в письме к Meta. Кроме того, орган по защите данных Кении открыл официальное расследование.

      Это не первая трудная встреча Sama с Meta. Ранее контракт на модерацию контента Facebook закончился аналогичным скандалом, когда бывшие сотрудники описывали воздействие травмирующего контента.

      Позже Sama заявила, что желает, чтобы никогда не принимала эту работу. С учетом того, что регуляторы теперь начали расследование, а судебное дело продолжается, давление на Meta с требованием объяснить свое решение только растет.

      Умные очки Meta имеют гораздо большую проблему с конфиденциальностью

      Энди Боксал / Digital Trends

      Умные очки Meta углубляются в скандал, так как сообщения предполагают, что они могут вскоре идентифицировать людей в реальном времени. Это усилило опасения по поводу конфиденциальности и гражданских прав в отношении распознавания лиц в повседневных общественных местах.

      Группы по защите гражданских прав выступают против этой идеи, указывая на то, что постоянная идентификация может происходить без четкого согласия.

      Приложения, такие как Godsend, появляются в ответ на эту угрозу, предупреждая людей, когда рядом умные очки могут тайно записывать их. Это показывает, насколько неуютно люди стали чувствовать себя, когда их снимают без их ведома.

      Технология также проявляется в менее лестных формах, включая сообщения о том, что студенты используют умные очки для мошенничества на экзаменах. Это добавило новый уровень к дебатам о злоупотреблениях.

      Тем не менее, не все плохо. Очки также нашли действительно хорошие применения, особенно в помощи людям с нарушениями зрения ориентироваться в пространстве с помощью посторонних.