El CTO de Meta dice que los datos de seguimiento de empleados llegaron "donde no se suponía que debían ir"

      El director de tecnología de Meta ha dado el relato más completo hasta ahora del contratiempo que obligó a la empresa a detener su proyecto de IA más controvertido, el esquema de registro de pulsaciones de teclas que llama Iniciativa de Capacidad del Modelo.

      Andrew Bosworth dijo que un investigador había movido datos sensibles de empleados a un lugar donde nunca debieron estar, aunque insistió en que no hubo intrusión externa.

      Hablando con el director ejecutivo de The Atlantic, Nicholas Thompson, en una entrevista publicada el miércoles y filmada a finales de junio, Bosworth describió los datos como "bastante seguros", con solo un puñado de personas capaces de acceder a ellos. El problema, dijo, vino desde dentro.

      Fue el último giro en una saga que ha ido desde el software de seguimiento en las laptops del personal hasta una pausa a nivel de empresa.

      El 💜 de la tecnología de la UE Las últimas novedades de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora! “Uno de los investigadores que estaba trabajando con esos datos, y no hubo ninguna violación aquí, pero los había puesto en un lugar donde no se suponía que debían estar”, dijo Bosworth a Thompson.

      La información, en un estado transformado, había "aterrizado en un lugar donde no debería haber aterrizado internamente", agregó, diciendo que Meta no sospechaba de juego sucio.

      La empresa estaba "bloqueando todo" hasta que pudiera establecer qué había sucedido, dijo. Meta había pausado el programa en junio después de que una filtración dejara datos sensibles de empleados legibles en toda la organización, según capturas de pantalla vistas por Business Insider.

      La Iniciativa de Capacidad del Modelo se introdujo en abril. Involucraba instalar software en la mayoría de los empleados de Meta en EE. UU. para registrar sus pulsaciones de teclas y movimientos del mouse, el material bruto para entrenar los modelos de IA de la empresa. La insistencia de Meta en que el personal no podía optar por no participar provocó una feroz reacción.

      "Hemos diseñado cuidadosamente este programa con salvaguardias de privacidad, y aunque no tenemos indicios en este momento de que ningún dato haya sido accedido de manera inapropiada por empleados de Meta, lo estamos pausando mientras investigamos", dijo un portavoz de Meta a Business Insider en junio.

      La empresa se negó a comentar más sobre el seguimiento.

      La iniciativa llegó en un momento difícil para el personal. El propio Bosworth dijo durante una reunión interna que la moral de los empleados era "probablemente una de las peores que ha sido" en la historia de dos décadas de Meta, ya que los despidos y un fuerte giro hacia la IA inquietaron a la fuerza laboral.

      La resistencia al seguimiento fue inmediata y organizada. Más de 1,600 empleados firmaron una petición en contra del software, y una oficina supuestamente lo apodó "Fábrica de Extracción de Datos de Empleados".

      Abogados de privacidad advirtieron por separado que la herramienta corría el riesgo de recopilar datos de empleados europeos de maneras que podrían chocar con el GDPR.

      En la entrevista, Bosworth ofreció una segunda razón por la que el proyecto había fallado, una que estaba arraigada en la ciencia más que en la política. El esquema estaba recopilando demasiado de lo mismo, dijo, cuando lo que realmente necesita un modelo de IA es variedad.

      "La variación es mucho más importante que un alto volumen de lo mismo que se colapsa en un solo ejemplo, básicamente", le dijo a Thompson.

      Esa realización, dijo, llevó a Meta a ampliar las opciones de exclusión que inicialmente había retenido.

      "Así que esa fue la razón, un par de semanas después de que lo lanzamos inicialmente, añadimos opciones de exclusión ampliadas para las personas que no querían hacerlo", dijo Bosworth. "Una pausa, pausa infinita.

      Siempre que no quieras tenerlo, solo presiona pausa." Eso marca un cambio respecto a la política original de no optar por no participar, que Meta había intentado suavizar anteriormente con un aplazamiento de 30 minutos a la vez.

      Si el programa regresa en su forma original es incierto. Bosworth presentó la pausa como una precaución más que como un retroceso, pero el episodio ha proporcionado a los críticos dentro y fuera de la empresa un estudio de caso sobre cómo la vigilancia diseñada para alimentar la IA puede volverse en contra de la fuerza laboral que se suponía debía medir.

      Por ahora, el registro de pulsaciones de teclas está inactivo, la investigación continúa y el investigador en el centro del contratiempo permanece sin nombre. Lo que Meta haga con los datos que ya ha recopilado es la pregunta más difícil que el CTO dejó sin respuesta.