Las personas que entrenaron la IA de conducción autónoma de Tesla no montarán en ella.

      TL;DRA Una investigación de Reuters encontró que 7 de 9 etiquetadores de datos de Tesla no querrían viajar en FSD. Regularmente veían al sistema excediendo la velocidad y fallando en cámara.

      Reuters entrevistó a nueve ex etiquetadores de datos de Tesla y a un ex ingeniero de conducción autónoma sobre sus opiniones sobre el modo de Conducción Autónoma Total de Tesla. Siete de los nueve especialistas en datos dijeron que no viajarían en un Tesla operando en FSD. Uno dijo que no viajaría en un robotaxi de Tesla “aunque me pagaran un p**o”.

      “Todos hemos visto que falla”, le dijo un informante a Reuters. El ex ingeniero de conducción autónoma estuvo de acuerdo: “Definitivamente no confío en Elon en esto”. Se referían a la declaración de Musk de que los vehículos de Tesla están listos para viajes “seguros sin supervisión”.

      El trabajo de los etiquetadores de datos era revisar horas de metraje de FSD y entrenar el software del vehículo para evitar errores pasados. Tenían acceso directo a terabytes de datos de conducción propietarios. Al menos cinco le dijeron a Reuters que regularmente veían clips de Teslas conduciendo por encima del límite de velocidad mientras operaban en FSD.

      El problema de la velocidad fue tratado como una baja prioridad por ingenieros y gerentes. Los problemas de casos extremos, como configuraciones de carretera inusuales o condiciones de iluminación raras, recibieron más atención. La velocidad excesiva habitual, que afecta cada viaje y cada carretera, fue despriorizada.

      El 💜 de la tecnología de la UE Las últimas novedades de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris, y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora!

      La investigación se produce mientras Tesla ha ampliado la disponibilidad de FSD a nuevos mercados. Tesla confirmó la disponibilidad de FSD en China la semana pasada, aunque sigue sin estar claro si los consumidores comunes pueden activar aún el sistema. El sistema FSD (Supervisado) está clasificado como Nivel 2, requiriendo atención constante del conductor. Una versión completamente autónoma y no supervisada se está probando solo en una flota de robotaxis en Austin, Texas.

      Los últimos meses han producido una serie de incidentes relacionados con FSD. Los Teslas que operan en FSD han conducido hacia lagos, fuera de puentes y hacia el camino de trenes que se acercan. Estos son los incidentes que llegaron a la cobertura mediática. El testimonio de los etiquetadores de datos sugiere que el metraje interno contiene un catálogo mucho más grande de fallas.

      La brecha entre las afirmaciones de Musk y el rendimiento del sistema ha sido un problema persistente. Musk ha prometido conducción completamente autónoma repetidamente desde 2016. Cada fecha límite ha pasado sin entrega. El servicio de robotaxi de la compañía en Austin opera en un área geocercada con conductores de seguridad disponibles de forma remota.

      Los cierres relacionados con inundaciones de Waymo este mes demostraron que incluso los sistemas de conducción autónoma más avanzados tienen modos de falla en condiciones rutinarias. El enfoque de Tesla difiere fundamentalmente del de Waymo: percepción solo con cámara frente a fusión de múltiples sensores, y un vehículo de consumo reutilizado para la autonomía frente a un robotaxi diseñado para ese propósito.

      El testimonio de los etiquetadores de datos es significativo porque estos trabajadores están más cerca de los datos de rendimiento en bruto. No ven materiales de marketing ni proyecciones de llamadas de ganancias. Ven horas de video que muestran exactamente cómo se comporta el software en carreteras públicas. Siete de nueve no querrían viajar en el producto que ayudaron a construir.

      Tesla no respondió a la solicitud de comentarios de Reuters. La compañía ha dicho anteriormente que FSD (Supervisado) requiere supervisión activa del conductor y que sus estadísticas de seguridad muestran que el sistema funciona mejor que los conductores humanos en base a millas recorridas. El ex ingeniero que Reuters entrevistó disputó esas estadísticas.

      La investigación plantea una pregunta que las presentaciones regulatorias y el marketing de Tesla no abordan: si las personas que entrenan la IA no confían en ella, ¿por qué deberían confiar las personas que viajan en ella?