Autonomous AI drones are now taking human lives, and there's no turning back.

      Elbit Systems

      Todos hemos visto la advertencia de que la inteligencia artificial puede cometer errores. Para un chatbot, eso generalmente significa inventar un hecho, malinterpretar una pregunta o brindarte una respuesta incorrecta con confianza. Pero al poner la misma tecnología en un arma, esos errores pueden tener consecuencias muy diferentes.

      Una investigación del New York Times ha detallado un ataque con dron ruso ocurrido el 6 de julio en Zaporizhzhia, Ucrania, que resultó en la muerte de tres civiles, incluyendo a un estudiante universitario de 19 años. Operadores humanos programaron el dron para dirigirse hacia una gasolinera, pero un sistema de IA autónomo eligió el objeto específico que atacaría, probablemente tanques de propano. El dron no alcanzó su objetivo y explotó cerca.

      Un experto citado por The Times lo describió como el primer caso documentado de civiles que mueren debido a un dron ruso que utiliza este tipo de sistema de IA de autoapuntamiento.

      Un ordenador ahora elige qué objetivo atacar.

      Los drones asistidos por IA anteriormente mantenían a un humano involucrado en la selección del objetivo, dejando que el software se encargara del acercamiento final. El sistema recuperado de Zaporizhzhia fue más allá.

      Investigadores encontraron una computadora Nvidia Jetson Orin a bordo, y los funcionarios ucranianos indicaron que su código reveló los tipos de objetos que el sistema había sido entrenado para reconocer y atacar. El apuntamiento completamente autónomo elimina al humano de ese proceso final de selección del objetivo.

      Un manual de entrenamiento de IBM de 1979 contenía una advertencia que resulta inquietantemente relevante hoy en día: “Un ordenador nunca puede ser considerado responsable; por lo tanto, un ordenador nunca debe tomar una decisión de gestión”.

      Casi cinco décadas después, se está confiando a las computadoras decisiones con consecuencias mucho más graves.

      ¿Quién asume la responsabilidad cuando la IA se equivoca?

      Un arma autónoma no puede ser juzgada, ni explicarse, ni enfrentar castigos después de una muerte indebida. La responsabilidad humana no desaparece, pero asignarla se vuelve mucho más complicado cuando el software participa en la decisión de apuntamiento.

      Elbit Systems

      Rusia no está sola en la búsqueda de esta tecnología. Ucrania también ha probado sistemas completamente autónomos contra sitios de almacenamiento de combustible y equipo militar en Crimea ocupada por Rusia, aunque su exministro de defensa declaró a The Times que esas pruebas no habían causado muertes de civiles.

      Las armas autónomas de IA ya se están utilizando en una guerra activa, y ahora se han reportado muertes de civiles durante su uso. Rusia las está probando, Ucrania también, y la tecnología solo se volverá más capaz a partir de aquí. Esto es una resbaladilla peligrosa, porque una vez que los ejércitos comienzan a dejar que el software tome decisiones de apuntamiento, retirar esa responsabilidad puede volverse cada vez más difícil. Puede que no haya marcha atrás, lo que hace que establecer límites significativos sobre cómo se utilizan estos sistemas sea aún más urgente.

      He estado trabajando aproximadamente cuatro años, principalmente cubriendo videojuegos, hardware de PC y teléfonos inteligentes. En mi tiempo libre, me gusta…

      La nueva tendencia tecnológica más candente es el envío de mensajes más lento, y en realidad tiene sentido.

      La razón por la que la gente está enviando mensajes de manera voluntaria a través de palomas digitales, caracoles y pingüinos.

      Durante décadas, la tecnología ha estado obsesionada con hacer la comunicación más rápida. Ahora, aparentemente, hemos tenido suficiente. Como informa el New York Times, la última tendencia es la tecnología lenta, con aplicaciones como Carrier Pidge y Roost que deliberadamente hacen que los mensajes tarden minutos, horas o incluso más en llegar. Sí, estamos hablando de palomas mensajeras digitales. Carrier Pidge se lanzó en abril y recientemente pasó de unos pocos cientos de usuarios a más de 75,000, mientras que Roost supuestamente alcanzó 650,000 descargas este mes.

      Parece que esperar está de moda nuevamente.

      Un dispositivo diseñado para encontrar cámaras ocultas podría hacerte sentir más seguro de lo que realmente estás.

      Cientos de detectores de espionaje están a la venta, pero los investigadores encontraron una seria brecha de seguridad.

      Las cámaras ocultas y otros tipos de dispositivos espía se han convertido en un gran problema en la era moderna. Un nuevo estudio sugiere que los gadgets que se venden para esa tarea pueden ofrecer mucha menos protección de la que los compradores esperan. Investigadores de University College London probaron 19 herramientas de detección de vigilancia de consumo en ocho tipos de interfaz, pidiendo a 34 participantes que encontraran dispositivos ocultos dentro de una sala de estar simulada. Sin ningún detector, los participantes pasaron por alto el