Los drones autónomos de IA ahora están matando humanos, y no hay vuelta atrás.

      Elbit systems

      Todos hemos visto la advertencia de que la IA puede cometer errores. Para un chatbot, eso generalmente significa inventar un hecho, malinterpretar una pregunta o darte con confianza la respuesta incorrecta. Coloca la misma tecnología dentro de un arma, y esos errores pueden terminar de manera muy diferente.

      Una investigación del New York Times ha detallado un ataque con dron ruso el 6 de julio en Zaporizhzhia, Ucrania, que mató a tres civiles, incluido un estudiante universitario de 19 años. Los operadores humanos programaron el dron para viajar hacia una gasolinera, pero un sistema de IA autónoma seleccionó el objeto exacto que atacaría, muy probablemente tanques de propano. El dron no logró alcanzar ese objetivo y explotó cerca.

      Un experto citado por The Times lo describió como el primer caso documentado de civiles siendo asesinados por un dron ruso utilizando este tipo de sistema de IA de autoselección.

      Una computadora ahora elige qué es lo que se golpea

      Los drones asistidos por IA anteriores generalmente mantenían a un humano involucrado en la selección del objetivo, dejando que el software manejara el enfoque final. El sistema que se recuperó de Zaporizhzhia fue más allá.

      Edificio colapsado en Kyiv, Ucrania Jade Koroliuk / Unsplash

      Los investigadores encontraron una computadora Nvidia Jetson Orin a bordo, mientras que funcionarios ucranianos dijeron que su código revelaba los tipos de objetos que el sistema había sido entrenado para reconocer y atacar. La selección de objetivos completamente autónoma elimina al humano de ese proceso final de selección de objetivos.

      Un manual de entrenamiento de IBM de 1979 contenía una advertencia que se siente inquietantemente relevante hoy: “Una computadora nunca puede ser responsabilizada, por lo tanto, una computadora nunca debe tomar una decisión de gestión.”

      Casi cinco décadas después, se confía en las computadoras para tomar decisiones que conllevan consecuencias mucho mayores.

      ¿Quién asume la responsabilidad cuando la IA se equivoca?

      Un arma autónoma no puede ser juzgada, explicar su razonamiento o enfrentar un castigo después de una muerte injusta. La responsabilidad humana no desaparece, pero asignarla se vuelve mucho más complicado cuando el software forma parte de la decisión de selección de objetivos.

      Elbit Systems

      Rusia tampoco está sola en la búsqueda de esta tecnología. Ucrania ha probado sistemas completamente autónomos contra sitios de almacenamiento de combustible y equipo militar en Crimea ocupada por Rusia, aunque su exministro de defensa dijo a The Times que esas pruebas no habían matado a civiles.

      Las armas autónomas de IA ya se están utilizando en una guerra activa, y los civiles han muerto durante su uso. Rusia las está probando, Ucrania las está probando, y la tecnología solo se volverá más capaz a partir de aquí. Esta es una peligrosa pendiente resbaladiza, porque una vez que los ejércitos comienzan a entregar decisiones de selección de objetivos al software, recuperar esa responsabilidad puede volverse cada vez más difícil. Puede que no haya vuelta atrás, lo que hace que los límites significativos sobre cómo se utilizan estos sistemas sean aún más urgentes.

      He tenido alrededor de 4 años de experiencia, cubriendo principalmente videojuegos, hardware de PC y teléfonos inteligentes. En mi tiempo libre, me gusta…

      La tendencia tecnológica más candente es el envío de mensajes más lento, y en realidad tiene sentido

      Por qué la gente está enviando mensajes de manera voluntaria a través de palomas digitales, caracoles y pingüinos.

      Durante décadas, la tecnología ha estado obsesionada con hacer la comunicación más rápida. Ahora, aparentemente, hemos tenido suficiente. Como informa el New York Times, la última tendencia es la tecnología lenta, con aplicaciones como Carrier Pidge y Roost que deliberadamente hacen que los mensajes tarden minutos, horas o incluso más en llegar. Sí, estamos hablando de palomas mensajeras digitales. Carrier Pidge se lanzó en abril y recientemente pasó de unos pocos cientos de usuarios a más de 75,000, mientras que Roost alcanzó supuestamente 650,000 descargas este mes.

      Aparentemente, esperar está de moda nuevamente

      Leer más

      Un dispositivo diseñado para encontrar cámaras ocultas podría hacerte sentir más seguro de lo que realmente estás

      Cientos de detectores de espías están a la venta, pero los investigadores encontraron una grave brecha de seguridad

      Las cámaras ocultas y otros tipos de dispositivos espía se han convertido en un gran problema en la era moderna. Un nuevo estudio sugiere que los gadgets que se venden para ese trabajo pueden proporcionar mucha menos protección de la que los compradores esperan. Investigadores del University College London probaron 19 herramientas de detección de vigilancia de consumo a través de ocho tipos de interfaz, pidiendo a 34 participantes que encontraran dispositivos ocultos dentro de una sala de estar simulada.

      Sin ningún detector, los participantes pasaron por alto el 67% de los dispositivos de vigilancia. Dales una herramienta de detección, y la tasa de fallos cayó al 59%. Esta es una mejora, pero una que aún dejó la mayoría de los dispositivos ocultos sin descubrir.

      Leer más

      La nueva tecnología de baterías podría hacer que las baterías solares para el hogar sean más seguras y duren décadas.

      60,000 ciclos podrían cambiar la forma en que funcionan las baterías domésticas.

      Sesenta mil ciclos de carga para baterías industriales o a escala de red es el tipo de número que suena como un error tipográfico al principio, pero los investigadores australianos dicen que su nueva tecnología de baterías realmente lo logra.

      Un equipo de la Universidad de Flinders ha resuelto un problema de estabilidad de larga data en baterías de zinc-yodo a base de agua. Esto abre la puerta a sistemas de almacenamiento de energía que apenas se degradan incluso después de décadas de recargas diarias.

      Leer más