La IA ya ha caído en las manos equivocadas y la están utilizando para fabricar bombas.

      Creado por ChatGPT

      La inteligencia artificial se ha convertido rápidamente en la herramienta preferida para todo, desde escribir correos electrónicos y resumir reuniones hasta ayudar a los estudiantes a estudiar o a los desarrolladores a depurar código. Pero la misma tecnología que ahorra tiempo a las personas también puede ser mal utilizada, y un nuevo informe sugiere que las organizaciones terroristas están encontrando formas de hacer exactamente eso.

      Según un documento de investigación compartido con The New York Times antes de su publicación, los investigadores encontraron evidencia de que miembros de Boko Haram han estado utilizando chatbots de IA populares para apoyar tanto actividades cotidianas como tareas relacionadas con el combate. Entrevistas con 27 exmiembros realizadas en Nigeria durante los últimos dos años sugieren que herramientas como ChatGPT, Gemini, Claude, Grok, Meta AI y DeepSeek se utilizaron para recopilar información técnica, solucionar problemas de armas e incluso ayudar en la planificación de ataques.

      Esto no fue solo un par de actores malintencionados jugando

      Lo que hace que los hallazgos sean especialmente preocupantes es que esto no se describió como el trabajo de unos pocos individuos experimentando con la IA. El informe afirma que el uso de IA por parte del grupo se había vuelto organizado, con equipos dedicados, capacitación interna y conocimiento compartido entre los miembros. Los investigadores también dicen que algunos usuarios lograron eludir las protecciones de seguridad integradas diseñadas para evitar que la IA respondiera a solicitudes relacionadas con la violencia.

      Conversación de chatbot Ai Tecnología de inteligencia artificial servicio al cliente en línea. Chatbot digital, aplicación robótica, generación de OpenAI. Tecnología futurista. Asistente virtual en internet. Chatbot de IA

      Eso no significa necesariamente que los chatbots de IA de hoy estén proporcionando instrucciones peligrosas a demanda. Gran parte de la investigación se centra en la actividad hasta finales de 2024, y las empresas de IA dicen que las versiones más nuevas de sus modelos incluyen salvaguardias más fuertes. También señalan que muchos prompts caen en un área gris. Por ejemplo, preguntar a una IA cómo reparar una motocicleta o entender química básica no es dañino en sí mismo, aunque información similar podría ser mal utilizada.

      El desafío ahora es mantenerse un paso adelante

      OpenAI le dijo a The New York Times que usar ChatGPT para apoyar el terrorismo o la violencia viola sus políticas y dijo que continúa mejorando sus defensas contra el abuso. Meta también señaló que la investigación involucraba principalmente versiones más antiguas de sus modelos de IA y dijo que ha fortalecido las medidas de seguridad desde entonces. Mientras tanto, xAI y DeepSeek no respondieron a las solicitudes de comentarios, según el informe.

      Rachit Agarwal / Digital Trends

      Los expertos en seguridad también advierten contra asumir que la IA de repente otorga a los grupos terroristas capacidades sobrehumanas. Planificar y llevar a cabo ataques aún depende de la logística del mundo real, financiamiento, comunicación y coordinación humana, cosas que un chatbot no puede reemplazar. En cambio, los investigadores creen que la IA es más probable que haga que los miembros menos experimentados sean algo más capaces que cambiar drásticamente el panorama de amenazas. Aun así, el informe es otro recordatorio de que la conversación sobre la seguridad de la IA no se trata solo de estudiantes haciendo trampa en las tareas o personas generando imágenes falsas. A medida que los modelos de IA se vuelven más capaces y accesibles, las empresas seguirán enfrentando presión para garantizar que las herramientas poderosas sigan siendo útiles para los usuarios legítimos mientras se vuelven cada vez más difíciles de explotar para los actores malintencionados.

      Shimul es un colaborador en Digital Trends, con más de cinco años de experiencia en el espacio tecnológico.

      Los investigadores ocultaron una inyección de prompt dentro de un PNG, y la IA cayó en la trampa

      Los asistentes de codificación de IA como Claude se están convirtiendo en el compañero favorito de cada desarrollador. Pueden revisar código, explicar funciones confusas e incluso escribir características completas con un solo prompt. Pero nuevas investigaciones sugieren que esta creciente confianza también podría convertirse en su mayor debilidad. Un equipo de investigadores de seguridad (el profesor Sudipta Chattopadhyay y el investigador Murali Ediga) ha demostrado un ataque inusual que no apunta directamente al modelo de IA. En cambio, se dirige a lo que la IA no presta suficiente atención durante las revisiones de código. En lugar de ocultar instrucciones maliciosas en líneas de código, los investigadores las escondieron dentro de un archivo de imagen. Dado que muchas herramientas de revisión de IA tratan las imágenes como activos decorativos en lugar de algo que vale la pena inspeccionar, la solicitud de extracción puede parecer perfectamente inofensiva y pasar la revisión.

      Leer más

      Claude Code ahora puede navegar por la web sin abrir Chrome

      La aplicación de escritorio ahora incluye un navegador dentro de la aplicación que puede leer sitios web, hacer clic en enlaces e interactuar con aplicaciones web. Los desarrolladores pasan una sorprendente cantidad de tiempo saltando entre su editor de código, pestañas del navegador, documentación de API, problemas de GitHub y archivos de diseño. Anthropic piensa que Claude Code debería simplemente hacer todo eso sin pedir constantemente a los usuarios que cambien de ventana. La compañía ha anunciado un nuevo navegador dentro de la aplicación para Claude Code en el escritorio, permitiendo que su asistente de codificación de IA abra sitios web, lea documentación, inspeccione diseños e interactúe con páginas web directamente desde la aplicación.

      Un navegador integrado en Claude Code

      Leer más

      Apple está demandando a OpenAI por robo de secretos comerciales en una demanda de gran impacto

      La demanda alega que OpenAI reclutó empleados de Apple y obtuvo información confidencial sobre productos no lanzados. Durante los últimos dos años, Apple y OpenAI se han presentado como socios cercanos en IA. ChatGPT potencia características clave de Apple Intelligence, Siri puede transferir consultas complejas a OpenAI, y juntos las dos compañías ayudaron a llevar la IA generativa a millones de dispositivos de Apple. Ahora, esa asociación ha tomado un giro dramático. ¿Qué está acusando Apple a OpenAI?

      Leer más