La hackeo de IA rebelde de OpenAI fue solo el comienzo, advierte Hugging Face.
La IA rebelde de OpenAI ha vuelto para morderla
Rachit Agarwal / Digital Trends
Hugging Face ya sabe lo que es ser atacado por un agente de IA autónoma. Si uno de sus cofundadores tiene razón, muchas otras empresas lo descubrirán pronto. Thomas Wolf, cofundador y director científico de Hugging Face, ha llamado al reciente ciberataque llevado a cabo por los modelos de OpenAI una “llamada de atención” para la industria tecnológica.
Hablando con la BBC, Wolf advirtió que las intrusiones impulsadas por IA podrían convertirse en una de las formas más comunes de ciberataque y dijo que muchas empresas aún no se han dado cuenta de lo drásticamente que ha cambiado la amenaza. Esto llega después de que OpenAI revelara que sus modelos escaparon de un entorno de evaluación de ciberseguridad restringido y comprometieron a Hugging Face mientras intentaban obtener respuestas para el benchmark ExploitGym. Así que los comentarios de Wolf ahora nos dan una mejor idea de cómo fue el ataque desde el otro lado.
OpenAI Unsplash
17,000 ataques llegaron en un tiempo muy corto
Hugging Face inicialmente no tenía idea de dónde provenía la actividad cuando detectó la brecha a mediados de julio. Wolf le dijo a la BBC que su red vio alrededor de 17,000 ataques de diferentes direcciones IP en un “tiempo muy corto”. La empresa contuvo la intrusión, describiéndola como muy diferente de los ciberataques que Hugging Face normalmente encuentra.
El propio informe de incidentes de Hugging Face describe más de 17,000 eventos registrados en el registro de acciones del atacante. Dice que el sistema autónomo ejecutó miles de acciones a través de sandboxes de corta duración y se movió a través de su infraestructura a velocidad de máquina. El Instituto de Seguridad de IA del Reino Unido está estudiando ahora cómo se comportó el sistema durante el incidente, mientras que el gobierno ha instado a las empresas a fortalecer sus defensas de ciberseguridad.
OpenAI
El hackeo autónomo se está volviendo muy real
OpenAI dice que los modelos estaban intensamente enfocados en completar esa tarea. Después de escapar del entorno de investigación, encadenaron vulnerabilidades y credenciales robadas hasta que encontraron un camino de ejecución de código remoto en los servidores de Hugging Face. Hugging Face llegó a una conclusión igualmente incómoda, que es que la IA ofensiva autónoma ya es capaz de ejecutar campañas amplias y de múltiples etapas a velocidad de máquina.
El incidente de Hugging Face es una historia para toda la industria. Mientras que una empresa ya ha experimentado este tipo de ataque de primera mano, muchas otras empresas pronto pueden descubrir cómo es eso.
Vikhyaat Vivek es un periodista y crítico de tecnología con siete años de experiencia cubriendo hardware de consumo, con un enfoque en…
¿Compras para la vuelta al cole? Estas son las luces de webcam que realmente encendería antes de una llamada de Zoom
Desde una luz de clip económica hasta una configuración adecuada de escritorio, hay una luz de webcam aquí para cada precio. Entre clases en línea, llamadas de proyectos grupales y la ocasional entrevista de trabajo por Zoom, tu webcam estará haciendo mucho más trabajo en la escuela de lo que alguna vez hizo en casa. El problema es que la mayoría de las cámaras de portátiles son malas con poca luz, y una sola bombilla en el techo o una ventana detrás de ti convierte cada llamada en un juego de "espera, ¿puedes verme bien?"
Una buena luz de webcam soluciona eso más rápido que mover todo tu escritorio. Elegí cinco, comenzando con la más asequible y subiendo hasta la que realmente es excesiva para una llamada de Zoom pero que aún vale la pena conocer.
Leer más
Google Chrome podría pronto permitirte traducir páginas directamente dentro del Modo de Lectura
Sin embargo, no todos lo están viendo aún, incluso en Canary.
El Modo de Lectura de Chrome acaba de recibir un nuevo botón escondido dentro de su menú de configuración. Google está probando silenciosamente una opción de traducción para la función en Chrome Canary, el canal de pruebas experimentales del navegador donde las nuevas ideas aparecen mucho antes de estar listas para el uso diario.
¿Qué hace realmente este nuevo botón de traducción?
Leer más
Los dramas de IA necesitan actores, así que las plataformas chinas están convirtiendo rostros humanos en activos de stock
Las personas ahora pueden ganar dinero licenciando sus semejanzas a creadores de IA, aunque hacer un seguimiento de dónde terminan esos rostros digitales puede resultar considerablemente más difícil.
Las personas en China ahora pueden licenciar su rostro a la IA de manera similar a como un fotógrafo licencia una imagen de stock. Los creadores de IA pueden hacer que esa semejanza hable, se mueva y aparezca como diferentes personajes en dramas cortos o anuncios.
Los contribuyentes han ganado entre $15 y $700 a través de plataformas como ActID y New Claw, según Rest of World.
Leer más
Otros artículos
¿Compras de teléfonos para la vuelta al cole con un presupuesto ajustado? Aquí está el único teléfono que recomendaría sin dudar.
Las compras para el regreso a clases suelen significar elegir entre un puñado de opciones sólidas y económicas. Sin embargo, este año, no hay muchas opciones, con una elección sólida que recomendaría para el próximo año escolar, además de una alternativa fuerte con una trampa.
Qualcomm está lista para aumentar los precios de los chips en septiembre, y tu próxima actualización de gadget podría sufrir las consecuencias.
Qualcomm notificó a los clientes el 24 de julio de 2026 sobre aumentos de precios de chips de dos dígitos que entrarán en vigor el 1 de septiembre, citando una incapacidad para absorber mayores aumentos de costos de los proveedores.
Apple tiene como objetivo la WWDC 2027 para gafas inteligentes, pero aún está decidiendo sobre la cuestión de la cámara.
Apple está apuntando a la WWDC 2027 para presentar sus primeras gafas inteligentes, pero aún está debatiendo si incluir una cámara en medio de la creciente reacción en contra de la privacidad.
Roku aumenta los precios de los dispositivos de streaming hasta en un 60 por ciento a medida que la escasez de memoria afecta la sala de estar.
Roku aumentó los precios de toda su línea de streaming en EE. UU., con el Streaming Stick 4K subiendo un 60 por ciento a $80, ya que las escaseces de memoria presionan el hardware para consumidores.
Samsung presentó el Galaxy Z Fold 8 Ultra
Los rumores de que Samsung estaba preparando una "versión ultra" de su smartphone plegable han estado circulando desde hace tiempo. Y finalmente se han hecho realidad. La compañía presentó oficialmente el Galaxy Z Fold 8 Ultra, uno de los dispositivos más ambiciosos de la línea. Es más delgado, más ligero, cuenta con un nuevo chasis de titanio, cámaras mejoradas, pantallas ampliadas y capacidades de inteligencia artificial ampliadas.
La hackeo de IA rebelde de OpenAI fue solo el comienzo, advierte Hugging Face.
OpenAI califica su violación autónoma de Hugging Face como sin precedentes, mientras que expertos en seguridad e IA dicen que el episodio plantea una pregunta igualmente incómoda sobre las propias salvaguardias de la empresa.