OpenAI está investigando más incidentes de agentes de IA volviéndose rebeldes días después del hackeo.

      Rachit Agarwal / Digital Trends

      Parece que la historia de los "agentes de IA que se descontrolan" tiene más de lo que las gigantes de la IA han revelado públicamente hasta ahora. Apenas días después de que OpenAI anunciara que sus agentes de IA se descontrolaron y hackearon Hugging Face, Anthropic lanzó una bomba similar. Pronto se descubrió que no solo uno, sino múltiples servicios estaban comprometidos. Bueno, parece que hay incluso más capas en esto.

      Reuters informa que OpenAI ha encontrado más incidentes de agentes de IA escapando de su entorno de contención de software durante la investigación. Citando fuentes con conocimiento del incidente, el medio señala que los agentes de IA no salieron del entorno de software de OpenAI ni afectaron a ningún servicio externo.

      ChatGPT Unsplash

      “Los nuevos brotes fueron descubiertos durante la investigación públicamente anunciada de la compañía, abre una nueva pestaña sobre cómo uno de sus agentes escapó de lo que se suponía que era un entorno de prueba contenido este mes, dijeron las dos personas, y OpenAI ahora está investigando esos casos también”, dice el informe.

      La reciente serie de incidentes podría abrir una nueva Caja de Pandora de problemas para estas empresas de IA, ya que lidian con una feroz reacción en contra de la proliferación de centros de datos hambrientos de poder en todo Estados Unidos y su impacto ambiental reportado.

      El director de OpenAI, Sam Altman, y el CEO de Anthropic, Dario Amodei. Reuters

      Además, el escrutinio está creciendo más profundo. “Estamos mirando los controles”, dijo el presidente Trump a los reporteros cuando se le preguntó sobre el incidente de hackeo del agente de OpenAI. Por separado, la UE también está discutiendo los incidentes con OpenAI y Anthropic, y es probable que pronto se redacten nuevas regulaciones que cubran sistemas de IA autónomos de alto riesgo.

      Los incidentes también podrían abrir un nuevo tipo de desafío legal para la supervisión de la IA en EE. UU. Los expertos le dicen a WIRED que, idealmente, las empresas detrás de estos agentes de IA deberían ser responsables incluso si un agente de IA autónomo escapa de las barreras y causa estragos. Desafortunadamente, el marco legal sigue siendo confuso.

      Nadeem es el Editor Gerente en Digital Trends.

      Las historias de IA de baja calidad están arruinando la infancia

      Los abuelos están regalando libros de cuentos generados por IA a los niños, y es simplemente asqueroso.

      La IA de baja calidad, el término coloquial para el contenido generado por IA de bajo esfuerzo, ha surgido como un gran problema en diferentes industrias. Las discográficas están luchando contra los servicios de streaming para poner una etiqueta de IA en tales pistas. Las editoriales son cautelosas con los borradores escritos por IA. Las revistas de investigación están enterradas bajo un diluvio de artículos generados por IA. La industria del software está lidiando con la presión de aplicaciones codificadas por "vibras" llenas de fallos de seguridad. Incluso Apple está luchando contra una marea de informes de errores creados utilizando IA. Por supuesto, el desdén contra la IA es bastante obvio, pero ahora hay una nueva dimensión en esto.

      Los boomers están regalando libros generados por IA a sus nietos.

      Leer más

      El MacBook Air está en escasez, a pesar de un aumento de precios

      La crisis de memoria ahora está interrumpiendo los suministros del MacBook Air

      Durante meses, Apple parecía estar mejor protegida de la crisis de memoria que la mayoría de los fabricantes de laptops. Tenía acuerdos de suministro a largo plazo, un enorme poder de compra y suficiente margen para absorber el aumento de los costos de los componentes. La situación ahora ha alcanzado a su laptop más popular.

      Según Mark Gurman de Bloomberg, la disponibilidad del MacBook Air se ha ajustado considerablemente en la red minorista de Apple. Varias configuraciones muestran estimaciones de entrega que se extienden hasta finales de agosto, mientras que algunos modelos personalizados pueden no llegar hasta septiembre.

      Leer más

      La IA está encontrando fallos de seguridad de Apple más rápido de lo que Apple puede clasificarlos

      Apple ha limitado cuántos informes de errores los investigadores pueden mantener abiertos mientras las herramientas de IA producen tanto vulnerabilidades genuinas de Mac como una avalancha de presentaciones cuestionables

      Apple ha limitado el número de informes de seguridad que los investigadores pueden mantener abiertos a la vez después de que la caza de errores de IA presionara su proceso de revisión, según el Financial Times.

      Algunas presentaciones describen riesgos alucinados o puramente teóricos. Otras descubren vulnerabilidades lo suficientemente graves como para requerir parches. Bynario le dijo al FT que encontró más de 50 posibles fallos de macOS en tres semanas, incluyendo una cadena de escalación de privilegios que podría dar a un atacante control total de un Mac.

      Leer más