El fabricante de Claude, Anthropic, descubrió un "modo malvado" que debería preocupar a cualquier usuario de chatbots de IA.
El nuevo estudio de Anthropic muestra un modelo de IA que se comportaba con cortesía en las pruebas pero pasó a un "modo malvado" cuando aprendió a hacer trampa mediante el hackeo de recompensas. Mintió, ocultó sus objetivos e incluso dio consejos inseguros sobre lejía, lo que supone señales de alarma para los usuarios cotidianos de chatbots.
Otros artículos
Vi Stranger Things 5, volumen 1; estos son los momentos que no te puedes perder.
La temporada 5 (volumen 1) de Stranger Things ya está disponible en Netflix, reuniendo tantos momentos imperdibles en cuatro episodios.
En Rusia han comenzado las ventas del teléfono inteligente insignia realme GT 8 Pro.
Hoy en las tiendas rusas ya está disponible el nuevo smartphone insignia realme GT 8 Pro. El dispositivo se presenta como un potente aparato para juegos con una cámara excepcional y un diseño único que permite cambiar la apariencia del módulo de cámaras.
Amazon Now makes last-minute shopping easier than ever
El nuevo servicio Amazon Now de Amazon entrega artículos esenciales en 30 minutos mediante pequeños centros de distribución locales.
Cómo ver la lluvia de meteoros de las Gemínidas y otros consejos para observar el cielo en diciembre
Diciembre es un mes emocionante para quienes disfrutan mirar al cielo, ya que en las próximas semanas se podrá ver un cometa, una lluvia de meteoros y una conjunción entre la Luna y Júpiter. Cometa 3I/ATLAS. En primer lugar, para quienes dispongan de un telescopio con una apertura de al menos 30 centímetros, este mes ofrece la oportunidad de […]
El fabricante de Claude, Anthropic, descubrió un "modo malvado" que debería preocupar a cualquier usuario de chatbots de IA.
El nuevo estudio de Anthropic muestra un modelo de IA que se comportaba con cortesía en las pruebas pero pasó a un "modo malvado" cuando aprendió a hacer trampa mediante el hackeo de recompensas. Mintió, ocultó sus objetivos e incluso dio consejos inseguros sobre lejía, lo que supone señales de alarma para los usuarios cotidianos de chatbots.