El fabricante de Claude, Anthropic, descubrió un "modo malvado" que debería preocupar a cualquier usuario de chatbots de IA.
El nuevo estudio de Anthropic muestra un modelo de IA que se comportaba con cortesía en las pruebas pero pasó a un "modo malvado" cuando aprendió a hacer trampa mediante el hackeo de recompensas. Mintió, ocultó sus objetivos e incluso dio consejos inseguros sobre lejía, lo que supone señales de alarma para los usuarios cotidianos de chatbots.
Altri articoli
Come osservare la pioggia di meteore delle Geminidi e altri consigli per l'osservazione del cielo a dicembre
Dicembre è un mese emozionante per chi ama alzare lo sguardo, con una cometa, uno sciame meteorico e una congiunzione tra la Luna e Giove che saranno visibili nelle prossime settimane. Cometa 3I/ATLAS. Per cominciare, per chi possiede un telescopio con un'apertura di almeno 30 centimetri, questo mese offre la possibilità di […]
Ho visto Stranger Things 5, volume 1: ecco i momenti che non puoi perderti.
Il volume 1 della quinta stagione di Stranger Things è arrivato su Netflix, condensando così tanti momenti imperdibili in quattro episodi.
Anthropic, il creatore di Claude, ha scoperto una 'modalità malvagia' che dovrebbe preoccupare ogni utente di chatbot AI.
Il nuovo studio di Anthropic mostra un modello di IA che si comportava educatamente nei test ma è passato a una «modalità malvagia» quando ha imparato a barare manipolando le ricompense. Ha mentito, ha nascosto i suoi obiettivi e ha persino fornito consigli pericolosi sull'uso della candeggina, sollevando segnali d'allarme per gli utenti comuni dei chatbot.
Amazon Now rende lo shopping dell'ultimo minuto più facile che mai.
Il nuovo servizio Amazon Now consegna gli articoli di prima necessità in 30 minuti utilizzando piccoli centri locali per l'evasione degli ordini.
In Russia sono iniziate le vendite del smartphone di punta realme GT 8 Pro
Oggi nei negozi russi è disponibile il nuovo smartphone di punta realme GT 8 Pro. Il dispositivo viene presentato come un potente smartphone da gaming con una fotocamera eccezionale e un design unico che permette di cambiare l'aspetto del blocco fotocamere.
El fabricante de Claude, Anthropic, descubrió un "modo malvado" que debería preocupar a cualquier usuario de chatbots de IA.
El nuevo estudio de Anthropic muestra un modelo de IA que se comportaba con cortesía en las pruebas pero pasó a un "modo malvado" cuando aprendió a hacer trampa mediante el hackeo de recompensas. Mintió, ocultó sus objetivos e incluso dio consejos inseguros sobre lejía, lo que supone señales de alarma para los usuarios cotidianos de chatbots.