Apple dettaglia i modelli di intelligenza artificiale dietro il nuovo Siri

      Il titolo della conferenza degli sviluppatori di Apple era un Siri rinato. La storia più interessante si trova sotto di essa: i modelli di intelligenza artificiale che Apple ha costruito per far funzionare il tutto, uno dei quali è troppo grande per entrare nella memoria di un iPhone, eppure funziona comunque sul dispositivo.

      In un post tecnico pubblicato insieme al WWDC, Apple ha dettagliato la terza generazione dei suoi Modelli Fondamentali Apple, una famiglia di cinque modelli che descrive come "costruiti su misura in collaborazione con Google".

      Due funzionano sul dispositivo: AFM 3 Core, un modello da 3 miliardi di parametri per compiti quotidiani, e AFM 3 Core Advanced, il suo modello più potente sul dispositivo. Altri tre funzionano nel cloud: AFM 3 Cloud, un cavallo di battaglia server; ADM 3 Cloud, un modello di immagine dietro Image Playground e Genmoji; e AFM 3 Cloud Pro, il pesante costruito per l'uso di strumenti agentici e ragionamento complesso.

      L'ingegneria intelligente è in Core Advanced.

      Il 💜 della tecnologia dell'UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia dal nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! È un modello nativamente multimodale da 20 miliardi di parametri, una dimensione che normalmente vive in un centro dati, non in un telefono. Il trucco di Apple è mantenere l'intero modello nella memoria flash piuttosto che nel molto più piccolo pool di memoria di lavoro. Utilizzando una tecnica che i suoi ricercatori chiamano Potatura per Seguire Istruzioni, il modello prende decisioni di instradamento una volta per ogni richiesta, caricando solo un piccolo insieme di parametri "esperti" nella memoria, tra 1 e 4 miliardi alla volta, mantenendo sempre attivo un nucleo di esperti condivisi.

      Questo consente ad Apple di scalare il modello "ben oltre i limiti tradizionali della DRAM", afferma, e alimenta le voci più espressive e la dettatura più precisa nel software di quest'anno.

      I modelli cloud si appoggiano su Apple’s Private Cloud Compute, che l'azienda afferma mantiene i dati degli utenti da essere memorizzati o condivisi con chiunque, incluso Apple. Per il modello Cloud Pro di fascia alta, Apple ha collaborato con Google e Nvidia per estendere quell'architettura di privacy sulle GPU Nvidia nel Google Cloud.

      Quella partnership con Google è il dettaglio che vale la pena districare. La copertura del keynote ha suggerito in vari modi che i modelli di Apple erano "distillati da Gemini" o non contenevano affatto tecnologia Google.

      Il post tecnico si colloca a metà strada: la famiglia AFM è di proprietà di Apple, "costruita su misura in collaborazione con Google", e addestrata sui TPU cloud di Google, mentre il ragionamento più pesante dietro il nuovo Siri attinge a un grande modello personalizzato di Google. In breve, i modelli sono di Apple, la forza e gran parte dell'infrastruttura sono di Google.

      Per gli sviluppatori, il cambiamento più significativo è il framework dei Modelli Fondamentali.

      Le app possono accedere direttamente al modello sul dispositivo, e quest'anno Apple ha aggiunto uno strato di astrazione del modello che consente agli sviluppatori di sostituire modelli di terze parti come Claude di Anthropic o Gemini di Google senza riscrivere il loro codice, mentre iOS 27 permetterà agli utenti di impostare un assistente rivale come predefinito. È una posizione insolitamente aperta per Apple, anche se Apple Intelligence stessa non arriverà nell'UE sulla stessa tempistica.

      Il solito avvertimento si applica ai numeri. Il post di Apple è costellato di confronti lusinghieri, AFM 3 Cloud preferito rispetto al modello dell'anno scorso nel 64,7% delle richieste, voci espressive che ottengono 4,15 su una scala di opinione a 5 punti contro 3,87 per il vecchio sistema, ma queste sono le valutazioni umane di Apple, non benchmark indipendenti, e i modelli sono ancora in beta.

      Un rapporto tecnico più completo è promesso per questa estate.

      Tuttavia, dopo due anni di scherni per un assistente che non funzionava, questo è l'argomento più chiaro di Apple che l'impianto è finalmente reale: un piccolo modello privato per l'uso quotidiano, modelli più grandi racchiusi nel proprio cloud per le cose difficili, e la forza di frontiera di Google dove Apple ancora non può competere da sola.

      Se reggerà al di fuori delle proprie classifiche di Apple è il test che verrà dopo.

Altri articoli

Microsoft taglia centinaia di posti di lavoro nel cloud Azure in Cina Microsoft taglia centinaia di posti di lavoro nel cloud Azure in Cina Microsoft sta tagliando 200-400 posti di lavoro in Azure a Pechino e Shanghai, il suo terzo ridimensionamento in Cina in due anni, mentre gli Stati Uniti e la Cina inaspriscono le leggi sui dati transfrontalieri. Safari sta finalmente risolvendo il problema delle sue estensioni. A differenza di Chrome, Apple ti permetterà di creare le tue. Safari sta finalmente risolvendo il problema delle sue estensioni. A differenza di Chrome, Apple ti permetterà di creare le tue. Safari sta ottenendo un costruttore di estensioni alimentato da intelligenza artificiale che consente agli utenti di descrivere lo strumento del browser che desiderano. Potrebbe aiutare Apple a risolvere una delle debolezze più antiche di Safari senza inseguire la gigantesca libreria di componenti aggiuntivi di Chrome. iOS 27 offre il segnale più chiaro che un iPhone pieghevole è dietro l'angolo. iOS 27 offre il segnale più chiaro che un iPhone pieghevole è dietro l'angolo. Le modifiche di SwiftUI di Apple e i nuovi riferimenti al framework iOS 27 suggeriscono che l'azienda potrebbe essere pronta a lanciare app per un iPhone che funziona su due diversi display. Mentre Apple spinge l'IA nel software, la crisi della RAM ha raggiunto il culmine e i tuoi gadget si sentono vecchi. Mentre Apple spinge l'IA nel software, la crisi della RAM ha raggiunto il culmine e i tuoi gadget si sentono vecchi. I requisiti AI di iOS 27 di Apple suggeriscono che la RAM sta diventando il nuovo muro degli aggiornamenti, con dispositivi da 8 GB ancora supportati ma meno pronti per le funzionalità AI più potenti di Apple. Anthropic espande l'accesso a Mythos nonostante lo definisca pericoloso Anthropic espande l'accesso a Mythos nonostante lo definisca pericoloso Anthropic afferma che Mythos è troppo pericoloso per il rilascio pubblico, ma ha dato accesso a 150 ulteriori organizzazioni. Solo il 14% dei oltre 10.000 difetti critici trovati è stato corretto. Le affermazioni non sono verificate. Thoma Bravo afferma che la 'SaaSpocalypse' è finita Thoma Bravo afferma che la 'SaaSpocalypse' è finita Orlando Bravo di Thoma Bravo afferma che la 'SaaSpocalypse' è finita e che l'IA è un vento favorevole per il software. Ma la ripresa è disomogenea e i costi degli agenti IA stanno aumentando.

Apple dettaglia i modelli di intelligenza artificiale dietro il nuovo Siri

I modelli di fondazione di terza generazione di Apple, realizzati con Google, includono un modello on-device da 20 miliardi di parametri che funziona dalla memoria flash, oltre a tre modelli cloud.