Nuova Siri posticipata per problemi di sicurezza?

Nuova Siri posticipata per problemi di sicurezza?

Secondo uno sviluppatore, il lancio della nuova Siri è stato posticipato anche perché l'assistente non è immune agli attacchi di prompt injection.
Nuova Siri posticipata per problemi di sicurezza?
Secondo uno sviluppatore, il lancio della nuova Siri è stato posticipato anche perché l'assistente non è immune agli attacchi di prompt injection.

Apple ha confermato che la versione più conversazionale di Siri non arriverà prima del 2026. Il noto Mark Gurman di Bloomberg ha ipotizzato due possibili motivi del ritardo, ovvero bug difficili da risolvere e la necessità di aggiornare l’architettura sottostante. Secondo uno sviluppatore, il vero problema è legato alla sicurezza.

Attacchi di prompt injection

La nuova Siri era stata mostrata da Apple durante la WWDC 2024. Alcune capacità più avanzate, come la comprensione del contenuto sullo schermo, l’accesso alle app e l’uso delle informazioni personali per risposte più complete, dovevano essere disponibili con iOS 18.4 ad aprile. Invece non arriveranno nemmeno con iOS 18.5 a maggio. Il debutto è stato posticipato al 2026, quando verrà rilasciato iOS 19.

Secondo Mark Gurman (giornalista di Bloomberg), Apple deve risolvere ancora diversi bug e potrebbe anche cancellare tutto il lavoro fatto per ricominciare lo sviluppo da zero. L’azienda di Cupertino deve inoltre combinare le due versioni attuali di Siri per ottenere un unico “cervello”. Per questa modifica architetturale e l’uso di modelli AI proprietari si dovrà probabilmente attendere iOS 20 nel 2027.

Lo sviluppatore Simon Willison ha aggiunto un terzo possibile motivo. La nuova Siri non offrirebbe le necessarie protezioni contro gli attacchi di prompt injection.

Dato che la versione più avanzata dell’assistente può accedere ai dati personali dell’utente, un malintenzionato potrebbe usare un prompt ad hoc per aggirare le protezioni (filtri) e ottenere i dati nelle risposte. Chiaramente è una vulnerabilità presente in tutti i Large Language Model (LLM) e ancora non risolta. Apple ha sempre evidenziato la sicurezza dei suoi servizi, quindi sarebbe un grave rischio per la reputazione.

Fonte: 9to5Mac
Link copiato negli appunti

Ti potrebbe interessare

Pubblicato il
11 mar 2025
Link copiato negli appunti