Apple: Siri con AI in ritardo per paura della prompt injection?

Apple ha annunciato degli importanti miglioramenti per Siri durante la WWDC 2024. Grazie alla AI l’assistente avrebbe dovuto acquisire una maggiore consapevolezza del contesto in cui opera l’utente, la capacità di leggere lo schermo e l’integrazione con le app. Il lancio della nuova versione continua però a subire ritardi, con la possibilità che il rilascio finisca per slittare da iOS 18.4 a iOS 19.

I motivi del ritardo del nuovo Siri

Bloomberg aveva riferito inizialmente che Apple stava affrontando diverse difficoltà tecniche, con numerosi bug che impedirebbero il corretto funzionamento del nuovo Siri. Inoltre la compagnia starebbe testando due versioni separate della piattaforma: una per i comandi di base e un’altra per quelli più complessi. L’integrazione tra queste due release si starebbe rivelando molto complicata, tanto da motivare i rinvii stabiliti da Tim Cook e soci.

Ora, la principale sfida di Apple potrebbe riguardare la sicurezza ed in particolare il rischio di eventuali attacchi di prompt injection. Questo tipo di azione malevala sfrutta le vulnerabilità nei modelli di intelligenza artificiale per bypassare i meccanismi di sicurezza di un sistema e accedere a informazioni sensibili dell’utente.

Con il nuovo Siri, che dovrebbe accedere a dati personali e compiere azioni all’interno delle app, un attacco di questo tipo potrebbe avere conseguenze devastanti anche a livello di immagine. L’interazione tra LLM, dati privati e strumenti di esecuzione di comandi rappresenta quindi una combinazione ad alto rischio.

Tempistiche di lancio ancora incerte

Ad oggi nessuna azienda, incluse OpenAI e Google, sarebbe ancora riuscite a scongiurare completamente questo tipo di attacchi. Apple, che da parte sua ha fatto della privacy un punto di forza, non può poi permettersi vulnerabilità che compromettano i dati degli utenti.

Il rilascio del nuovo Siri rimane quindi incerto dal punto di vista delle tempistiche. L’azienda potrebbe aver promesso funzionalità troppo ambiziose senza considerare i rischi legati alla sicurezza. Se non riuscirà a risolvere questi problemi, il Siri più intelligente potrebbe subire ulteriori rinvii o addirittura una riprogettazione completa prima di essere lanciato sul mercato.

Per restare sempre aggiornato seguici su Google News! Seguici