WhatsApp offre già alcune protezioni contro le truffe, come quella che avvisa gli utenti del tentativo di collegare l’account ad un altro dispositivo. Meta ha annunciato una nuova funzionalità attualmente in sviluppo, denominata Scam Alert, che sfrutta un modello AI on-device per rilevare messaggi pericolosi.
Come funziona Scam Alert su WhatsApp
Scam Alert, disponibile per alcuni utenti nella versione beta di WhatsApp, utilizza le capacità di un modello AI (non è noto quale) installato sul dispositivo, quindi nessun messaggio viene inviato ai server di Meta (l’utente può eventualmente segnalare il tentativo di truffa). L’elaborazione è anche efficiente, per cui non riduce le prestazioni o l’autonomia della batteria.
In caso di attivazione della funzionalità opzionale, WhatsApp scarica il modello AI che permette di rilevare i messaggi truffa ricevuti da contatti sconosciuti. Il modello è stato addestrato con i messaggi inviati dagli utenti. Se viene rilevato un probabile tentativo di truffa, l’utente vedrà un avviso nella chat (non visibile al mittente). A quel punto può decidere cosa fare: bloccare, segnalare o continuare la conversazione.
Se ritiene che l’avviso sia sbagliato, l’utente può contrassegnare la chat come attendibile, quindi l’avviso viene rimosso e Scam Alert non segnalerà più la conversazione. È possibile eventualmente condividere gli ultimi cinque messaggi ricevuti per contribuire a migliorare la precisione della funzionalità.
Meta ha descritto in maniera molto dettagliata tutti gli aspetti tecnici della funzionalità, tra cui le soluzioni implementate per garantire la privacy (ovviamente è sempre presente la crittografia end-to-end). Come detto è ancora in test e alcuni utenti potranno inviare feedback utilizzando la versione beta delle app.