In Breve
- Che cosa hanno sviluppato Google DeepMind e GovTech Singapore?
- Un modello AI leggero, basato su Gemma e ottimizzato per individuare schemi conversazionali associati alle truffe locali.
- Dove vengono analizzate le conversazioni?
- Direttamente sul dispositivo dell'utente, quando il modello sarà integrato nelle applicazioni e l'utente avrà fornito il proprio consenso.
- Come funziona il sistema?
- Un classificatore leggero esegue uno screening iniziale, mentre il modello Gemma analizza un contesto più ampio per confermare la minaccia o ridurre i falsi allarmi.
Google DeepMind e la Government Technology Agency di Singapore (GovTech Singapore) hanno sviluppato un modello di intelligenza artificiale per rilevare le truffe direttamente sui dispositivi degli utenti. Il progetto rientra nella National AI Partnership tra Google e il governo di Singapore ed è stato presentato alla Singapore International Cyber Week 2026.
Secondo i dati riportati da Google DeepMind, frodi sugli investimenti, false offerte di lavoro e impersonificazioni di funzionari pubblici rappresentano oltre la metà dei reati denunciati a Singapore e hanno causato perdite superiori a 4 miliardi di dollari di Singapore dal 2019. Le truffe basate sull’ingegneria sociale, che fanno leva su conversazioni persuasive prima di chiedere denaro o credenziali, arriverebbero a pesare fino all’80% delle perdite.
Un modello Gemma addestrato sui contesti locali
Per adattare il rilevamento alle tecniche utilizzate nella regione, Google DeepMind ha ottimizzato un modello leggero della famiglia Gemma su conversazioni relative a truffe locali. I casi comprendevano impersonificazioni di istituzioni pubbliche, banche e figure locali, oltre a schemi fraudolenti emergenti.
L’obiettivo dichiarato è distinguere le conversazioni innocue dai tentativi di manipolazione quando il modello sarà integrato in applicazioni destinate ai cittadini. A differenza dei sistemi che analizzano i messaggi su server cloud, il modello è progettato per elaborare i dati direttamente sul dispositivo, così da identificare più rapidamente schemi conversazionali sospetti.
Analisi in due fasi e avvisi in tempo reale
Il sistema è concepito per ridurre il consumo energetico degli smartphone attraverso una pipeline in due passaggi:
- un classificatore leggero analizza i messaggi in arrivo con un impiego limitato di energia e individua le potenziali minacce;
- il modello Gemma ottimizzato esamina un contesto conversazionale più ampio per confermare la minaccia o scartare un falso allarme.
Quando rileva schemi conversazionali manipolativi, il modello può attivare un avviso in tempo reale sul dispositivo, invitando l’utente a fermarsi e prestare attenzione prima di condividere informazioni sensibili o trasferire denaro.
Consenso dell’utente e dati isolati
Il rilascio nelle applicazioni, spiega Google DeepMind, sarà graduale e sviluppato insieme al governo di Singapore. Il modello potrà accedere alle conversazioni presenti sul dispositivo soltanto con il consenso dell’utente e nel rispetto delle condizioni d’uso dell’applicazione.
Poiché l’elaborazione avviene interamente sul dispositivo, Google DeepMind afferma che né Google né il governo di Singapore potranno accedere alle conversazioni degli utenti attraverso l’implementazione del modello. La fase di ottimizzazione è stata condotta in un ambiente Google Cloud gestito da GovTech Singapore, con i dati di addestramento mantenuti isolati.
Secondo la descrizione del progetto, l’addestramento non ha utilizzato dati privati o informazioni personali identificabili, ma dataset anonimizzati derivati da segnalazioni di truffe e flussi di intelligence. Il modello è stato inoltre sottoposto a test con dialoghi sintetici e corpus locali per coprire diverse categorie di frode e tecniche di impersonificazione in evoluzione.