In Breve
- Che cosa ha segnalato l’AEPD?
- La prima notifica di una violazione di dati personali nella quale l’incidente sarebbe stato condotto da un agente AI autonomo.
- Come si sarebbe sviluppato l’attacco?
- L’agente avrebbe sfruttato file pubblicamente accessibili, effettuato l’accesso al sistema, cercato vulnerabilità, modificato dati personali e consultato fatture.
- Qual è l’avvertimento per le aziende?
- Considerare gli attacchi assistiti o condotti dall’AI nelle valutazioni del rischio e rafforzare la rapidità di risposta, il controllo delle identità digitali e la gestione delle credenziali.
L’Agenzia spagnola per la protezione dei dati (AEPD) ha segnalato quella che considera la prima notifica di una violazione di dati personali condotta, secondo quanto riferito, da un agente di intelligenza artificiale autonomo alimentato da un noto modello linguistico di grandi dimensioni.
Il caso riguarda un’azienda spagnola ed è ancora oggetto di un’indagine approfondita. Francisco Pérez Bes, presidente e vice dell’AEPD, ha spiegato in un articolo pubblicato sul blog dell’agenzia che l’agente avrebbe utilizzato file accessibili pubblicamente per ottenere l’accesso al sistema dell’organizzazione.
Una catena di attacco in più fasi
Dopo l’accesso, l’agente avrebbe avviato la scansione dei sistemi alla ricerca di vulnerabilità. Individuato un punto debole, lo avrebbe sfruttato per modificare dati personali e accedere a fatture.
Secondo Pérez Bes, l’elemento rilevante non consiste nella compromissione o nella natura intenzionalmente malevola del modello AI o dell’infrastruttura del fornitore. La novità, dal punto di vista della protezione dei dati, è l’uso dell’agente per concatenare rapidamente diverse fasi dell’attacco.
L’avvertimento dell’autorità
L’AEPD ha invitato le aziende a includere esplicitamente gli attacchi assistiti o condotti dall’intelligenza artificiale nelle valutazioni dei rischi legati al trattamento dei dati personali. L’autorità ha inoltre evidenziato la necessità di rivedere i tempi di risposta agli incidenti.
Procedure pensate per attacchi eseguiti manualmente potrebbero infatti non essere sufficienti quando un agente AI è in grado di analizzare più risorse contemporaneamente, testare diversi percorsi di attacco e adattare rapidamente il proprio comportamento in base ai risultati ottenuti.
Pérez Bes ha infine sottolineato il ruolo crescente delle identità digitali e delle credenziali. Un agente dotato di un account o di una chiave API potrebbe operare alla velocità delle macchine e spostarsi tra servizi diversi prima che l’organizzazione riesca a rilevare l’attività anomala.