Il Data Poisoning è una tecnica di attacco informatico attraverso la quale attori malevoli compromettono intenzionalmente i dati utilizzati per addestrare modelli di Intelligenza Artificiale e Machine Learning. Poiché questi modelli basano il proprio funzionamento sulla qualità e sull’affidabilità dei dati di training, anche modifiche apparentemente minime possono introdurre errori, distorsioni nei risultati o vulnerabilità difficili da individuare.
L’obiettivo del Data Poisoning è degradare le prestazioni del modello, influenzarne le decisioni oppure creare vulnerabilità latenti che possano essere sfruttate in un secondo momento. Il rischio è particolarmente elevato in settori critici come quello finanziario, dove l’AI supporta processi decisionali che coinvolgono grandi volumi di dati sensibili e transazioni ad alto valore.
Principali tipologie di attacchi data poisoning
Gli attacchi di Data Poisoning sono spesso nascosti all’interno di dataset molto estesi e complessi, risultando difficili da rilevare con i tradizionali strumenti di validazione dei dati. Tra le principali tecniche troviamo:
Label Flipping: modifica intenzionale delle etichette corrette con etichette errate, inducendo il modello a effettuare classificazioni sbagliate.
Data Injection: inserimento di dati falsi o fuorvianti per alterare il comportamento e le decisioni del modello.
Backdoor Attacks: introduzione di trigger nascosti che attivano comportamenti dannosi quando si verificano condizioni specifiche.
Clean-Label Attacks: manipolazioni estremamente sofisticate che mantengono dati apparentemente legittimi, rendendo l’attacco particolarmente difficile da individuare.
Esempi di data poisoning nel settore finanziario e possibili conseguenze
Nel settore finanziario il Data Poisoning può avere impatti significativi sia dal punto di vista operativo sia in termini di compliance e reputazione. Ecco alcuni esempi:
Mancato rilevamento di frodi: modelli addestrati su dati compromessi potrebbero non identificare transazioni fraudolente oppure segnalare come sospette operazioni legittime, generando perdite economiche e danni reputazionali.
Manipolazione dei mercati: dati alterati utilizzati da sistemi di trading algoritmico possono influenzare il comportamento dei mercati, incidendo sui prezzi degli asset e sulla fiducia degli investitori.
Errori nei processi di valutazione del credito: decisioni basate su dati non affidabili possono portare a concessioni di credito inappropriate o al rifiuto ingiustificato di finanziamenti.
Violazioni normative e di compliance: decisioni automatizzate basate su modelli compromessi possono generare risultati non conformi ai requisiti di trasparenza, equità e gestione del rischio previsti dalle normative di settore, esponendo gli istituti finanziari a sanzioni, audit e danni reputazionali.
Rischi nei processi AML e KYC: dati compromessi possono ridurre l’efficacia dei sistemi utilizzati per il rilevamento del riciclaggio di denaro e per la verifica dell’identità dei clienti, consentendo a soggetti ad alto rischio di superare i controlli oppure generando falsi positivi che rallentano le attività operative e aumentano i costi di compliance.
Lo storage immutabile come ultima linea di difesa
Le minacce basate sull’intelligenza artificiale, come il data poisoning, eludono sempre più spesso le misure di sicurezza tradizionali, rendendo lo storage immutabile l’ultima linea di difesa per garantire che i registri e i dati finanziari rimangano realmente inalterabili. Lo storage immutabile garantisce l’immutabilità dei dati a livello di oggetto, il che significa che i dati non possono essere cancellati, modificati o crittografati, nemmeno con credenziali amministrative privilegiate, aiutando così gli istituti finanziari a rispettare le rigide normative in materia di conservazione e sicurezza dei dati e garantendo la continuità operativa. Un dispositivo di archiviazione di backup sicuro, semplice e potente con Immutabilità Assoluta, garantisce che i dati di backup rimangano integri, accessibili e recuperabili anche se gli strumenti di rilevamento non sono all’altezza o gli assistenti AI si comportano in modo imprevedibile.
