I guardiani dell'intelligenza artificiale: nel mondo ad alto rischio del rilevamento delle frodi

Sono le 2 del mattino al centro di comando per la sicurezza informatica di Western Union, e Maya Patel non batte ciglio da quello che sembrano ore. Tre insoliti modelli di transazioni sono appena stati segnalati dal sistema di rilevamento frodi basato sull'intelligenza artificiale dell'azienda. Una raffica di trasferimenti di denaro da conti in Nebraska all'Ucraina, tutti appena al di sotto della soglia di segnalazione. Troppo simili per essere una coincidenza, troppo perfetti per essere casuali. "È la terza volta questa settimana", borbotta Maya, toccando la tastiera con precisione esperta. Dietro di lei, enormi schermi mostrano visualizzazioni colorate dei flussi di transazioni globali. Il suo assistente AI ha già compilato un rapporto, evidenziando in rosso i modelli sospetti. Anni fa, un team di analisti avrebbe impiegato giorni per individuarli. Ora bastano pochi secondi.

Stiamo assistendo a una guerra silenziosa, combattuta non con armi e bombe, ma con algoritmi e dati. Man mano che le transazioni digitali sono diventate la spina dorsale della nostra economia, le frodi finanziarie si sono evolute da semplici truffe ad attacchi sofisticati orchestrati da organizzazioni criminali internazionali e hacker sponsorizzati da stati.
Solo nel 2023, le frodi sono costate all'economia globale oltre 5,5 trilioni di dollari. Il campo di battaglia è ovunque: transazioni con carta di credito, richieste di prestito, richieste di risarcimento assicurativo e, sempre più spesso, exchange di criptovalute.
"La maggior parte delle persone non si rende conto di essere protetta dall'intelligenza artificiale ogni volta che striscia la carta", afferma il Dott. Raj Sharma, Chief Data Scientist di Mastercard. "I sistemi che abbiamo sviluppato analizzano oltre 75 miliardi di transazioni all'anno, prendendo decisioni in una frazione di secondo sull'approvazione o il rifiuto. E diventano ogni giorno più intelligenti."
Sono seduto nel Technology Hub di Mastercard a New York, dove il Dott. Sharma mi mostra le visualizzazioni delle loro reti neurali al lavoro. I display mi ricordano delle costellazioni, con nodi luminosi che si illuminano mentre i modelli emergono dal mare di dati.

Il rilevamento tradizionale delle frodi si basava su regole rigide: se una transazione soddisfa determinati criteri, viene segnalata per la revisione. Ma i truffatori più esperti hanno imparato rapidamente a manipolare questi sistemi.
"Le regole sono come le serrature", spiega Sarah Chen, ex specialista in criminalità informatica dell'FBI che ora gestisce la propria società di consulenza sulla sicurezza. "Una volta che qualcuno capisce come funzionano, può forzarle. Quello di cui avevamo bisogno era una serratura che cambiasse costantemente il suo meccanismo."
Entra in gioco il machine learning. Invece di seguire regole esplicite, i moderni sistemi di intelligenza artificiale imparano da modelli storici, identificando sottili correlazioni che gli analisti umani potrebbero non notare.
Presso la sede centrale dell'elaboratore di pagamenti Stripe a San Francisco, mi viene mostrata una dimostrazione del loro sistema di rilevamento delle frodi. Il team gli invia una serie di transazioni, alcune legittime, altre fraudolente. L'intelligenza artificiale non si limita a individuare i segnali d'allarme più evidenti, ma nota anche che le transazioni fraudolente spesso provengono da account creati nel fine settimana o tendono ad avere schemi di digitazione leggermente diversi durante l'inserimento delle informazioni.
"Gli esseri umani sono creature abitudinarie", afferma Miguel Gonzalez, Direttore Rischi di Stripe. "Anche i truffatori più attenti lasciano degli schemi. I nostri sistemi sono in grado di rilevare la frequenza di battitura dei tasti, i movimenti del mouse e persino il modo in cui qualcuno naviga su un sito web. Questi dati biometrici comportamentali sono quasi impossibili da imitare perfettamente."

Nonostante la meraviglia tecnologica, la competenza umana rimane cruciale. Presso il centro di gestione del rischio di PayPal a Omaha, gli analisti esaminano i casi segnalati dai sistemi di intelligenza artificiale, fornendo feedback che contribuiscono al miglioramento degli algoritmi.
"L'intelligenza artificiale è la nostra prima linea di difesa, ma non è infallibile", afferma Jennifer Wu, analista senior del settore frodi. "A volte le transazioni legittime sembrano sospette, e a volte le frodi sono così nuove che il sistema non ha mai visto nulla di simile prima. Abbiamo bisogno del giudizio umano per prendere la decisione finale in questi casi limite."
Questo approccio ibrido, che combina la potenza di elaborazione dell'intelligenza artificiale con l'intuizione umana, si è dimostrato straordinariamente efficace. Visa segnala che il suo sistema di rilevamento delle frodi basato sull'intelligenza artificiale ha contribuito a prevenire circa 25 miliardi di dollari di tentativi di frode solo nell'ultimo anno.

Con l'aumentare della sofisticatezza dei sistemi di rilevamento, aumentano anche gli attacchi. I truffatori ora utilizzano l'IA stessa, creando deepfake per aggirare i sistemi di autenticazione vocale o generando identità sintetiche in grado di superare i controlli di verifica. "È una corsa agli armamenti", sospira la Dott.ssa Emily Rosenberg, ricercatrice in sicurezza informatica al MIT. "Ogni volta che sviluppiamo difese migliori, loro sviluppano attacchi migliori. Il vantaggio è che l'IA difensiva può imparare da milioni di transazioni legittime, mentre i truffatori hanno dati limitati con cui lavorare." La guardo mentre dimostra un nuovo tipo di attacco: una rete generativa avversaria (GAN) che crea modelli di utilizzo delle carte di credito fittizi ma credibili. Il sistema è inquietantemente efficace, ma fa comunque scattare alcuni allarmi nei moderni sistemi di rilevamento.

Le tecniche sperimentate per la prima volta nel rilevamento delle frodi finanziarie vengono ora applicate in tutti i settori. Le compagnie assicurative utilizzano sistemi di intelligenza artificiale simili per segnalare richieste di rimborso sospette. Le piattaforme di e-commerce li impiegano per rilevare recensioni false e prodotti contraffatti. Le agenzie governative li utilizzano per identificare l'evasione fiscale e le frodi sui benefit.
Presso Anthem, fornitore di assicurazioni sanitarie, i sistemi di intelligenza artificiale analizzano milioni di richieste di rimborso ogni giorno, alla ricerca di schemi che potrebbero indicare pratiche di fatturazione fraudolente da parte degli operatori sanitari.
"Le frodi sanitarie costano ai contribuenti americani circa 300 miliardi di dollari all'anno", mi afferma il Dott. Marcus Johnson, Chief Analytics Officer di Anthem. "I nostri sistemi hanno contribuito a identificare diverse reti di frode organizzate che operano in diversi stati. In un caso, abbiamo individuato una rete di cliniche che fatturavano per procedure mai eseguite, con un potenziale risparmio di centinaia di milioni di dollari in richieste di rimborso fraudolente."

L'efficacia di questi sistemi solleva spinose questioni relative alla privacy. Più dati significano una migliore individuazione delle frodi, ma anche un maggiore rischio di abusi.
"C'è sempre una tensione tra sicurezza e privacy", ammette Elena Vasiliev, sostenitrice della privacy che in precedenza ha lavorato ai sistemi di rilevamento delle frodi presso American Express. "Le stesse tecniche che possono individuare le frodi possono essere utilizzate anche per la sorveglianza. Dobbiamo prestare attenzione alla quantità di informazioni che raccogliamo e a come le utilizziamo".
Alcune aziende stanno esplorando tecniche come l'apprendimento federato, che consente di addestrare modelli di intelligenza artificiale su più fonti di dati senza centralizzare le informazioni sensibili. Altre stanno investendo nella crittografia omomorfica, che consente l'analisi dei dati crittografati senza doverli prima decifrare.

Mentre lascio il centro di comando di Western Union all'alba, Maya Patel ha bloccato con successo le transazioni sospette e ha presentato una segnalazione all'unità criminalità informatica dell'FBI. Il sistema ha già aggiornato i suoi modelli per riconoscere questo specifico schema di frode.
La prossima frontiera nel rilevamento delle frodi riguarda l'informatica quantistica e l'intelligenza artificiale spiegabile: sistemi in grado non solo di rilevare le frodi, ma anche di spiegare chiaramente perché hanno segnalato una determinata transazione. Questa trasparenza sarà fondamentale con l'inasprimento delle normative sui processi decisionali basati sull'intelligenza artificiale.
"Dieci anni fa, stavamo cercando di recuperare terreno", mi dice Maya mentre ci dirigiamo verso l'ascensore. "Ora stiamo iniziando a superare i truffatori. Ma non è una battaglia che vinceremo mai completamente. Finché ci saranno soldi da guadagnare, la gente cercherà di aggirare il sistema."
Fa una pausa prima di aggiungere: "La buona notizia è che i nostri strumenti migliorano ogni giorno. E a differenza dei truffatori, possiamo condividere informazioni in tutto il settore. Ogni attacco ci rende tutti più forti."
Con la continua crescita del volume e della complessità delle transazioni digitali, questo scudo invisibile di protezione basato sull'intelligenza artificiale diventerà sempre più importante. La prossima volta che la tua società di carte di credito ti invierà un SMS per verificare un acquisto insolito, ricorda: è solo la punta visibile di un iceberg tecnologico, che protegge silenziosamente la tua vita finanziaria 24 ore su 24.
I sistemi di rilevamento delle frodi basati sull'intelligenza artificiale renderanno finalmente le frodi finanziarie un ricordo del passato? O saremo sempre intrappolati in questo gioco del gatto e del topo digitale, con attacchi e difese sempre più sofisticati? Una cosa è certa: il futuro della sicurezza finanziaria sarà plasmato tanto dalle linee di codice quanto dalle persone che le scrivono.