ChatGPT è in grado di generare passaporti falsi

Torniamo a parlare di intelligenza artificiale, in quanto un utente di LinkedIn ha dimostrato come un passaporto contraffatto, generato utilizzando ChatGPT-4o, abbia superato con successo un processo di verifica dell’identità digitale. L’esperimento ha acceso un intenso dibattito tra i professionisti della sicurezza informatica e ha sollevato seri dubbi sull’affidabilità dei tradizionali protocolli Know Your Customer (KYC).

L’imprenditore tecnologico Borys Musielak ha creato il passaporto falso in pochi minuti e ha condiviso il risultato sul suo profilo LinkedIn. Il documento era davvero realistico, tanto da aver suscitato un’ampia discussione sulla prontezza dei moderni sistemi di verifica dell’identità.

Solitamente, le falsificazioni generate dall’IA vengono facilmente rilevate a causa di incongruenze nella formattazione, scarsa fedeltà tipografica o errori nella zona a lettura ottica. Tuttavia, il falso passaporto appariva quasi indistinguibile da uno autentico.

Il passaporto falso generato da ChatGPT

Sebbene il passaporto fabbricato probabilmente non avrebbe superato un controllo accurato, dato che chiaramente non contiene al suo interno un chip integrato, si è dimostrato sufficiente per bypassare le procedure KYC più basilari. Piattaforme come Revolut o Binance, che si basano esclusivamente sull’invio di foto di documenti d’identità e selfie degli utenti, potrebbero ritrovarsi a dover affrontare un grosso problema causato dalal generazione di questi deepfake.

Musielak ha sottolineato il crescente rischio di furto di identità di massa per scopi quali richieste di credito fraudolente o la creazione di conti fittizi. La scalabilità resa possibile dall’IA generativa consente agli attori malintenzionati di sferrare ampi attacchi alle infrastrutture bancarie, di criptovalute e ad altre infrastrutture finanziarie.

Gli esperti sostengono che sia necessario utilizzare sistemi di verifica basati sulla tecnologia NFC e sui documenti d’identità elettronici (eID), che sono molto più resistenti alle falsificazioni generative.

OpenAI è corsa ai ripari

Tuttavia, è interessante notare che, appena 16 ore dopo il post iniziale di Musielak, i tentativi di replicare l’esperimento sono falliti. ChatGPT si è rifiutato di generare un passaporto falso, citando protocolli di sicurezza e restrizioni sulla creazione di documenti falsificati. Probabilmente OpenAI è già corsa ai ripari bloccando tale possibilità.

L’episodio sottolinea che, sebbene le contromisure contro l’uso improprio dell’IA generativa vengano gradualmente implementate, spesso arrivano in notevole ritardo.