ChatGPT ora è davvero bravo a generare falsi scontrini

L'intelligenza artificiale al servizio delle truffe: i falsi scontrini generati da ChatGPT 4o preoccupano gli esperti di sicurezza informatica. Il nuovo modello dell'azienda di Sam Altman, lanciato questo mese, si distingue per la capacità di generare testi all'interno delle immagini con una precisione mai vista prima, aprendo però scenari inquietanti sul fronte delle potenziali frodi. Numerosi utenti hanno già dimostrato come sia possibile creare ricevute fiscali pressoché indistinguibili da quelle reali, sollevando interrogativi sulla responsabilità dei produttori di AI e sull'urgenza di nuove forme di verifica dell'autenticità dei documenti nell'era digitale.

Sui social network hanno iniziato a circolare esempi impressionanti di scontrini falsi generati con ChatGPT 4o. Per esempio, il venture capitalist Deedy Das ha pubblicato su X l'immagine di una ricevuta artificiale di una nota steakhouse di San Francisco, completamente creata dall'intelligenza artificiale. "Potete usare 4o per generare falsi scontrini", ha avvertito Das. "Ci sono troppi processi di verifica nel mondo reale che si basano su 'immagini reali' come prova. Quell'era è finita".

Altri utenti hanno replicato l'esperimento, migliorando ulteriormente il realismo delle ricevute generate. Alcuni hanno aggiunto macchie di cibo o bevande, altri hanno simulato pieghe della carta, rendendo i falsi ancora più credibili. L'esempio più convincente individuato da TechCrunch proviene dalla Francia, dove un utente LinkedIn ha pubblicato lo scontrino stropicciato di una catena di ristoranti locale, completamente generato dall'intelligenza artificiale ma difficilmente riconoscibile come falso.

Il rischio concreto è che questa tecnologia venga sfruttata per frodi di vario tipo, come false richieste di rimborso per spese mai sostenute. La facilità con cui questi documenti possono essere generati rappresenta una minaccia significativa per i sistemi di controllo tradizionali basati sulla verifica visiva dei documenti, aprendo potenzialmente la strada a nuove forme di criminalità digitale.

Interpellata sulla questione, la portavoce di OpenAI Taya Christianson ha sottolineato che tutte le immagini create con ChatGPT includono metadati che ne indicano l'origine artificiale. Ha inoltre affermato che l'azienda "prende provvedimenti" quando gli utenti violano le politiche d'uso e che è "sempre in fase di apprendimento" dall'utilizzo reale e dal feedback degli utenti.

Quando all'azienda è stato chiesto esplicitamente perché ChatGPT consenta di generare falsi scontrini, e se questo sia in linea con le politiche di OpenAI (che vietano esplicitamente le frodi), la risposta ha sollevato ulteriori interrogativi. Christianson ha dichiarato che l'obiettivo di OpenAI è offrire agli utenti la massima libertà creativa possibile, aggiungendo che i falsi scontrini generati dall'AI potrebbero avere utilizzi legittimi, come "insegnare l'alfabetizzazione finanziaria" o creare pubblicità originali.

Questa giustificazione appare debole a molti esperti di sicurezza informatica, che sottolineano come la stessa tecnologia che permette di generare contenuti creativi possa essere facilmente impiegata per scopi fraudolenti. La linea sottile tra innovazione tecnologica e responsabilità sociale diventa sempre più sfumata, mentre gli strumenti di generazione di contenuti diventano sempre più sofisticati e accessibili.

La capacità dei modelli AI di ultima generazione di creare immagini iper-realistiche, complete di testi perfettamente integrati, rappresenta un punto di svolta significativo. Se fino a poco tempo fa i contenuti generati dall'intelligenza artificiale presentavano incongruenze facilmente rilevabili, oggi le imperfezioni sono sempre più difficili da individuare, persino per osservatori esperti e sistemi di verifica automatizzati.