Un team di Google DeepMind ha implementato con successo un sistema di filigrana AI per identificare automaticamente i testi generati dal chatbot Gemini. La tecnologia è stata utilizzata per mesi e ora verrà resa disponibile anche ad altri sviluppatori di intelligenza artificiale.
Il sistema di filigrana utilizza un algoritmo di "campionamento a torneo" per influenzare con efficacia la selezione delle parole durante la generazione del testo, creando una firma statistica rilevabile dal software associato. Il risultato è che questo approccio rende più complesso qualsiasi tentativo di rimuovere o aggirare la filigrana.
Pushmeet Kohli di Google DeepMind ha dichiarato:
"Sebbene SynthID non sia una soluzione definitiva per identificare i contenuti generati dall'IA, è un importante elemento per sviluppare strumenti di identificazione dell'IA più affidabili".
Il metodo è stato testato su 20 milioni di risposte generate da Gemini, dimostrando di funzionare senza influire negativamente sulla qualità del testo prodotto. I ricercatori hanno precisato che la filigrana funziona meglio con risposte più lunghe e variegate, come saggi o email, mentre non è stata ancora testata su problemi matematici o di codifica.
Per quanto nessun metodo di filigrana noto sia a prova di errore, questo strumento potrà aiutare a intercettare una parte della disinformazione generata dall'IA e dei plagi accademici, i quali rappresentano un grosso problema dalla diffusione dei chatbot.
La mossa di Google di rendere disponibile una versione open-source della sua tecnica potrebbe incoraggiare altri sviluppatori di IA generativa ad adottare approcci simili, contribuendo a creare un ecosistema più trasparente e responsabile per l'uso dell'intelligenza artificiale.