Hiya ha lanciato un'estensione gratuita per Chrome in grado di rilevare le voci deepfake. Si chiama "Hiya Deepfake Voice Detector" e analizza l'audio di video e streaming, assegnando un punteggio di autenticità per determinare se la voce è reale o artificiale.
Secondo quanto dichiarato da Hiya a Engadget, l'estensione ha un'accuratezza superiore al 99%, validata da test di terze parti. La tecnologia sarebbe in grado di rilevare anche voci generate da modelli AI su cui non è stata specificamente addestrata, inclusi quelli appena lanciati sul mercato.
Il presidente di Hiya, Kush Parikh, ha criticato i social media per non aver ancora implementato sistemi di allerta sui contenuti potenzialmente manipolati: "È chiaro che i siti di social media hanno una grande responsabilità nell'avvisare gli utenti quando il contenuto che stanno consumando ha un'alta probabilità di essere un deepfake AI".
Il funzionamento si basa su un sistema a crediti: ogni utente riceve 20 crediti giornalieri per effettuare le verifiche, al fine di evitare un sovraccarico dei server di Hiya. Questo potrebbe non essere sufficiente per analizzare tutti i contenuti sospetti che si incontrano quotidianamente sui social media.
Giusto in tempo per le elezioni USA
Il lancio di questo strumento a ridosso delle elezioni presidenziali americane del 2024 solleva importanti questioni sulla manipolazione dell'informazione attraverso l'uso di tecnologie AI sempre più sofisticate. La capacità di rilevare voci artificiali potrebbe rivelarsi cruciale per contrastare la diffusione di fake news e contenuti ingannevoli durante la campagna elettorale.
Tuttavia, emerge anche la necessità di una maggiore responsabilità da parte delle piattaforme social nel contrastare la disinformazione, senza delegare completamente questo compito agli utenti e a strumenti di terze parti.