Meta ha lanciato Video Seal, un nuovo strumento open source per applicare watermark invisibili ai video generati dall'intelligenza artificiale. L'annuncio è stato dato venerdì scorso dall'azienda di Mark Zuckerberg, che mira a contrastare la diffusione di deepfake e disinformazione.
La proliferazione di contenuti video manipolati rappresenta una seria minaccia. Secondo un recente sondaggio di Ofcom, due intervistati su cinque affermano di aver visto almeno un deepfake negli ultimi sei mesi. Video Seal si propone come soluzione robusta ed efficiente per identificare i video AI, consentendo a fact-checker e media di verificarne l'autenticità.
Pierre Fernandez, ricercatore del dipartimento IA di Meta, ha spiegato: "Abbiamo sviluppato Video Seal per fornire una soluzione di watermarking video più efficace, in particolare per rilevare i video generati dall'IA e proteggere l'originalità". Lo strumento è progettato per resistere alla compressione tipica delle piattaforme social, superando i limiti delle soluzioni esistenti.
Video Seal si affianca a Watermark Anything per immagini e Audio Seal per l'audio, completando la suite di strumenti anti-deepfake di Meta. Secondo l'azienda, offre una maggiore resistenza alla rimozione rispetto a software simili di DeepMind e Microsoft, sebbene Fernandez ammetta che compressioni pesanti o modifiche significative potrebbero alterare o rendere irrecuperabili i watermark.
La vera sfida ora è l'adozione diffusa dello strumento. Per incentivarne l'utilizzo, Meta lancerà una classifica pubblica chiamata Meta Omni Seal Bench per confrontare le prestazioni dei vari metodi di watermarking. Inoltre, l'azienda sta organizzando workshop alla conferenza AI ICLR del prossimo anno.
Fernandez ha dichiarato: "Speriamo che più sviluppatori di soluzioni IA integrino il watermarking nel loro lavoro. Vogliamo collaborare con l'industria e la comunità accademica per progredire più rapidamente in questo campo".
L'iniziativa di Meta rappresenta un passo importante nella lotta alla disinformazione generata dall'IA, in un momento in cui l'industria dell'intelligenza artificiale sta avanzando rapidamente con pochi controlli. Video Seal si propone come strumento concreto per arginare alcuni degli effetti collaterali più preoccupanti di questa tecnologia in rapida evoluzione.