L'enciclopedia online Wikipedia sta affrontando una crisi di editing causata dall'uso improprio dell'intelligenza artificiale. Un gruppo di volontari, denominato WikiProject AI Cleanup, sta lavorando per rimuovere informazioni false generate da chatbot come ChatGPT, che stanno inondando il sito con contenuti privi di senso.
Il problema è emerso quando gli editori di Wikipedia hanno iniziato a notare passaggi chiaramente scritti da intelligenze artificiali. Ilyas Lebleu, membro fondatore del team di pulizia, ha spiegato: "Abbiamo notato la prevalenza di scritti innaturali che mostravano chiari segni di essere generati dall'AI, e siamo riusciti a replicare 'stili' simili usando ChatGPT".
1: AI is hallucinating events, historical figures, entire concepts on Wikipedia
— Jason Koebler (@jason_koebler) October 9, 2024
2: a task force of Wikipedia editors is detecting and deleting this stuff https://t.co/PlfzVCZd4P
Gli esempi di contenuti falsi generati dall'AI includono un articolo dettagliato su una fortezza ottomana del XV secolo chiamata "Amberlisihar", che in realtà non è mai esistita. Il problema non si limita ai nuovi articoli, ma coinvolge anche l'inserimento di informazioni false in articoli esistenti già verificati dagli editori volontari.
Le ragioni principali di questa crisi sembrano essere due:
- Il modello aperto di Wikipedia, che permette a chiunque di diventare editore.
- La tendenza di alcuni utenti ad abusare delle piattaforme online semplicemente perché possono farlo.
Questo fenomeno non è nuovo nel mondo dell'intelligenza artificiale. In passato abbiamo assistito a casi simili, come quello di Tay, il bot di Microsoft su Twitter che fu disattivato dopo meno di 24 ore per aver iniziato a pubblicare tweet volgari e razzisti.
Le sfide per Wikipedia
La situazione attuale pone serie sfide per Wikipedia, che si basa sul lavoro di volontari per mantenere l'accuratezza dei suoi contenuti. La facilità con cui l'AI può generare testi apparentemente plausibili rende il compito di verifica ancora più complesso.
Lebleu e i suoi colleghi editori non sono certi delle motivazioni dietro queste azioni, ma è chiaro che quando milioni di persone hanno accesso illimitato a una piattaforma, una piccola percentuale tenderà ad abusarne, sia per guadagno illecito che per puro divertimento.
Questa crisi sottolinea la necessità di sviluppare strumenti e processi più efficaci per individuare e rimuovere i contenuti generati dall'AI, preservando l'integrità e l'affidabilità di Wikipedia come fonte di informazioni.