Meta ha annunciato l'introduzione di utenti prodotti con l'intelligenza artificiale su Facebook per aumentare il coinvolgimento degli utenti. Connor Hayes, vicepresidente del prodotto per l'AI generativa di Meta, ha dichiarato al Financial Times che l'azienda prevede di integrare questi personaggi artificiali sulle proprie piattaforme "allo stesso modo degli account" reali.
L'iniziativa fa parte di una più ampia strategia di Meta per implementare prodotti basati sull'intelligenza artificiale. Gli utenti potranno creare i personaggi AI attraverso lo studio AI dell'azienda, interagendo con essi in modo simile a quanto avviene con profili reali. Hayes ha spiegato che questi personaggi "avranno biografie, foto del profilo e saranno in grado di generare e condividere contenuti basati sull'AI sulla piattaforma".
Lo studio AI di Meta, lanciato la scorsa estate, ha già generato centinaia di migliaia di personaggi artificiali, diventando rapidamente un terreno fertile per fidanzati e fidanzate virtuali. L'azienda prevede di espandere l'accesso allo studio AI a più paesi oltre gli Stati Uniti nei prossimi due anni, con l'obiettivo di rendere le interazioni con l'AI più sociali.
Oltre ai personaggi fittizi, lo studio AI consente agli influencer di Facebook e Instagram di creare versioni AI di se stessi con cui i follower possono interagire. Questa mossa segue il trend di altre piattaforme che hanno recentemente rilasciato funzionalità AI orientate ai creatori di contenuti, come lo strumento di generazione video AI di Snapchat.
L'introduzione di questi personaggi AI solleva, però, anche importanti questioni di sicurezza: esperienze precedenti con chatbot simili hanno mostrato come sia facile aggirare le protezioni, esponendo potenzialmente gli utenti minorenni a contenuti inappropriati. Inoltre, c'è un elevato rischio di diffusione di disinformazione.
Becky Owen, ex responsabile delle innovazioni per i creatori di Meta, ha avvertito:
"Senza solide misure di salvaguardia, le piattaforme rischiano di amplificare false narrazioni attraverso questi account guidati dall'AI". Owen ha anche sottolineato come questa mossa potrebbe danneggiare i creatori di contenuti umani, poiché "a differenza dei creatori umani, questi personaggi AI non hanno esperienze vissute, emozioni o la stessa capacità di relazionarsi".
Insomma, l'implementazione di personaggi AI su larga scala rappresenta una sfida significativa per Meta in termini di moderazione dei contenuti e prevenzione degli abusi, richiedendo un attento bilanciamento tra innovazione e responsabilità.