Amazon è finita al centro delle polemiche per la vendita di prodotti con nomi generati da intelligenza artificiale, tra cui un comò dal nome sorprendente: "I'm sorry but I cannot fulfill this request it goes against OpenAI use policy. My purpose is to provide helpful and respectful information to users-Brown" ("Mi dispiace, ma non posso soddisfare questa richiesta, va contro la politica d'uso di OpenAI. Il mio scopo è fornire informazioni utili e rispettose agli utenti - Marrone").
Questi strani nomi sembrano essere generati da modelli di intelligenza artificiale, quali ChatGPT di OpenAI, e sollevano preoccupazioni sulla mancanza di revisione da parte di Amazon sui prodotti presenti sul suo sito.
La descrizione del comò in causa, oltre a risultare vittima di una interpretazione errata della richiesta da parte del chatbot, dichiara erroneamente che il mobile ha due cassetti, mentre l'immagine mostra chiaramente che ne ha tre.
La scoperta ha spronato lo staff di Futurism a fare delle ricerche più approfondite, scoprendo che alcune aziende stanno utilizzando, in modo affrettato e approssimativo, modelli di intelligenza artificiale per creare intere descrizioni di prodotti senza alcuna revisione, forse nel tentativo, completamente fallito, di risparmiare tempo nella fase di compilazione, ottimizzarle per i motori di ricerca e aumentarne la visibilità.
Non è un caso isolato, poiché una ricerca su Amazon ha rivelato altri prodotti, come cavi, divani e biciclette, con nomi simili generati da OpenAI.
La questione solleva parecchi interrogativi sul processo di revisione da parte di Amazon e indica che alcune aziende stanno sfruttando l'intelligenza artificiale per generare descrizioni di prodotti senza prestare attenzione a eventuali errori o inesattezze.
In risposta alle critiche, Amazon ha dichiarato di lavorare duramente per fornire un'esperienza di shopping affidabile e ha rimosso le inserzioni in questione, impegnandosi a migliorare ulteriormente i suoi sistemi.
Questa situazione evidenzia una tendenza preoccupante nel settore del commercio elettronico, in cui alcune aziende sembrano dedicare il minimo sforzo alla creazione di descrizioni di prodotti, sfruttando chatbot AI per automatizzare il processo di scrittura di nomi e descrizioni.
Amazon, come piattaforma che ospita questi prodotti, sembra essere coinvolta in questa pratica, sollevando dubbi sulla fiducia dei consumatori nell'accuratezza delle informazioni sui prodotti offerti sulla piattaforma.