Lensa si è rivelata un gran successo globale: più di 4 milioni di persone in tutto il mondo hanno scaricato l’app soltanto nei primi cinque giorni dello scorso dicembre, spendendo più di otto milioni di dollari. Si tratta di un servizio che utilizza un’IA per generare avatar di qualsiasi tipo, partendo dai selfie che l’utente carica nell’app.
Tuttavia, le immagini generate hanno sin da subito sollevato dei dubbi.
Privacy
Prima di utilizzare l’app, sarebbe bene dedicare almeno un minuto all’informativa privacy e alle condizioni d’uso per comprendere in che modo l’app utilizza i dati. «Dobbiamo sempre essere consapevoli quando i nostri dati biometrici vengono utilizzati per un qualsiasi scopo. Si tratta di dati sensibili, dovremmo essere molto cauti», spiega il responsabile della ricerca sull’etica e sull’innovazione presso l’Alan Turing Institute.
Secondo Andrey Usoltev, CEO di Prisma Labs, l’azienda produttrice di Lensa, ha dichiarato a Wired US che l’azienda sta lavorando ad un aggiornamento dell’informativa sulla privacy. «Lensa utilizza una copia del modello di Stable Diffusion, a cui insegna a riconoscere il volto sulle immagini caricate per ogni caso particolare. Ciò significa che esiste un modello separato per ogni singolo utente».
«Le foto degli utenti», continua, «sono eliminate dai nostri server non appena vengono generati gli avatar. I server si trovano negli Stati Uniti».
Lensa ha un problema con le donne
Chiunque abbia provato ad utilizzare Lensa IA si è accorto che qualcosa è andato storto.
Per riuscire a testare il software basta caricare 10 immagini, così come richiesto dall’app. In questo modo l’intelligenza artificiale che sta alla base dell’app genera i Magic Avatar, ovvero dei selfie trasformati in opera d’arte.
Il risultato, per una donna, non è un dipinto ad olio con tratti stilizzati, ma un’eccessiva sessualizzazione delle immagini caricate, con seni grandi, spalle scoperte e sguardi ammiccanti. Femme fatale immersa nella natura, protagonista di un manga erotico, eroina spaziale: si ottengono una sfilza di immagini in cui il volto e il corpo diventano oggetti di un desiderio tipicamente maschilista.
Misoginia e razzismo
La sessualizzazione delle persone che caricano i selfie del volto, oltre ad essere disturbante, risulta anche pericolosa. Brandee Barker, una femminista che ha lavorato nel mondo della tecnologia ha scritto su Twitter: «Sono solo io o queste app di generatori di selfie AI stanno perpetuando la misoginia?».
Un’altra donna che ha visto comparire sue immagini di nudo all’interno dell’app ha dichiarato: «Onestamente mi sono sentita molto violata dopo averle viste».
Lensa non è soltanto un’app misogina, ma è anche razzista. Donne nere sostengono che Lensa abbia anglicizzato i loro tratti e sbiancato la loro pelle. Donne asiatiche, invece, si sono lamentate di come l’IA abbia occidentalizzato il loro volto, oppure di come le abbia riprodotte in stile manga erotico. L’intelligenza artificiale è intervenuta anche sul peso, dato che le donne vengono sempre ritratte magre e snelle.
La cosa peggiore in tutto questo è che anche i minori non sfuggono alla sessualizzazione dell’app. Una ricercatrice dell’UCLA, Olivia Snow, ha caricato delle foto della sua infanzia, ottenendo dei ritratti in stile lolita, con un corpo da adulta scoperto e un viso da bambina con ammiccamenti erotici.
Iscriviti al canale Telegram di Servicematica
Notizie, aggiornamenti ed interruzioni. Tutto in tempo reale.
Lensa potrebbe diventare una fabbrica per la generazione di materiale pornografico e pedopornografico. Il tutto all’insaputa del soggetto che ha caricato le foto sull’app.
L’IA sarebbe stata addestrata attraverso contenuti trovati online non filtrati: dunque, le immagini riflettono i pregiudizi delle persone.
I creatori dell’app sostengono che «il prodotto non è destinato all’uso di minori e noi avvertiamo gli utenti sui potenziali rischi del contenuto. Ci asteniamo anche dall’utilizzare tali immagini nel nostro materiale promozionale».
——————————–
LEGGI ANCHE:
Addio al monopolio di Android e iOS: arriva BharOs, un nuovo sistema operativo indiano
«Ora buon senso»: Meloni invita Nordio a limitare le esternazioni
