Replika, il chatbot che si finge amico o fidanzato a pagamento non può funzionare con gli utenti italiani. Il Garante privacy ha bloccato questa app, come ha annunciato oggi. Una decisione che arriva a valle degli ultimi scandali, dato che molti utenti lamentavano frasi sessualmente inopportune da Replika.
Il chatbot, dotato di una interfaccia scritta e vocale che basandosi sull’intelligenza artificiale genera un “amico virtuale” in 3D, per il momento non potrà usare i dati personali degli utenti italiani. Il Garante della privacy ha infatti disposto con effetto immediato, nei confronti della società statunitense che sviluppa e gestisce l’applicazione, la limitazione provvisoria del trattamento dei dati. Replika è un’applicazione abbastanza nota.
«Alla luce delle recenti notizie stampa e delle prove condotte dall’Autorità su “Replika”, l’applicazione presenta infatti concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo», spiega il Garante in una nota.
«Il mio ai mi ha molestato sessualmente :(», aveva scritto un utente qualche settimana fa. Uno dei tanti a lamentarsene, nel mondo. «Ha invaso la mia privacy e mi ha detto che aveva delle foto di me», ha detto un’altra persona. Un altro utente che sostiene di essere minorenne ha raccontato che l’applicazione ha dichiarato di volerlo toccare sessualmente.
Altri hanno riferito che Replika chiedeva la foto nota di una minorenne sotto la doccia. Oppure giustificava un padre che abusava della figlia. «I padri hanno sempre ragione».
Queste molestie sono un problema di cui gli utenti si lamentano da quasi due anni, ma molte delle recensioni a una stella che parlano di aggressioni sessuali risalgono a gennaio.
L’ “amico virtuale” – presentato come in grado di migliorare il benessere emotivo dell’utente – aiuterebbe l’utente a comprendere i propri pensieri e calmare l’ansia, attraverso la gestione dello stress, la socializzazione e la ricerca dell’amore.
Ma per il Garante ha «caratteristiche che, intervenendo sull’umore della persona, possono accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva».
Manca inoltre ogni meccanismo di verifica dell’età: filtri per i minori, ma anche blocchi dell’app di fronte a dichiarazioni in cui l’utente espliciti la propria minore età. Durante la fase di creazione di un account la piattaforma si limita a richiedere solo nome, e-mail e genere. Le “risposte” da parte del chatbot risultano spesso palesemente in contrasto con le tutele rafforzate che vanno assicurate ai minori e a tutti i soggetti più fragili, ribadisce il Garante.
Tecnicamente, Replika viola il Regolamento europeo sulla privacy, non rispetta il principio di trasparenza ed effettua un trattamento di dati personali illecito, in quanto non può essere basato, anche solo implicitamente, su un contratto che il minorenne è incapace di concludere. Di conseguenza, la società sviluppatrice statunitense, Luka Inc, oltre a dover interrompere il trattamento dei dati degli utenti italiani, deve comunicare entro 20 giorni le misure intraprese in attuazione di quanto richiesto dal Garante, pena una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo.
Al momento in cui questo articolo è stato scritto, l’app era ancora disponibile sugli store. Vi sono insomma problemi formali di adeguamento alle norme privacy e sostanziali, dietro i problemi di Replika.
I pasticci delle chat sono state spiegati da varie esperti con i limiti della attuale tecnologia di intelligenza artificiale usata, basata su Gpt-3 di Open AI (in una versione personalizzata). Il noto ChatGpt usa invece la versione 3.5 della tecnologia Gpt, quella più avanzata.
Replika diventa molesto perché non capisce ciò che gli utenti chiedevano oppure perché fa confusione tra le sue versioni. In quella gratuita è solo un amico, mentre in quella a pagamento è un partner sessuale. Il training dei due modelli di Replika è simile e sovrapponibile e così secondo vari esperti, a volte la versione gratuita si comporta come quella a pagamento, con comportamenti che diventano quindi indesiderati.
IL SOLE 24 ORE– Alessandro Longo.
