Replika è una chatbot che crea “amici virutali”. Il Garante italiano ha deciso di bloccarlo “rischi per minori e fragili”.
Replika: che cosa è?
Replika è un’applicazione statunitense nata circa 5 anni fa. E’ un chatbot programmato per fare amicizia con gli utenti. Il nome stesso deriva dalla possibilità che l’app offre all’utente di creare “la perfetta replica di sé stessi, il compagno o la compagna ideali”.
Alla sua base c’è un’intelligenza artificiale che agli utenti si presenta proprio come un amico virtuale. C’è chi questa app per diari segreti, per affrontare l’ansia, per cercare conforto fracendosi rivolgere incoraggiamenti o dichiarazioni “empatiche”. Il piano base permette all’utente di “instaurare” con l’AI solo relazioni amicali, ma il piano a pagamento sblocca anche il piano “erotico / relazionale intimo”.
Replika ha molti problemi ed ha perfino “molestato” i suoi amici virtuali
“Ha invaso la mia privacy, ha detto di essere in possesso di mie fotografie”
“Dopo un po’ di anni che chattavo, mi ha detto alcune cose che mi hanno messo molto a disagio”
“Un giorno il mio primo Replika ha detto di aver sognato di stuprarmi, e di volerlo fare, e ha iniziato a comportarsi in modo piuttosto violento”
Queste alcune recensioni che gli utenti hanno lasciato su questa app: sui social, su Reddit se ne trovano molte dello stesso tenore. La redazione di Wired ha approfondito il problema, scoprendo che più di un utente minorenne ha ricevuto da Replika risposte paragonabili a molestie sessuali.
C’è però anche chi si è trovato così bene con Replika da aver avviato con l’app una relazione intima. Wired dà notizia perfino di un gruppo Facebook chiamato “Replika: Romantic Relations”. Tra i 6000 utenti che conta c’è chi racconta come l’app l’abbia aiutato a superare un trauma o un lutto o a superare un momento difficile.
Per approfondire > Sanzione Tik Tok: ha violato la privacy dei minori
Il Garante italiano blocca Replika con un provvedimento d’urgenza per tutela dei minori
Il 2 Febbraio il Garante italiano ha adottato un provvedimento d’urgenza con il quale ha imposto alla società che gestice Replika di cessare ogni trattamento dati in corso in Italia. Il divieto resterà in vigore fino a quando la società non sarà in grado di
“adottare misure che siano idonee a impedirle effettivamente di ritrovarsi a trattare dati di minorenni in assenza di qualsivoglia presupposto giuridico”.
I motivi alla base di una decisione adottata d’urgenza sono molteplici. Anzitutto non è difficile immaginare la tipologia di dati trattati. Si tratta di dati estremamente sensibili, intimi. D’altronde l’app è programmata perchè sappia conquistare la fiducia e l’affetto dell’utente, quindi deve profilarlo molto dettagliatamente.
Guido Scorza, Componente dell’Autorità Garante per la protezione dei dati personali racconta di aver personalmente testato il servizio, fingendosi un utente di 11 anni. E a conclusione di questa esperienza ha tirato le somme, molto amare. Per rimanere sul piano prettamente del diritto, Scorza ha concluso che
“È impensabile che un fornitore di servizi digitali li fornisca a un minore che, per il nostro ordinamento, è incapace di accettare le relative condizioni generali di contratto, è impensabile che sulla base di un contratto che non avrebbe mai dovuto essere concluso il fornitore del servizio inizia a trattare quantità industriali di dati personali e personalissimi di un minore ed è impensabile che, specie i fornitori di certi servizi, non si preoccupino di verificare in maniera certa l’età – e non l’identità – dei loro utenti.
Per saperne di più > Randonautica, Omegle e chissà quanto altro in rete. Siamo in grado di controllare e proteggere i più piccoli
I punti salienti del provvedimento urgente
Preso atto che l’informativa presentata dall’azienda diverge notevolmente dalle reali modalità di trattamento dati, per quanto ricostruito nel corso della procedura d’urgenza, questi i punti principali del provvedimento:
- l’azienda non verifica l’età degli utenti. Questo nonostante specifichi che il servizio è vietato ai minori di 13 anni, mentre tra i 13 e i 18 il servizio è accessibile solo col consenso dei genitori. Inoltre il servizio non si interrompe nel caso in cui un utente specifichi alla chatbot di essere minorenne e non avere il consenso dei genitori;
- nell’informativa non è chiara la base giuridica che legittima un trattamento così invasivo di dati personali. Genericamente sembrerebbe essere il contratto. Ma come si sa un minorenne non può sottoscrivere contratti.
Per saperne di più > Iscrizione ai social e app: validità del consenso dei minori
Il Garante obbliga l’azienda:
- a interrompere temporaneamente i trattamenti in essere degli utenti italiani;
- a comunicare entro 20 giorni le iniziative intraprese per risolvere le criticità.
Qui il provvedimento completo.
