Il Garante per la protezione dei dati personali ha multato per 5 milioni di euro la società statunitense Luka Inc., responsabile del chatbot Replika, e ha avviato una nuova istruttoria per indagare sulle modalità di trattamento dei dati personali adottate dal sistema di intelligenza artificiale generativa alla base del servizio. L’app, che consente agli utenti di creare un “amico virtuale” con cui comunicare via testo o voce, è finita sotto la lente dell’Autorità per le sue potenziali implicazioni sulla privacy.
Violazioni risalenti al 2023 e mancata base giuridica
Già nel febbraio 2023, il Garante aveva imposto un blocco all’applicazione, contestando l’assenza di una base giuridica per il trattamento dei dati. Secondo quanto accertato, alla data del 2 febbraio 2023, Luka Inc. non aveva fornito alcuna giustificazione legittima per le operazioni compiute tramite Replika. A questo si aggiungeva una privacy policy inadeguata, incapace di garantire trasparenza e rispetto dei diritti degli utenti.
Sistemi inefficaci per escludere i minori
Uno degli aspetti più gravi riguarda la mancanza di controlli sull’età degli utenti. Luka dichiarava che il servizio fosse destinato esclusivamente a maggiorenni, ma non prevedeva alcun sistema efficace per verificarlo, né durante la registrazione né nel corso dell’utilizzo. Le successive modifiche tecniche, introdotte per colmare la lacuna, si sono rivelate comunque insufficienti, come confermato dagli accertamenti tecnici del Garante.
Focus sull’addestramento del modello linguistico
Oltre alla sanzione, l’Autorità ha ordinato alla società di adeguarsi al Regolamento europeo, e ha aperto una nuova istruttoria per capire come l’intelligenza artificiale di Replika venga addestrata. Luka è stata invitata a fornire chiarimenti sul ciclo di vita del sistema, sulla natura e provenienza dei dati impiegati, sulle misure di sicurezza adottate durante le fasi di sviluppo, sull’eventuale uso di tecniche di anonimizzazione o pseudonimizzazione, e sulla valutazione dei rischi per gli utenti.
Un precedente che pesa sull’intero settore AI
Il caso Replika rappresenta un banco di prova per la regolamentazione dell’intelligenza artificiale in Europa. Il Garante italiano si conferma tra le autorità più attive nel pretendere trasparenza, legalità e tutela della persona nei servizi digitali. In un contesto in cui i chatbot diventano sempre più simili a interlocutori umani, la protezione della sfera privata degli utenti non può essere un optional.
Aiutaci a crescere: lasciaci un like :)