Il Garante per la protezione dei dati personali lancia un nuovo avvertimento sul fenomeno in crescita dell’utilizzo di intelligenza artificiale generativa per interpretare referti medici. Caricare online analisi cliniche, radiografie e documenti sanitari per ottenere diagnosi automatiche espone a rischi significativi, sia per la sicurezza dei dati personali sia per l’affidabilità di strumenti che non sono certificati come dispositivi medici.
Perdita di controllo sui dati sensibili
Il principale pericolo riguarda la gestione dei dati sanitari, tra i più sensibili per la privacy. Alcune piattaforme di IA possono conservare i referti caricati per addestrare i propri algoritmi, senza garantire cancellazione immediata o adeguata protezione. Il Garante invita gli utenti a leggere attentamente le informative sulla privacy e verificare come vengono gestiti i dati, poiché non tutte le piattaforme assicurano trasparenza e sicurezza.
Affidabilità delle risposte dell’IA
Un’altra criticità è legata alla qualità delle interpretazioni fornite dall’IA. Questi strumenti, se non progettati per finalità diagnostiche e senza una supervisione medica, possono produrre indicazioni errate, con conseguenze sulla salute. L’Autorità ribadisce che la “supervisione umana qualificata” è essenziale, come stabilito dall’articolo 14 del Regolamento europeo sull’IA e dal Consiglio Superiore di Sanità. Tale supervisione deve essere presente in tutte le fasi di sviluppo e validazione del sistema.
Regole e principi da rispettare
Già nell’ottobre 2023, con il decalogo per i servizi sanitari basati sull’IA, il Garante aveva richiamato l’attenzione su alcuni principi fondamentali: liceità del trattamento, valutazioni d’impatto, trasparenza e sicurezza. Nel documento pubblicato a maggio 2024 sul web scraping, l’Autorità aveva inoltre evidenziato i rischi connessi alla raccolta massiva di dati dal web, spesso effettuata senza consenso, per addestrare i modelli di IA.
Invito a prudenza e responsabilità
Il Garante invita gli utenti a non affidarsi ciecamente ai chatbot e a rivolgersi sempre a un medico per l’interpretazione dei referti. Gli sviluppatori e gli operatori sanitari sono richiamati a una maggiore responsabilità nella progettazione e nell’uso di sistemi di IA, per evitare che l’automazione metta a rischio la privacy e la salute delle persone.
Aiutaci a crescere: lasciaci un like :)