L’Autorità Garante della Concorrenza e del Mercato (AGCM) ha aperto un procedimento istruttorio nei confronti della società ScaleUp, che gestisce il sistema Nova AI Chatbox, accusata di pratiche commerciali scorrette. Al centro dell’indagine c’è l’omessa informazione agli utenti circa il rischio che il chatbot generi risposte inesatte o inventate, le cosiddette allucinazioni, fenomeno tipico dei modelli linguistici di intelligenza artificiale.
Secondo quanto emerge dall’avviso pubblicato sul Bollettino dell’Autorità, la società non avrebbe fornito un’informativa “chiara, immediata e intellegibile” su questo aspetto, né attraverso il sito ufficiale né nell’app distribuita sugli store digitali. L’AGCM ritiene che la mancanza di avvertenze possa indurre i consumatori a riporre un’affiducia eccessiva nell’affidabilità delle risposte, con possibili conseguenze soprattutto in settori delicati come salute, finanza e diritto.
Il nodo delle informazioni mancanti
Dalle verifiche emerge che né nei termini e condizioni né nelle schermate di utilizzo della piattaforma compare un disclaimer riguardo alle possibili allucinazioni. Un dettaglio che assume rilievo perché le piattaforme su cui Nova si appoggia – come GPT-4, Gemini o Claude – riportano invece avvisi simili.
Un ulteriore profilo di criticità riguarda la trasparenza sulle caratteristiche del servizio a pagamento. La versione gratuita consente infatti di usare solo un modello limitato (GPT-4o mini), mentre la scelta di altre opzioni rimanda subito a un abbonamento. Tuttavia, i consumatori non avrebbero ricevuto informazioni adeguate sul reale valore aggiunto di Nova rispetto all’utilizzo diretto delle piattaforme sottostanti, disponibili anch’esse in modalità gratuite o premium.
La cornice normativa
L’Autorità ipotizza una violazione degli articoli 20, 21 e 22 del Codice del Consumo, che tutelano i cittadini da pratiche commerciali scorrette e omissioni ingannevoli. Il procedimento, affidato alla Direzione Piattaforme Digitali e Comunicazioni, dovrà concludersi entro 270 giorni.
ScaleUp è stata invitata a fornire entro 30 giorni una serie di chiarimenti: dall’elenco completo dei servizi di intelligenza artificiale offerti in Italia al numero di utenti registrati, fino alla documentazione utile a quantificare la dimensione economica dell’attività. In caso di mancata collaborazione, la società rischia sanzioni amministrative comprese tra 2.000 e 40.000 euro, oltre alle eventuali multe legate alla violazione del Codice del Consumo.
Perché il caso conta
Il procedimento su Nova AI Chatbox rappresenta uno dei primi interventi formali dell’AGCM sul tema della trasparenza nei servizi di intelligenza artificiale rivolti al grande pubblico. La contestazione si concentra su due punti chiave: la mancata informazione sui limiti tecnologici e la presentazione poco chiara delle condizioni economiche.
L’esito dell’istruttoria potrà fornire un precedente importante, per stabilire se l’omessa indicazione dei rischi legati alle allucinazioni dell’IA costituisca una violazione dei diritti dei consumatori e se le aziende che commercializzano chatbot debbano introdurre avvisi espliciti già nelle fasi preliminari di utilizzo e di acquisto.
Aiutaci a crescere: lasciaci un like :)