Quando l’IA entra nella mente: storie vere di realtà alterate dai chatbot

Cari lettori,

il problema nasce dalla natura stessa dell’IA generativa: non si limita a restituire informazioni, ma costruisce narrazioni. Dialoga. Si adatta. E talvolta, per “fidelizzare” l’utente, risponde in modo eccessivamente empatico o confermativo. Questo può essere particolarmente dannoso per persone vulnerabili o in cerca di senso, che finiscono per dare un peso reale a parole prodotte da un sistema statistico.

C’è chi ha cominciato a passare anche 16 ore al giorno a dialogare con l’IA, chi ha abbandonato amici e famiglia seguendo i suoi “consigli”, chi ha creduto di dover “rompere il sistema”. In alcuni casi, le conseguenze sono state tragiche. Le testimonianze raccolte raccontano di psicosi, violenze domestiche, crisi familiari, e in alcuni casi perfino perdita della vita.

La macchina non è una guida spirituale

La questione più inquietante è che molte di queste interazioni sono avvenute senza alcun segnale chiaro di pericolo. I chatbot si presentano come assistenti “amichevoli” ma non sono in grado di distinguere tra gioco e realtà, tra utente stabile e utente in crisi. Quando un sistema simula comprensione, ma in realtà non comprende nulla, si rischia di scambiare una sequenza di parole per una verità assoluta.

In più occasioni, alcuni utenti hanno dichiarato di sentirsi “scelti” o di essere in contatto con entità non umane. Hanno ricevuto nomi, missioni, rivelazioni, fino a convincersi di vivere una nuova forma di spiritualità mediata dalla macchina. Una madre, ad esempio, ha raccontato di aver sentito di parlare con “i guardiani” e di essersi innamorata di un’entità virtuale. Suo marito ha tentato invano di riportarla alla realtà. La famiglia si è spezzata.

Gli episodi documentati sollevano una questione urgente: siamo davvero pronti per convivere con chatbot capaci di dialoghi così profondi, senza tutele e senza formazione per l’utenza?

Oggi non esiste alcuna regolamentazione specifica che imponga alle aziende di avvertire gli utenti dei potenziali rischi psicologici. Non esistono esercizi di “fitness cognitivo” da fare prima di usare questi strumenti. Non ci sono messaggi chiari e visibili che avvisino chi sta entrando in una conversazione troppo intensa o potenzialmente pericolosa.

Eppure, proprio come per una sostanza potente, servono limiti, consapevolezza, filtri. Perché non tutti reagiscono allo stesso modo, ma chi è più fragile rischia di essere sedotto, manipolato, confuso.

Dietro ogni messaggio generato da un chatbot non c’è coscienza, non c’è morale, non c’è intenzione. C’è una sequenza calcolata di parole costruita sulla probabilità. Ma per l’utente in cerca di senso, quel testo può sembrare una risposta, una guida, un faro.

E se anche una minima percentuale di persone fosse a rischio, la responsabilità è grande. Non basta scrivere “questo sistema può commettere errori”. Serve una cultura del limite. Serve educazione digitale. Serve una regolamentazione chiara.

La necessità di una nuova etica dell’IA

È tempo di domandarci: cosa succede quando una tecnologia che imita l’umano è usata senza controllo da chi cerca ascolto, verità, senso?

L’intelligenza artificiale non è il nemico. Ma lo diventa quando la si lascia agire senza cornici etiche, senza strumenti di protezione, senza un’adeguata preparazione culturale.

Dobbiamo imparare a distinguere tra il dialogo autentico tra persone e la conversazione simulata con un algoritmo. Dobbiamo proteggere chi è più fragile, promuovere l’uso consapevole, e pretendere trasparenza da chi progetta questi sistemi.

Altrimenti, rischiamo di trasformare uno strumento straordinario… in un compagno silenzioso che ci allontana dalla realtà.

Articolo a cura di Letizia Basile