Perché gli assistenti AI non sono amici, ma strumenti da usare con cautela

Negli ultimi mesi, gli assistenti AI basati su chatbot come ChatGPT e Claude sono diventati strumenti quotidiani per milioni di persone, utilizzati per scrivere email, riassumere documenti o persino per gestire prenotazioni e acquisti online. Tuttavia, Meredith Whittaker, presidente di Signal, ha recentemente richiamato l’attenzione su un aspetto spesso trascurato: questi strumenti non sono amici, non sono consapevoli e non vanno trattati come interlocutori dotati di intelligenza o empatia. Le sue parole, pronunciate durante un’intervista a un importante quotidiano finanziario, non sono solo una critica filosofica, ma un monito concreto sui rischi legati alla privacy, alla sicurezza e alla dipendenza da sistemi che, pur potendo sembrare utili, operano in modo opaco e potenzialmente invasivo.

Whittaker, che ha una lunga storia di attivismo per la privacy digitale, ha sottolineato come l’uso di questi strumenti possa portare a una delega eccessiva del pensiero critico a sistemi che si limitano a “mediare” informazioni già esistenti. Secondo lei, affidarsi troppo agli assistenti AI rischia di limitare la capacità di riflettere in modo autonomo, sostituendo il processo creativo e decisionale umano con risposte preconfezionate. Questo approccio, se normalizzato, potrebbe avere conseguenze a lungo termine non solo sulla produttività individuale, ma anche sulla qualità del dibattito pubblico e sulla capacità di innovazione. La sua posizione non è contro la tecnologia in sé, ma contro l’idea che questi strumenti possano essere considerati affidabili al punto da sostituire completamente il giudizio umano.

L’illusione dell’assistente intelligente: perché i chatbot non sono amici

La frase “non sono tuoi amici” pronunciata da Whittaker non è un semplice slogan, ma una presa di posizione contro la narrazione commerciale che spesso accompagna il lancio di nuovi prodotti AI. Molte aziende, infatti, presentano i propri assistenti come figure quasi antropomorfe, capaci di comprendere le emozioni e le esigenze degli utenti. Questa rappresentazione, secondo Whittaker, è fuorviante e pericolosa, perché induce le persone a condividere informazioni personali senza una valutazione attenta dei rischi. Gli assistenti AI non sono dotati di coscienza o di una vera comprensione del contesto: sono algoritmi che elaborano dati in base a pattern predefiniti, senza alcuna consapevolezza di ciò che viene detto loro.

Whittaker ha anche fatto riferimento al modo in cui questi sistemi vengono integrati nei dispositivi e nei servizi che utilizziamo quotidianamente. Ad esempio, Microsoft Copilot, secondo le sue dichiarazioni, potrebbe essere configurato per accedere a informazioni sensibili come la cronologia delle ricerche, i messaggi privati, le informazioni di pagamento e persino i contatti personali. Un livello di accesso così pervasivo solleva preoccupazioni non solo sulla privacy, ma anche sulla sicurezza: un sistema del genere, se compromesso, potrebbe diventare un veicolo per attacchi informatici o per la raccolta massiccia di dati senza il consenso esplicito dell’utente. In questo senso, Whittaker ha definito un simile scenario come una “porta di servizio” (backdoor) per l’accesso ai dati personali, un termine che evoca la vulnerabilità dei sistemi informatici quando vengono concessi permessi eccessivi.

Privacy e sicurezza: i rischi nascosti dietro gli assistenti AI

Uno dei punti centrali dell’intervento di Whittaker riguarda la privacy. Gli assistenti AI, per funzionare, devono elaborare grandi quantità di dati, spesso personali e sensibili. Anche se molte aziende affermano di non memorizzare le conversazioni degli utenti o di cancellarle dopo un certo periodo, la realtà è che i dati vengono comunque raccolti, analizzati e utilizzati per migliorare i modelli linguistici. Questo processo, noto come “addestramento dei modelli”, comporta la condivisione di informazioni con terze parti, come sviluppatori di cloud o partner commerciali, il che aumenta il rischio di fughe di dati o di utilizzi impropri.

Whittaker ha citato l’esempio di un assistente AI che, per gestire gli acquisti natalizi come suggerito da un amministratore delegato di Microsoft, dovrebbe accedere a informazioni come la cronologia delle ricerche, i messaggi privati, i dati di pagamento e persino la posizione geografica. Un simile livello di accesso non solo viola la privacy individuale, ma crea anche un’infrastruttura centralizzata che potrebbe essere sfruttata da governi, hacker o aziende per sorvegliare gli utenti su larga scala. In un contesto in cui la sorveglianza digitale è già un tema caldo, l’introduzione di assistenti AI con accessi così pervasivi rischia di normalizzare una cultura della sorveglianza permanente, in cui ogni interazione digitale viene registrata e analizzata.

L’equilibrio tra utilità e controllo: come usare gli assistenti AI in modo responsabile

Whittaker non si limita a criticare gli assistenti AI, ma offre anche spunti su come utilizzarli in modo più consapevole. Secondo lei, questi strumenti possono essere utili per compiti banali, come la formattazione di documenti o la ricerca di informazioni di base, ma non dovrebbero mai sostituire il processo di pensiero critico. L’idea di affidarsi a un chatbot per scrivere un articolo, prendere decisioni importanti o gestire comunicazioni personali è, secondo la presidente di Signal, un errore che potrebbe avere conseguenze negative sulla qualità del lavoro e sulla capacità di innovazione.

Un altro aspetto sottolineato da Whittaker è la necessità di trasparenza. Gli utenti devono essere pienamente consapevoli di quali dati vengono raccolti, come vengono utilizzati e con chi vengono condivisi. Questo richiede una maggiore responsabilità da parte delle aziende che sviluppano questi strumenti, ma anche una maggiore attenzione da parte degli utenti nel leggere le politiche sulla privacy e nel limitare l’accesso degli assistenti AI ai dati sensibili. Ad esempio, invece di concedere a un chatbot l’accesso completo a un account di posta elettronica o a un calendario, gli utenti potrebbero utilizzare strumenti che operano in modo locale, senza trasmettere dati a server remoti.

Il ruolo delle aziende tech: tra innovazione e responsabilità

Whittaker ha anche affrontato il tema del ruolo delle aziende tecnologiche nello sviluppo e nella distribuzione degli assistenti AI. Secondo lei, molte aziende sono più interessate a monetizzare i dati degli utenti che a garantire la privacy e la sicurezza. Questo approccio, che spesso porta a modelli di business basati sulla pubblicità mirata o sulla vendita di dati, crea un conflitto di interessi tra l’utente e l’azienda. Le aziende, infatti, hanno un incentivo a raccogliere il maggior numero di dati possibile, anche a scapito della privacy, mentre gli utenti dovrebbero avere il diritto di controllare come vengono utilizzate le loro informazioni.

La presidente di Signal ha sottolineato come la mancanza di regolamentazione in questo settore stia permettendo alle aziende di operare in un regime di quasi impunità. Nonostante esistano normative come il GDPR in Europa o il CCPA in California, la loro applicazione è spesso lacunosa e le sanzioni per violazioni della privacy sono raramente sufficienti a disincentivare comportamenti scorretti. Whittaker ha auspicato una maggiore collaborazione tra governi, società civile e aziende per sviluppare regole chiare e trasparenti che proteggano gli utenti senza soffocare l’innovazione.

Il futuro degli assistenti AI: tra opportunità e rischi

Nonostante le critiche, Whittaker non è contraria all’uso degli assistenti AI in sé. Secondo lei, questi strumenti possono essere utili se utilizzati in modo responsabile e consapevole. Tuttavia, il futuro di questa tecnologia dipenderà dalla capacità delle società di bilanciare innovazione e tutela dei diritti degli utenti. Se gli assistenti AI continueranno a essere sviluppati con un approccio centrato sul profitto e sulla raccolta massiccia di dati, il rischio è che diventino strumenti di controllo sociale piuttosto che di emancipazione individuale.

Un possibile scenario futuro potrebbe vedere una maggiore adozione di modelli AI open source o locali, che operano senza trasmettere dati a server remoti. Questo approccio, già adottato da alcune aziende e comunità di sviluppatori, potrebbe ridurre i rischi legati alla privacy e aumentare la fiducia degli utenti. Tuttavia, affinché questa transizione avvenga, sarà necessario un cambiamento culturale sia tra gli utenti, che dovranno essere più attenti nella scelta degli strumenti che utilizzano, sia tra le aziende, che dovranno rivedere i propri modelli di business per privilegiare la privacy e la trasparenza.

Cosa possono fare gli utenti oggi: consigli pratici per un uso sicuro

Per chi utilizza già assistenti AI o sta valutando di adottarli, Whittaker offre alcuni consigli pratici per minimizzare i rischi. Innanzitutto, è importante limitare l’accesso degli assistenti AI ai dati sensibili. Ad esempio, invece di collegare un chatbot all’account di posta elettronica o al calendario, è possibile utilizzarlo in modo isolato, copiando e incollando solo le informazioni necessarie. Inoltre, gli utenti dovrebbero evitare di condividere dati personali o finanziari durante le conversazioni con gli assistenti AI, trattandoli come strumenti e non come interlocutori fidati.

Un altro suggerimento è quello di utilizzare strumenti che offrono maggiore trasparenza, come quelli open source o quelli che operano in locale. Questi strumenti, pur essendo meno potenti dei modelli commerciali, riducono il rischio di fughe di dati e di utilizzi impropri. Infine, è fondamentale leggere attentamente le politiche sulla privacy e i termini di servizio degli assistenti AI, per essere consapevoli di come vengono utilizzati i propri dati.

Il dibattito pubblico: perché la discussione sugli assistenti AI è più urgente che mai

Le parole di Whittaker arrivano in un momento in cui il dibattito sugli assistenti AI sta diventando sempre più acceso. Da un lato, ci sono coloro che vedono in questa tecnologia una rivoluzione capace di migliorare la produttività e la qualità della vita. Dall’altro, ci sono coloro che, come Whittaker, mettono in guardia sui rischi legati alla privacy, alla sicurezza e alla dipendenza da sistemi opachi. Questo dibattito non riguarda solo la tecnologia in sé, ma anche il tipo di società che vogliamo costruire: una società in cui i dati personali sono protetti e l’innovazione è guidata dal rispetto dei diritti fondamentali, o una società in cui la sorveglianza digitale è la norma e gli utenti sono ridotti a prodotti da monetizzare.

Whittaker ha sottolineato come la discussione sugli assistenti AI non sia solo tecnica, ma anche politica e sociale. Le decisioni che verranno prese oggi sulla regolamentazione, sulla trasparenza e sull’etica di questi strumenti avranno conseguenze a lungo termine sulla nostra capacità di vivere in una società digitale sicura e libera. Per questo motivo, è fondamentale che il dibattito coinvolga non solo gli esperti di tecnologia, ma anche i cittadini, i governi e le organizzazioni che si occupano di diritti umani.

Conclusione: verso un uso consapevole degli assistenti AI

Le osservazioni di Meredith Whittaker rappresentano un richiamo importante a non sottovalutare i rischi legati agli assistenti AI. Questi strumenti, se utilizzati in modo acritico, possono diventare veicoli di perdita di privacy, dipendenza tecnologica e controllo sociale. Tuttavia, non sono intrinsecamente negativi: la chiave sta nell’adozione di un approccio consapevole, che privilegi la trasparenza, il controllo dei dati e il rispetto del pensiero critico umano.

Il futuro degli assistenti AI dipenderà dalle scelte che faremo oggi: se continueremo a delegare troppo potere a sistemi opachi e centralizzati, rischieremo di perdere il controllo sulla nostra sfera privata. Al contrario, se sapremo bilanciare innovazione e tutela dei diritti, potremo sfruttare il potenziale di queste tecnologie senza compromettere la nostra libertà. Sta a noi, come individui e come società, decidere in quale direzione andare.