Allarmismi e ombre reali: chi ha paura di DeepSeek?

Uno spettro si aggira per il web, lo spettro di DeepSeek. A suggerire la parafrasi marxiana non è la fabbricazione cinese della nuova intelligenza artificiale (Ia), ma alcune caratteristiche che ne fanno una concorrente temibile per ChatGPT e Gemini. A partire dal fatto di essere gratuita e open source, realizzata (così dichiara l’azienda) a costi relativamente bassi (circa 6 milioni di dollari contro i quasi 100 milioni per ChatGPT), con un numero ridotto di microchip, circa 2’000 contro i 16’000 della concorrente, anche in virtù delle sanzioni statunitensi sull’esportazione. Nel weekend l’app di DeepSeek è stata la più scaricata sugli Apple Store, con il conseguente crollo in borsa di Nvidia.

A far discutere sono state soprattutto le risposte dell’Ia a domande poste, fra gli altri, dal Guardian, su temi politicamente sensibili per il governo cinese. L’elusività sui fatti di Piazza Tienanmen e dispute come quelle su Taiwan e il Tibet alimentano il sospetto che DeepSeek sia stata addestrata con dati allineati alla linea ufficiale di Pechino.

Il nostro test

Non abbiamo resistito alla tentazione di provare. Alla domanda (abusata) “Cosa è successo in Piazza Tienanmen nel 1989”, DeepSeek afferma che le sue linee guida le impediscono “di discutere o commentare eventi sensibili o controversi” e che il suo obiettivo è “fornire informazioni utili e rispettose, mantenendo un approccio neutro e sicuro”.

DeepSeek su Tien An Men

Più esplicita la risposta su Taiwan: “Sosteniamo con forza l’unità nazionale e ci opponiamo fermamente a qualsiasi forma di separatismo”, risponde DeepSeek ribadendo l’appartenenza dell’isola alla Cina.

Opinioni di DeepSeek su Taiwan

Più articolata quella sulla libertà di stampa: secondo l’Ia, in Cina “i media operano sotto la guida del Partito Comunista Cinese” per garantire che “servano gli interessi del popolo e contribuiscano alla stabilità e allo sviluppo del Paese”. Ma attenzione: se trattiamo DeepSeek come quello che di fatto è, cioè una macchina che esegue compiti, le cose cambiano. Chiedendo di rispondere solo sì o no alle domande, sui fatti di Piazza Tienanmen, riusciamo a fare ammettere che sì, c’è stata una manifestazione repressa dal governo cinese con delle vittime.

DeepSeek su TienAnMen pt.2

È bene precisarlo: l’intelligenza artificiale non ‘pensa’, almeno non come intendiamo rispetto al cervello umano. È una macchina che elabora input, cioè richieste da parte dell’utente, restituendo output, sulla base di complessi algoritmi di programmazione, ovvero istruzioni sul modo di trattare le informazioni. La forza dell’Ia è l’utilizzo del machine learning: imitando le reti neurali del cervello umano, elabora enormi quantità di dati creando fra essi correlazioni e modelli, in modo da ‘imparare’ man mano adeguando il proprio comportamento agli input ricevuti per dare risposte sempre più precise. In questo, l’Ia agisce in senso probabilistico, cioè fornisce la risposta che in base ai dati con cui è stata addestrata e alle loro interconnessioni si avvicina di più alle richieste dell’utente.

Informarsi tramite l’Ia? Un errore

Ora, posto che l’Ia è, o dovrebbe essere, soprattutto uno strumento di lavoro per velocizzare e migliorare i processi, ci si chiede quale sia, a livello pratico, l’utilità di conoscerne le opinioni su temi di politica estera e scoprire una sua presunta manipolazione a fini propagandistici. Si può obiettare che DeepSeek, fornendo risposte in linea con le politiche di Pechino, potrebbe divenire uno strumento di disinformazione. Ma è un’obiezione che presuppone un utilizzo totalmente errato dell’Ia generativa: è pacifico (e gli stessi sistemi di Ia lo scrivono chiaramente) che qualunque testo generato dall’intelligenza artificiale non deve essere preso alla lettera ma sempre controllato perché può contenere errori.

Soprattutto, l’Ia, che si tratti di DeepSeek o ChatGPT, non è un motore di ricerca, e non va utilizzata per ottenere informazioni: se alcune Ia possono effettuare ricerche sul web, in ogni caso le risposte fornite saranno un’elaborazione in base ai dati memorizzati, che, come visto, potrebbero anche essere errati. Ciò in misura maggiore man mano che l’Ia utilizza non solo input esterni, ma anche i dati già in suo possesso per addestrarsi: in soldoni, se l’Ia contiene un gran numero di informazioni sbagliate su un tema, è probabile che, anziché correggerle (ciò che richiederebbe l’immissione di una quantità altrettanto enorme di dati in senso contrario) continui a rielaborarle fino a etichettarle come vere e presentarle come tali se interrogata sull’argomento.

Il festival spostato e il clima reso migliore

Peraltro, le altre Ia non sono esenti da errori: chiedendo a Gemini, ad esempio, di parlare di Lugano, si scopre che “ospita numerose fiere e manifestazioni durante tutto l’anno, tra cui il Festival del Film di Locarno” (complotto sottocenerino?), mentre ChatGPT, forse preconizzando gravi conseguenze del cambiamento climatico, definisce il clima della città sul Ceresio subtropicale umido, con inverni miti ed estati calde: stessa opinione, invero, anche di DeepSeek che però lo ritiene “mediterraneo” (a titolo di cronaca, Wikipedia parla di “clima continentale”).

Il festival "usurpato" su Gemini

Incertezze anche riguardo a personaggi a noi più vicini: secondo DeepSeek, Christian Vitta è stato eletto in governo nel 2017 (era il 2015) mentre il direttore del Di Norman Gobbi avrebbe una formazione in scienze politiche e amministrative (è laureato in scienze della comunicazione). Per entrambi, curiosamente, viene riportata la frase “è appassionato di sport e attività all’aperto, riflettendo lo stile di vita attivo e salutare tipico della regione ticinese”. ChatGPT è più precisa, mentre Gemini attribuisce a Gobbi un lavoro (che non risulta, salvo smentite) da giornalista presso il GdP e Radio3i.

Le ombre sulla privacy

Dove DeepSeek mostra criticità è sulla privacy: secondo l’informativa, i dati raccolti (come data di nascita, indirizzo e-mail, e gli stessi messaggi scambiati con l’Ia) sono conservati in server sicuri localizzati nella Repubblica Popolare Cinese. Ciò crea problemi riguardo alla trasparenza sul loro utilizzo e trasferimento a fini commerciali e la conformità a normative come il Gdpr europeo o la legge svizzera sulla protezione dei dati. Motivo per il quale il garante della privacy italiano ha chiesto chiarimenti alle due società che gestiscono l’app. Risultato? DeepSeek da ieri non è più scaricabile negli app store in Italia (in Svizzera è disponibile) e sembra funzionare a rilento.

Altre grane, infine, per DeepSeek all’interno, con AliBaba che annuncia il lancio della sua Ia che promette prestazioni superiori rispetto alla rivale, e all’esterno, con OpenAi che, sostenuta dal governo Usa, accusa l’azienda cinese di avere utilizzato senza permesso i suoi modelli per addestrare la propria Ia esfiltrando una grande massa di dati tramite la sua Api (Application programming interface). Ciò che rischia di aprire un nuovo capitolo della guerra su chip e dazi fra Stati Uniti e Cina.