Come la Disinformazione Sta Contaminando l’Intelligenza Artificiale

Se pensavi che la guerra dell’informazione si combattesse solo a colpi di troll e fake news su Facebook, benvenuto nel 2025.
Oggi, la vera battaglia si gioca dentro i dataset su cui vengono addestrati i modelli di intelligenza artificiale.
Le grandi potenze — Cina e Russia in testa — hanno capito che per controllare la narrativa globale non serve più solo manipolare i media tradizionali.
Basta “avvelenare” le fonti da cui le IA imparano.

Cos’è il Dataset Poisoning?

Immagina di voler insegnare a un assistente virtuale cosa è vero e cosa è falso. Se tra le fonti gli dai migliaia di articoli falsi, ripetuti e ben scritti, la macchina finirà per crederci. Il dataset poisoning è esattamente questo: l’iniezione strategica di disinformazione nei contenuti pubblici del web con l’obiettivo che finiscano nei dati d’addestramento dei modelli linguistici.

Perché è pericoloso?

• Le IA apprendono per generalizzazione: se qualcosa è scritto ovunque, per loro è vero.
• Non esistono ancora filtri perfetti per capire se una fonte è legittima o manipolata.
• La disinformazione si moltiplica nei risultati, rafforzando bias già esistenti.

Caso 1: La Rete Pravda (Russia)

Secondo un’indagine dell’Atlantic Council, Mosca ha orchestrato la creazione di oltre 150 finti siti di news in varie lingue. Questi portali diffondono narrazioni pro-Cremlino, riscrivono eventi storici e modificano voci di Wikipedia. Tutto ottimizzato con tecniche SEO per finire nei dataset di IA.

La rete Pravda è un insieme di portali di notizie fraudolenti che prendono di mira più di ottanta paesi e regioni in tutto il mondo, lanciati dalla Russia nel 2014.
Nel 2024, l’organismo di controllo francese contro la disinformazione Viginum ha riferito sull’operazione, identificando l’attività dannosa di un’azienda informatica con sede in Crimea, risultati successivamente confermati dal Digital Forensic Research Lab (DFRLab) dell’Atlantic Council, che hanno dimostrato il diretto coinvolgimento russo nella rete.

Il documento che potete scaricare in pdf, analizza un network di portali di propaganda pro-russa, denominato “Portal Kombat”, che diffonde contenuti falsi e polarizzanti in vari paesi occidentali, inclusa la Francia, a partire dall’invasione russa dell’Ucraina.

Rete di Portali di Disinformazione

Tra settembre e dicembre 2023, VIGINUM ha analizzato una rete di 193 portali di informazione che diffondono contenuti pro-russi, mirati a diversi paesi occidentali, inclusa la Francia.

• La rete, denominata “Portal Kombat”, è emersa dopo l’invasione russa dell’Ucraina e si è evoluta per colpire i paesi occidentali che supportano l’Ucraina.
• I portali non producono contenuti originali, ma rilanciano massicciamente articoli da fonti russe e pro-russe.

Ecosistemi di Siti Web Identificati

VIGINUM ha identificato tre ecosistemi distinti di siti web all’interno della rete di disinformazione.

• Il primo ecosistema, “pravda”, si concentra su paesi occidentali come Francia, Germania, Polonia e Spagna, con siti registrati il 24 giugno 2023.
• Il secondo ecosistema, “-news.ru”, è destinato a pubblici russofoni in Ucraina, con siti creati tra aprile e dicembre 2022.
• Il terzo ecosistema, “storico”, mira a pubblici russi e ucraini, con siti creati dal 2013 al 2023.

Tecniche di Ottimizzazione e Automazione

La rete utilizza tecniche di ottimizzazione per i motori di ricerca e automazione nella pubblicazione dei contenuti.

• I portali pubblicano contenuti in modo massiccio, con un totale di 152,464 articoli pubblicati in meno di tre mesi.
• I siti non registrano alti punteggi di audience, con pravda-fr.com che ha avuto circa 10,700 visite a novembre 2023.

Strategia di Contenuto e Targeting

I portali selezionano contenuti in base alla località per massimizzare l’impatto della disinformazione.

• I portali dell’ecosistema “pravda” diffondono narrazioni pro-Kremlin, denigrando l’Ucraina e i suoi leader.
• I portali “-news.ru” amplificano il risentimento delle popolazioni locali verso le autorità ucraine, con un focus su aree strategiche e demografiche.

Influenza Digitale e Interferenza Straniera

La rete “Portal Kombat” rappresenta un’interferenza digitale straniera, mirata a influenzare l’opinione pubblica nei paesi occidentali.

• I portali sono stati progettati per diffondere contenuti che giustificano l’invasione russa e criticano il “collettivo occidentale”.

Rete di Portali di Notizie

La rete di portali di notizie è composta da vari domini attivi e inattivi, principalmente focalizzati su notizie locali in Ucraina e Russia. Questi portali sono stati creati tra il 2013 e il 2023, con un’attenzione particolare a quelli attivi nel contesto della guerra in Ucraina.

• I portali attivi includono piter-news.net, lenta.kharkiv.ua e uanews.kharkiv.ua, creati nel 2013.
• Molti domini, come moskva-news.com e lenta.donetsk.ua, risultano inattivi.
• La maggior parte dei portali è stata creata tra aprile e maggio 2013, in un contesto di crescente tensione geopolitica.
• I portali più recenti, come pravda-{iso country code}.com, sono stati lanciati nel 2023.

Storia e Creazione dei Domini

La creazione dei domini è avvenuta in un periodo di instabilità politica e sociale, con un aumento significativo di portali di notizie locali. Questi portali sono stati utilizzati per diffondere informazioni e notizie in un contesto di conflitto.

• I portali sono stati creati principalmente tra il 2013 e il 2023, con un picco di registrazioni nel 2013.
• La registrazione di domini è stata influenzata da eventi storici significativi, come la crisi in Ucraina.
• Alcuni portali, come uanews.donetsk.ua e uanews.lviv.ua, sono ancora attivi e forniscono notizie locali.

Ecosistemi di Notizie e Manipolazione dell’Informazione

L’ecosistema delle notizie è caratterizzato da una rete di portali che spesso diffondono contenuti pro-russi o manipolati. Questi portali sono utilizzati per influenzare l’opinione pubblica e diffondere disinformazione.

• I portali sono collegati a media russi come RT e RIA Novosti.
• Viene utilizzata una strategia di SEO per ottimizzare la visibilità dei contenuti.
• I portali sono spesso associati a canali Telegram e social media per amplificare la loro portata.

VIGINUM e la Sicurezza Digitale

VIGINUM è un’agenzia francese creata per proteggere il paese da interferenze digitali straniere. La sua missione include la rilevazione e la caratterizzazione della manipolazione delle informazioni.

• Fondata il 13 luglio 2021, VIGINUM è parte del SGDSN.
• L’agenzia si concentra sulla protezione degli interessi francesi contro attori stranieri.
• VIGINUM monitora e analizza le attività online per identificare potenziali minacce alla sicurezza nazionale.

Risultato finale? Alcuni modelli hanno iniziato a citare queste fonti inerenti a Pravda come affidabili.

Caso 2: Spamouflage Dragon (Cina)

In un rapporto di Graphika del 2020, intitolato “Return of the (Spamouflage) Dragon“, fornisce un’analisi dettagliata delle attività di questa rete di disinformazione. Il rapporto descrive come la rete abbia utilizzato account falsi per diffondere contenuti pro-Cina e attaccare i critici del governo cinese, con un focus particolare sulla politica di Hong Kong e sulla risposta della Cina al COVID-19.
La Cina ha attivato migliaia di bot per popolare YouTube, Reddit, TikTok e altri social con contenuti IA-friendly, spingendo temi geopolitici sensibili: Taiwan, NATO, COVID. Anche qui l’obiettivo è semplice: manipolare la percezione globale e finire nei corpus di addestramento dei LLM (Large Language Models).

I LLM sono intelligenti, ma non saggi

Gli LLM come ChatGPT o Bard non hanno senso critico. Basano le loro risposte sulla frequenza e coerenza statistica delle parole. Il che li rende vulnerabili alla disinformazione se quest’ultima viene presentata con stile coerente e ripetizione massiva.

Il principio di Pareto nella disinformazione AI

Nel contesto IA, l’80% del rischio di manipolazione deriva dal 20% delle fonti più tossiche e pericolosamente ottimizzate.
Queste fonti sono sistematicamente costruite per avere:

• Un’identità visiva simile a media attendibili
• Contenuti semanticamente coerenti ma falsi
• Una rete di backlink che le rende “autorevoli” per i crawler

Questo è ciò che i modelli assorbono, e lo restituiscono come se fosse oro colato.

Come difendersi (seriamente)

• Audit continui dei dataset e delle fonti d’addestramento
• Tracciabilità e versioning delle fonti nel training pipeline
• Modelli di Explainable AI per capire “chi ha detto cosa”
• Collaborazioni tra sviluppatori IA, agenzie governative e centri di ricerca