sistema automatico per individuare fake news? impossibile.

Un sistema automatico per l’individuazione di fake news non può esistere; e lo si può dimostrare matematicamente1

Supponiamo comunque per assurdo che esista un mitico sistema informatico capace di riconoscere immediatamente la verità o la falsità di qualsiasi affermazione. E tanto per rassicurare che sia capace di riconoscere affermazioni contraddittorie od autoreferenziali e rigettarle automaticamente2.

Il sistema in ogni caso non funzionerebbe lo stesso per due motivi:

  1. il sistema di identificazione di fake news non può riuscire a rivelare informazioni omesse.
  2. il valore di una informazione dipende dal contesto, è il contesto, la cornice che spinge l’interpretazione in un verso od in un altro.
Nazisti dell’Illinois

Vediamo un esempio del primo caso:

“Emergenza democratica: i nazisti dell’illinois hanno centuplicato i loro voti passando da 10 voti a 1.000 in tutta italia“. Nessun algoritmo di fake news può rivelare la parte cancellata, parte che ridimensiona alquanto la centuplicazione dei voti.

Ed un esempio del secondo caso; supponiamo che il partito dei nazista dell’illinois abbia avuto un boom elettorale passando dallo 0,001% dei voti allo 0,1% voti; entrambe le notizie seguenti sono vere:

  • la destra estrema avanza: i nazisti dell’illinois hanno centuplicato i loro voti, bisogna votare la legge Fiano per fermarli.
  • I nazisti dell’illinois arrivano a malapena allo 0,1% dei voti. Ha senso votare una legge liberticida per fermare un partito da prefisso telefonico?

le notizie sono entrambe vere ma l’interpretazione della prima “i nazisti dell’illinois stanno diventando un pericolo” è diametralmente opposta alla seconda “i nazisti dell’illinois non stanno diventando un pericolo” Da notare che le premesse di entrambe le frasi sono affermazioni vere, non sono false e di come, giocando un poco, si possano far dedurre due conclusioni opposte dalla stessa premessa semplicemente presentandola in due modi diversi.

Ma esempi di come si possa mutare profondamente una notizia semplicemente omettendo informazioni importanti o aggiungendo informazioni vere ma ininfluenti se ne possono fare a iosa.

Un altro esempio

  • Tizio è morto sotto i ferri del dottor Caio. Il dottor Caio anche precedentemente era stato inquisito per malasanità.
  • Tizio è morto sotto i ferri del dottor Caio. Tizio era arrivato in condizioni disperate in ospedale a causa di un incidente stradale.

Supponiamo vere tutte e tre le affermazioni; nel primo caso si viene portati a pensare che il dott. Caio sia un pasticcione. Da notare anche che inquisito non significa condannato, ma per molti invece vale l’equivalenza “inquisito = colpevole”

Nel secondo caso invece si pensa più ad una tragica fatalità; l’arrivare in condizioni disperate all’ospedale fa pensare ad una fatalità più che all’incompetenza del medico.

Il programma come si comporterebbe con quelle due notizie? Nessuna delle due è più vera dell’altra.

Purtroppo l’unico sistema contro le fake news rimane la cultura ed il senso critico. Tutte cose che chi ha lanciato la grande crociata contro le fake news (intendendo in realtà le notizie “scomode” pro domo sua) vede come fumo negli occhi.

 


  1. Supponiamo esista tale meraviglioso algoritmo. In tal caso sarebbe capace di riconoscere la verità di tale affermazione: “La macchina di Turing T con il programma P si arresta”.  Peccato che Alan Turing abbia dimostrato l’impossibilità dell’esistenza di un algoritmo capace di riconoscere se una generica macchina di Turing si arresti o no su un dato input. Vedi: https://it.wikipedia.org/wiki/Problema_della_terminazione
  2. in pratica rigetta affermazioni come “questa affermazione è falsa” o, in maniera più sofisticata: “l’affermazione seguente è vera”, “l’affermazione precedente è falsa”. 

5 pensieri su “sistema automatico per individuare fake news? impossibile.

  1. Che poi io mi chiedo anche: se un simile algoritmo fosse veramente sviluppabile… sarebbe anche auspicabile? O sarebbe alla fine un grimaldello per reintrodurre la censura?

    "Mi piace"

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...

Questo sito utilizza Akismet per ridurre lo spam. Scopri come vengono elaborati i dati derivati dai commenti.