Archivi categoria: Fake News

L’umanità nell’algoritmo di Google

google-owl-algorithm-update-1493207336

Nell’intervista che Massimo Russo fa a Ben Gomes, vice presidente di Google, troviamo spiegato bene come dietro l’affinamento dell’algoritmo ci sia un test permanente con valutatori umani, che rappresenta l’essenza del progetto Owl teso – tra le altre cose – a rendere meno visibili notizie bufala, messaggi d’odio e in generale informazioni false o offensive ma anche leggende metropolitane o teorie cospirazioniste.

Si tratta di diecimila valutatori indipendenti a livello globale che indirizzano lo sviluppo dell’algoritmo di Google per garantirne l’accuratezza e l’attendibilità delle fonti a partire da un manuale di linee guida per la qualità nella ricerca che è pubblico. La recente attenzione per il tema delle “fake news” è stata quindi trattata come tema di credibilità delle fonti informative che, per essere affrontata, ha portato ad un cambiamento del manuale. Come dire: il problema dell’algoritmo di Google dipende dalla percezione di accuratezza e rilevanza dei valutatori umani che rispondono ai test:

Negli ultimi sei mesi abbiamo riscontrato che per una certa classe di domande riguardo le notizie, l’incitamento all’odio e così via, i nostri segnali per indicare l’autorevolezza non erano sufficienti, e i nostri valutatori non stavano affrontando la questione con l’enfasi dovuta.

Non affrontare “la questione con l’enfasi dovuta” significa rimandare il problema alla percezione e alla sensibilità umana nell’informazione. Posso non segnalare una pagina su una leggenda metropolitana perché so benissimo che non esistono alligatori nelle fogne di New York e chi cercherà quel tipo di contenuto lo farà con modalità di intrattenimento e non per costituire una squadra armata che si aggiri per le fogne per eliminare la minaccia. Il rapporto tra esposizione alla news ed effetti relativi non è per me certo, non c’è un rapporto causa-effetto univoco né possiamo ricadere nelle spiegazioni semplicistiche del tipo teoria del “proiettile magico”. E così pure mi chiedo: ma è corretto rendere meno visibili le teorie cospirazioniste o dobbiamo riconoscerne una funzione nel sistema della scienza, cioè nella ricerca della verità? In fondo obbligano il sistema della conoscenza a confrontarsi con il tema del dubbio e dell’incertezza ed il loro emergere mette in luce la crescita della sfiducia nelle istituzioni scientifiche ma non nel metodo scientifico: sono infatti pur sempre alla ricerca della verità. O, piuttosto, dobbiamo pensare che le teorie del complotto siano un problema perché  funzionali all’estrema destra e al campismo? E se sono un valutatore sensibile all’alt-right come questa mia qualità scivolerà nell’algoritmo?

È evidente che i test di Google sono un continuo enorme sistema di feedback che viene preso in considerazione dal team che si occupa dell’algoritmo per raccogliere segnali emergenti. Ma raccogliere i segnali giusti per rispondere al tema pubblico delle “fake news” ha comportato produrre stimoli adeguati attraverso un mutamento del manuale di linee guida che fornisse esempi più adeguati ai tempi di cosa fosse una pagina di scarsa qualità. Come spiega Ben Gomes nella presentazione del “Our latest quality improvements for Search“:

Last month, we updated our Search Quality Rater Guidelines to provide more detailed examples of low-quality webpages for raters to appropriately flag, which can include misleading information, unexpected offensive results, hoaxes and unsupported conspiracy theories. These guidelines will begin to help our algorithms in demoting such low-quality content and help us to make additional improvements over time.

L’attenzione per l’accuratezza rispetto a ciò che deve essere valutato come falso, inopportuno o discorso d’odio è passata quindi dalla necessità di fare formazione a chi deve valutare. Come dire: non c’è immediatezza di giudizio, serve accordarsi, essere preparati a riconoscere le modalità con cui le pagine web lavorano. Serve educazione, insomma.

L’algoritmo è uno strumento di adeguatezza e non di verità. Adeguatezza delle informazioni al tempo presente, che deve tenere conte dell’umanità con cui si confronta, con il principio di realtà che a questa umanità appartiene e con i limiti che abbiamo, come esseri umani, a valutare l’adeguatezza del sapere.

tumblr_inline_nndsxvOOvV1qcp0ln_500

La scelta de nome del progetto di Google rimanda a quella Civetta di Minerva che, da Omero in poi, è simbolo della ricerca della conoscenza. È interessante che sia un simbolo utilizzato anche dagli Illuminati e dalla Massoneria, in quel cortocircuito che la ricerca di una diversità nella verità produce.

 

Il ministero della verità

ministry of truth.png
Nella recente relazione annuale Agcom nella figura del presidente Angelo Cardani si è schierata a favore di un intervento normativo contro le fake news:
le fake news un fenomeno “di estrema gravità è la diffusione voluminosa, istantanea e incontrollata di notizie deliberatamente falsificate o manipolate”, spiega l’Autorità. Cardani, nella Relazione al Parlamento, si schiera a favore di “un intervento normativo” e contro l’autoregolamentazione dei colossi web, che promettono “di sviluppare algoritmi per rimuovere le informazioni false e virali”, ma sono anche “i principali ‘utilizzatori’ gratuiti.
Ora, a parte il “ministero della verità” mi vengono in mente poche idee  circa quale soggetto potrebbe dedicarsi a riconoscere “fake news” ed applicare sanzioni commisurate alla gravità della fattispecie. Come ho cercato di spiegare più volte (l’ultima durante un’audizione parlamentare della Commissione per i diritti e i doveri relativi ad internet) il termine “fake news” rappresenta un campo problematico di definizione.
Di cosa parliamo quando parliamo di “fake news”?
Mi chiederei quindi innanzitutto: “fake news” è un problema di contenuti, di intenzioni degli attori o di effetti prodotti?
Stiamo cioè osservando una tipologia informativa, le intenzioni di chi la produce o gli effetti all’esposizione di un contenuto “disinformativo”? O le tre dimensione assieme, compresa la diffusione nell’ecosistema mediale?
Capite che parlare di policy da applicare alle piattaforme, al sistema dei media, ecc. contro le “fake news” ha poco senso se non definiamo la natura di ciò di cui vogliamo trattare. E no, rimandare ad una norma che sanziona le “fake news” non è sufficiente perché non è chiaro di cosa stiamo parlando neanche qui: sanzioniamo chi produce un post che contiene dati falsi?la piattaforma in cui è presente? il social media che ne consente la circolazione? il lettore che lo condivide? chi partecipa alla sua notorietà con un like? le testate giornalistiche che lo riprendono? l’algoritmo che lo rende molto visibile?
Prendete poi il caso (fake) di “Sex toys, pannoloni, un Rolex, ma anche una statua di legno di Padre Pio” ritrovati dopo il concerto di Vasco Rossi a Modena Park nato sul web e rilanciato da testate nazionali prestigiose e capite l’ampiezza della casistica da trattare e i confini con l’etica giornalstica (saper fare il proprio mestiere verificando le fonti?) che si vengono a toccare.
Il mondo informativo produce delle proprie forme corrispondenti di tipo negativo – disinformazione – che coprono una tipologia che va dalla manipolazione al situazionismo (hanno arrestato Ugo Toganzzi come capo delle BR ricordate? Non ci parlate di post-verità) passando da leggende metropolitane.
IL_MALE_Tognazzi_capo_BR_Paese_Sera
Quello che c’è da fare è piuttosto analizzare il contesto in cui queste forme nascono, individuare gli attori, le specificità che caratterizzano l’Italia. Il dibattito si è molto concentrato, dopo la vittoria post-verità di Trump (sic!) su quanto avviene negli Stati Uniti che hanno una storia culturale e di Internet diversa dalla nostra. Noi non abbiamo 4chan; l’alt-right ha un senso completamente diverso qui e attori diversi; la tradizione del trolling è completamente diversa; noi abbiamo avuto Luther Blisset in casa; la nostra cultura Internet è più figlia del mainstream televisivo anni ’80 di quanto vorremmo; noi cerchiamo di educare la popolazione all’uso del web attraverso uno spinoff di Don Matteo,”Complimenti per la connessione”, dove un Nino Frassica/maresciallo Cecchini spiega in modo un po’ ironico ed imbranato le cose. Mi fermerei qui.
Quello che dobbiamo studiare e osservare sono gli attori e le pratiche, il contesto in cui una forma di disinformation o misinformation nasce. Tenere conto anche della funzione sociale che la dimensione fake assolve. Per fare solo un esempio io mi chiederei se Ermes Maiolica – nick name di uno dei principali produttori di bufale, per così dire, di successo nate online – non stia facendo un lavoro di sensibilizzazione dal basso:

 

non tutti hanno compreso ciò che faccio, anche perché il limite tra satira e diffamazione ha confini labili e in questo campo il discrimine tra legale e illegale non è molto chiaro. […]La maggior parte della popolazione dimostra di non saper sfruttare le potenzialità di internet, si fa abbindolare da pubblicità ingannevoli, prende sul serio gli slogan dei politici, cerca in rete qualunque notizia che possa confermare i suoi pregiudizi. La mia filosofia è che dobbiamo smetterla di incolpare il sistema per qualunque cosa, il sistema che ci controlla, il sistema che ci informa. Vorrei far capire che in rete siamo noi stessi il sistema, tutto dipende da noi. Spesso vengo accusato di fare disinformazione: ma non è possibile, non ne ho il potere. Non sono un giornalista, un blogger, non sono Emilio Fede, sono una persona comune. Non si può accusare un metalmeccanico di Terni di fare disinformazione nazionale, perché allora la disinformazione non sono io, la disinformazione siamo noi, noi che scriviamo e noi che ascoltiamo.

Ermes è un virus che può generare anticorpi?

Il dibattito su soggetti, contesti e pratiche è quanto mai necessario. È l’unico modo per evitare di cadere nel buco nero delle “fake news” e cominciare a preoccuparci per le modalità di manipolazione specifica che il nuovo ecosistema mediale, tra online e offline, può sperimentare e costruire una sensibilità diversa all’informazione (non alla verità) sui due lati: dei produttori e dei cittadini. Lati che molto spesso coincidono.