Intel·ligència artificial contra les 'fake news'

El terme fake news ha saltat a primera plana en els últims anys arran de la manipulació de l'opinió pública i de l'vot en les eleccions dels Estats Units de 2016, i també en el referèndum de l'Brexit celebrat al Regne Unit. L'escàndol protagonitzat per l'empresa Cambridge Analytica, que va fer un ús fraudulent de les dades personals de milions d'usuaris de Facebook, va tornar a avivar el seu protagonisme l'any passat.

No obstant això, no tots aproven l'ús de la denominació de notícies falses per referir-se al fenomen i hi ha qui ho considera molt restrictiu i insuficientment descriptiu del problema de fons. És el cas de la Comissió Europa, que prefereix parlar de desinformació.

En concret, defineix la desinformació com "informació falsa, inexacta o enganyosa, dissenyada, presentada o promoguda per causar intencionadament un dany públic o per obtenir un benefici". Per a la Comissió, l'expressió fake news no és adequada, perquè no abasta la complexitat del problema.

De fet, sovint es tracta de contingut que no és fals, o que no és completament fals, però que és informació fabricada, barrejada amb fets i pràctiques que poc tenen a veure amb el concepte de notícia, com poden ser comptes automàtiques en xarxes socials utilitzades per fer astroturfing (disfressar les accions d'una entitat política o comercial com la reacció pública espontània), l'ús de xarxes de seguidors falsos, els vídeos manipulats, la publicitat dirigida, els trolls organitzats o els mems visuals. En resum, es tracta de tot un ventall de pràctiques per manipular l'opinió pública a internet, que van més enllà de llançar una notícia falsa.

Paradoxalment, les notícies falses o fake news es viralitzen a les xarxes socials molt més ràpidament que la informació veraç i contrastada. És una cosa que s'ha pogut demostrar un recent estudi de MIT Initiative on the Digital Economy, que va analitzar, entre 2006 i 2017, al voltant de 126.000 fils de notícies a Twitter, tuitejats més de 4,5 milions de vegades per uns 3 milions de persones.

Els resultats van ser descoratjadors. En paraules dels autors, la veritat triga aproximadament sis vegades més que la mentida a aconseguir a 1.500 persones. En suma, els continguts falsos es difonen significativament més lluny, més ràpid i més profundament en els fils i cascades de converses, que els veritables.

Entre totes les categories de rumors, els relacionats amb la política són els que aconsegueixen major difusió, per sobre dels relacionats amb el terrorisme, els desastres naturals, la ciència, la informació financera o les llegendes urbanes.

El fet que les fake news presenten una probabilitat de ser retuitejades un 70% superior pot tenir a veure, segons l'estudi, al fet que es perceben com més noves que les reals. La gent tendeix a difondre la novetat en major mesura que el ja conegut.

Finalment, i en contra del que es pensa, l'anàlisi realitzada va demostrar que els bots, els perfils automàtics de Twitter, acceleren les notícies falses i veritables en la mateixa proporció, el que implica que som els humans -i només nosaltres- els únics responsables de la proliferació de les fake news.

La caça de notícies falses és una tasca àrdua i complexa. L'immens cabal d'informació que arriba als portals agregadors de continguts i que circula per les xarxes socials fa molt difícil que els editors humans puguin verificar ràpidament una determinada notícia, especialment quan es tracta d'una història nova. Passa sovint que, quan s'aconsegueix demostrar que una notícia és falsa, el dany que produeix ja ha tingut lloc.

Les màquines poden aportar rapidesa i eficiència a la tasca de caçar rumors. En concret, ens poden superar en l'anàlisi dels atributs quantificables de la notícia, com l'estructura gramàtica, l'elecció de paraules, la puntuació i la complexitat del text. No obstant això, el veritable desafiament per a construir un bon detector de fake news no és tant el disseny de l'algorisme, sinó trobar les dades adequades per alimentar-lo i entrenar-lo en suficient quantitat. Però els rumors apareixen i desapareixen amb rapidesa, i resulta complicat recopilar-per poder-los mostrar a les màquines.

Un equip d'investigació de la Universitat de Michigan ha creat un algoritme caçador de notícies falses que ha demostrat fer-ho millor que els humans: ha aconseguit identificar aake news amb un 76% d'èxit, davant el 70% dels caçadors humans.

Un altre exemple de detecció de notícies falses a través de la intel·ligència artificial és el sistema basat en aprenentatge profund que ha desenvolupat la startup britànica Fabula. En aquest cas, la identificació de la mentida no es produeix a través de l'anàlisi del text, sinó estudiant com es comparteixen les històries, per reconèixer patrons de difusió que únicament poden correspondre a fake news.

Finalment, el MIT 's Computer Science and Artificial Intelligence Lab (CSAIL), en col·laboració amb el Qatar Computing Research Institute (QCRI), ha realitzat una tercera aproximació a aquest tema, en aquest cas centrant l'atenció en les fonts de les notícies. El sistema que han desenvolupat utilitza l'aprenentatge automàtic (machine learning) per determinar l'exactitud d'una font d'informació i identificar si està políticament esbiaixada.

La tesi subjacent en aquesta experiència és que, si una web ha publicat fake news en el passat, és molt probable que ho torni a fer. D'aquesta manera, l'algorisme recopila dades d'aquests llocs sospitosos i els modelitza, per poder identificar amb aquest patró a altres pàgines que vagin a publicar rumors per primera vegada. Aquest rastrejador només necessita analitzar uns 150 articles per poder determinar amb fiabilitat si una font d'informació és o no de confiança.