Els reptes i amenaces per a la democràcia de la intel·ligència artificial

Mentre escric aquestes línies, té lloc l'acte d'investidura de Donald Trump a Washington. Com ja hem pogut comprovar, iniciarà el seu segon mandat amb l'adhesió absoluta de tots els grans senyors digitals, és a dir, els amos de les grans plataformes tecnològiques que, per bé o per mal, han esdevingut elements essencials a les nostres vides . A l'indiscutible protagonisme que tindrà Elon Musk (Tesla, SpaceX i X, anteriorment coneguda com a Twitter) al nou govern, se li sumen els suports de gent com Sundar Pichai (Google), Jeff Bezos (Amazon), Sam Altman (OpenAI ) o Mark Zuckerberg, que com un gest per congraciar-se amb el nou president ha suprimit a Facebook el seu sistema de verificació de dades per tercers, substituint-lo per notes de la comunitat com a la xarxa X (almenys als Estats Units). S'ha estès una por generalitzada que a partir d'ara aquestes grans empreses tinguin encara més capacitat de control sobre les persones de qui han tingut fins ara, i més llibertat per fer el que els vingui de gust sense respondre davant de ningú.

Hi ha consens sobre el fet que la digitalització, i en especial la intel·ligència artificial, modelaran el futur de la humanitat i transformaran la idea de democràcia que hem tingut fins ara. Això és una cosa que analitza un informe recent d'UNESCO que, dirigit pel filòsof Daniel Innerarity, ha estudiat com la digitalització reforma els processos col·lectius de presa de decisions i influeix en l'acció ciutadana (Artificial intelligence and democracy).

El treball planteja que la proliferació a través de mitjans digitals de la desinformació, els bulls i els discursos d'odi danya profundament l'esfera pública, que constitueix un element essencial per garantir la bona salut de les democràcies. I aquesta rau en una ciutadania ben informada i progressa amb el diàleg actiu que busqui espais de trobada entre els punts de vista divergents. Tot i això, la utilització d'algoritmes que generen i difonen la informació a través de plataformes digitals, tant amb finalitats comercials com ideològiques, contribueix a generar discursos d'odi i desinformació que el que aconsegueixen és aïllar el ciutadà en càmeres estanques d'opinió, on no té accés a altres perspectives de la realitat, i en què no hi ha un espai per a l'intercanvi d'idees diferents, impedint el desenvolupament del pensament crític. En aquest sentit, un recent article publicat a El País parlava d'un estudi que demostra que la gent gran tria la informació dubtosa, no pas per manca d'habilitats digitals, sinó perquè en confirma la ideologia. D'alguna manera, tots inconscientment ens inclinem a aïllar-nos amb les notícies d'opinió que reforcen els nostres principis i punts de vista.

A diferència del que comunament es pensa, la tecnologia no és neutral i reflecteix els valors dels desenvolupadors. Així, la intel·ligència artificial té un immens potencial per impulsar la transparència a les institucions públiques i per garantir un ampli espectre de participació ciutadana que enriqueixi el procés democràtic, però també pot ser concebuda per a propòsits maliciosos, com ara la manipulació de l'opinió pública. Ja des de la dècada passada hem pogut comprovar la seva capacitat per dirigir missatges individualitzats a col·lectius específics i fins i tot a ciutadans concrets, i ja estem familiaritzats amb la publicitat dirigida -aquests anuncis que ens apareixen recurrentment després d'haver fet una cerca en línia d'un producte o servei-, i també hem pogut comprovar com aquests algorismes poden ajudar a manipular l'opinió del públic, com va passar a l'escàndol de Cambridge Analytica.

Vivim en l'economia de la dada, però la dada no és políticament neutral, ja que la recol·lecció i l'anàlisi es basen en decisions específiques. A mesura que les decisions polítiques reposin més en el big data, més rellevant resulta monitoritzar amb precisió les possibles raons ocultes que guien la selecció de dades o els biaixos que manifesta, ja que poden generar biaixos en la manera com els algorismes d'intel·ligència artificial executen els seus dictàmens. El tipus d'informació disponible estableix els problemes que ha d'enfrontar un govern i la manera de fer-ho. Unes dades esbiaixades intencionadament poden condicionar el funcionament de l'Administració. Com ens recorda Innerarity a l'informe, en gran manera la governança s'està convertint en algorítmica, i cada vegada ho serà més, de manera que la intel·ligència artificial progressivament automatitza una proporció més gran de la presa de decisions governamental. La governança algorítmica presenta no pocs reptes per al sistema democràtic, principalment la identificació de les qüestions susceptibles de ser automatitzades sense comprometre els valors democràtics, i les condicions per garantir aquesta compatibilitat.