VÍDEO. Intel·ligència artificial: Un futur predictible o una caixa de Pandora?

El Palau Macaya és un centre dedicat a la divulgació en ciències socials i humanitats. Actualment, el Palau Macaya ofereix una varietat d'activitats, incloent conferències, debats i exposicions, amb l'objectiu de fomentar l'esperit crític i el sentit de justícia social gràcies a l'impuls de la Fundació La Caixa. A més, es realitzen visites guiades que permeten als visitants descobrir la història i els secrets d'aquest emblemàtic edifici modernista. ​

Sota el suggeridor títol "Un futur previsible per a la intel·ligència artificial?", la trobada que ha tingut lloc aquesta setmana va reunir dues veus autoritzades per a confrontar les seves visions: Ramon López de Mántaras, pioner de la IA a Europa i investigador emèrit del CSIC, i Josep Ramoneda, filòsof i director de la Maleta de Portbou i de l'Escola Europea d'Humanitats.

La sessió, precedida per un esment a la col·laboració amb el Consolat de Polònia i la presidència polonesa del Consell de la UE, es va erigir com un espai de reflexió crítica sobre l'impacte present i futur de la IA, abastant des de les seves capacitats tecnològiques fins a les seves implicacions ètiques i humanes.

Desmitificant la "Intel·ligència" Artificial

Ramon López de Mántaras va iniciar la seva intervenció amb un advertiment sobre la tendència a sobrevalorar la IA actual. Amb una perspectiva científica i pragmàtica, va afirmar que el terme "intel·ligència" aplicat a les màquines s'utilitza de manera metafòrica i antropomòrfica. Si bé va reconèixer la sofisticació dels models de llenguatge, va subratllar la seva manca d'una comprensió real del llenguatge i del context humà.

 López de Mántaras va alertar sobre l'absència de criteris científics sòlids per a mesurar el progrés real de la IA i va criticar la creixent dependència d'aquestes tecnologies per part de les grans corporacions, un canvi significatiu respecte a fa uns anys, quan les tendències eren marcades pel món acadèmic.

La singularitat humana en Joc

Des d'una òptica més humanista, Josep Ramoneda va posar l'accent en la necessitat de preservar la singularitat inherent a la condició humana. Va reivindicar la creativitat, la intuïció i la irrepetible individualitat enfront d'una tecnologia amb una tendència homogeneïtzadora. Ramoneda va emfatitzar que la humanitat no pot renunciar a la seva complexitat ni delegar de manera acrítica en eines com la IA, recordant que "escriure és pensar" i alertant sobre el risc de perdre capacitats cognitives si es delega massa aquesta tasca a la IA.

Un debat participatiu i urgent

El públic, compost per professionals, acadèmics i estudiants, va participar activament en un debat que va abordar qüestions crucials com la regulació europea de la IA, el seu ús pedagògic a les aules, l'economia que la sustenta i els biaixos inherents als models actuals. Es va destacar la urgència d'alfabetitzar digitalment a la població, especialment als joves, per a fomentar un ús crític i conscient d'aquestes eines.

Tecnopesimismo vs. tecnorrealismo: Navegant la incertesa

López de Mántaras es va mostrar escèptic davant els pronòstics tecnoutópicos, inclinar cap a un "tecnopesimismo" influenciat pels recents moviments en l'administració estatunidenca en relació a la regulació de la IA. En contraposició al "tecnosolucionismo" que pregona la IA com a resposta a tots els problemes, va advocar per un "tecnorrealismo" que reconeix el potencial de la IA com a eina, però insisteix que les solucions als grans desafiaments han de venir de la pròpia humanitat.

El cos i la consciència: La bretxa infranquejable

Aprofundint en les limitacions de la IA actual, López de Mántaras va argumentar que, fins i tot dotant a la IA d'un cos (l'anomenada "IA física" o "encarnada"), seria difícil aconseguir una comprensió del món comparable a la humana sense un cos orgànic basat en la química del carboni. Citant estudis en neurociència, va expressar seriosos dubtes sobre la possibilitat d'una consciència artificial genuïna sense aquesta base biològica. Aquesta perspectiva qüestiona la hipòtesi del "sistema físic de símbols", que suggereix que la intel·ligència resideix en la capacitat de processar símbols, independentment del substrat.

El control i l'ètica en el punt de mira

Tots dos ponents van coincidir en la importància de l'ètica i el control en el desenvolupament i la implementació de la IA. López de Mántaras va alertar sobre la influència de figures com Elon Musk en la direcció de la recerca, prioritzant la competitivitat empresarial per sobre de les preocupacions sobre la diversitat i la seguretat. Ramoneda, per part seva, va emfatitzar el risc que aquells amb el control de la IA, imbuïts d'una mentalitat nihilista, puguin causar un gran mal a la humanitat.

Pròxima cita: Control ètic i democràtic de la IA

La sessió va concloure amb l'anunci del pròxim lliurament del cicle, prevista per al 5 de maig, que se centrarà en el control ètic i democràtic de la IA en l'àmbit d'empreses i administracions, amb la participació d'Ariadna Font, exresponsable d'ètica algorítmica en Twitter. Aquest diàleg reafirma la voluntat de la Fundació Ernest Lluch i el Club de Roma de continuar generant espais de pensament crític entorn del paper de la tecnologia en les nostres societats, amb la mirada posada en una IA al servei de les persones.

Reviu la jornada