Karina Gibert, experta en intel·ligència artificial: "D'aquí a poc sentirem parlar d'alguna tecnologia que superarà ChatGPT"

Fa gairebé dos anys, en una xerrada que vam mantenir amb vostè, ChatGPT no era tan emprat com ho és avui. Vostè deia que aquesta eina d’intel·ligència artifical (IA) generativa treballa amb incerteses. Segueix pensant el mateix? Ha canviat alguna cosa?

El principi bàsic de funcionament d'una IA generativa es podria comparar amb un infant que està aprenent a parlar i va construint les frases per intuïció, col·locant les paraules unes darrere de les altres, i a l'inici molts cops diu coses que no tenen sentit, perquè ha combinat paraules que no toquen. 

Totes les IA generatives funcionen així, i en el cas de ChatGPT, ho fa a partir de molts documents que ha llegit i això fa que la major part del que ens digui encaixi, però això no vol dir que sigui cert ni que sigui correcte. Això no ha canviat, perquè és el principi de la IA generativa.

Sí que és cert que cada cop tenen més coneixement, i que cada cop ho fan millor. Però la setmana passada llegia que hi ha un altre tipus d'IA generativa, que són els models de difusió, que sembla ser que ho estan fent molt millor amb menys despesa energètica i de forma més sostenible. És un univers canviant, i que canvia de pressa, i d'aquí a poc sentirem parlar d'alguna tecnologia que superarà ChatGPT.

Com explicaria el seu èxit? 

Hi ha dues raons: és àmpliament utilitzada i s'ha fet molt popular, perquè està especialment dissenyada perquè la seva interacció sigui molt còmoda. Amb aquesta bèstia hi parles com parlaries amb la teva mare o amb el veí de baix. I això fa que es trenqui la barrera de l'escletxa digital i que tothom pugui interactuar-hi. Qui més qui menys la coneix, perquè l'ha fet servir. És la més popular, sens dubte. 

A parer seu, com ha canviat la relació dels ciutadans amb eines com ChatGPT? 

Radicalment. Hem passat de què era necessari ser un tècnic, o conèixer els menús i la tecnologia que hi havia al darrere, a reduir-ho a una simple conversa. I això serà un revulsiu, no només per a la IA, sinó per la forma com la humanitat es relaciona amb les màquines d'aquí a molt pocs anys. Si evoluciona com ha d'evolucionar, per posar un exemple, potser d'aquí a uns anys no tenim ni teclats. Potser ni per tasques com programar. Aquest seria un dels grans efectes disruptius.

Fa un any deia en una conferència al CCCB que l’ètica ha de ser quelcom imprescindible en el desenvolupament de la intel·ligència artificial. S’està treballant amb aquests paràmetres?

Sí, i de fet la Comissió Europea té aquest model i aquest paradigma ètic de desenvolupament. Els governs europeus estan tots alineats i molts venen a buscar-nos perquè els assessorem en aquesta dimensió. La preocupació hi és, però vull assenyalar que aquesta visió ètica de la protecció dels drets humans del ciutadà la tenim a Europa, però no la tenen altres potències mundials. I amb els canvis que hi ha hagut als Estats Units, ja veurem...

Fa uns dies es va celebrar la Cimera de París, però moltes veus van dir que els propòsits originals de la reunió s’havien quedat a mig camí.

És una reflexió que acaba passant de forma habitual quan hi ha cimeres d'aquestes característiques. I passa perquè estan més a l'esfera política que a la del doing, a la de l'acció. Nosaltres, aquesta setmana, serem a l'ONU per celebrar el 30è aniversari de la Declaració dels Drets de les Dones. I si analitzes el que tenim tres dècades després, posaries faltes per tot arreu. Hi ha una distància entre la declaració a nivell polític i com articules i poses instruments per desplegar el que cal.

Quin balanç en fa, d’aquesta reunió? En general, creu que aquestes trobades són útils? Alguns experts comencen a plantejar la conveniència de cimeres com la del clima, de les que molts cops s’obvien les conclusions i no s’apliquen les recomanacions i directrius.

Tot i que penso que molts cops acaba passat això, penso que és necessari que les reunions se segueixin fent. Si no hi ha ni el postureig, com si diguéssim, de fer aquests acords públics, és impossible passar a l'acció. Aquí estaríem en un primer punt de què tothom en prengui consciència, i a partir d'aquí es pot obrir el camí per poder fer passes endavant. 

Convindrem que no és el més efectiu; on es fa feina és en comissions de treball que no surten a la televisió ni als mitjans. Tot i això, si aquests no van acompanyats de la política que acull i recull el que volen fer... 

En la conversa de 2023 remarcava molt les diferències entre els models d’Europa, la Xina i els EUA respecte de l’abordatge de la IA. Som on érem? S’han intensificat les postures?

Cadascú és on era, en el seu nínxol. I potser la situació als Estats Units la veig de forma més preocupant, perquè estem donant poder a empresaris privats que ja tenen una quota de mercat molt gran i que ara, a més, tenen la capacitat de dirigir les polítiques. Això és inquietant. Tot i això, no vull ser alarmista.

Cap a on va la IA? Tant des d’un punt de vista legislatiu com tecnològic...

Hem de tenir en compte que la legislació sempre anirà per darrere de la tecnologia, perquè aquesta evoluciona a la velocitat de la llum i la llei ha de respondre. Abans d'aprovar una llei cal estar segur que no vulnera cap col·lectiu. 

Hem de treballar per garantir que l'ús i el desenvolupament d'aquestes eines es faci des d'un punt de vista ètic. Cal molta deontologia, molta formació en valors, molt pensament crític que estigui molt desenvolupat per part de tothom (des del ciutadà fins al polític)... Tothom, cadascú al seu rol, ha de ser responsable. Aleshores, que hi hagi un marc normatiu o no, potser la normativa no és tan important.

Tenint en compte tot el que hem parlat, Karina Gibert és optimista, pessimista o realista respecte del futur de la IA?

(Riu) Estic tan convençuda que això és una eina de progrés absolutament inalienable, com preocupada perquè la seva implantació no es faci d'una forma prou prudent. I per això estic arremangada assessorant tothom qui m'ho demana. Ens hem d'assegurar que ho fem en els marges de la protecció dels drets de les persones.