Karina Gibert (IDEAI-UPC): "No totes les respostes de ChatGPT són perfectes, treballa amb incerteses"

Una de les notícies de la setmana ha estat la petició de Sam Altman, director executiu i cofundador d'Open AI (l'empresa desenvolupadora de ChatGPT) al Congrés dels Estats Units perquè reguli el desenvolupament i els usos de la intel·ligència artificial. Aquesta eina, cada cop més popular, té, segons Altman, nombrosos beneficis, encara que també té enormes riscos.

Davant d'aquesta situació, cal preguntar-se quina és l'actitud de les institucions davant la intel·ligència artificial. Per això, Catalunya Press ha conversat amb Karina Gibert, directora del centre d'investigació Intelligent Data Science & Artificial Intelligence de la Universitat Politècnica de Catalunya (IDEAI-UPC).

Gibert apunta que cal tenir en compte que Europa, la Xina i els Estats Units tenen aproximacions molt diferents a aquesta matèria. "Des de 2018 hi ha una estratègia europea en intel·ligència artificial perquè es garanteixin els drets humans", apunta, alhora que afegeix que les institucions del vell continent treballen "per crear el marc ètic i legal per garantir-los".

En canvi, analitza, "aquest no és el camí en el qual estan la Xina i els Estats Units". Gibert assegura que en el cas del gegant asiàtic "el govern és el propietari de la major part de les dades que recullen les IAs", exercint "una gran supervisió sobre les dades", mentre que pel que respecta al país nord-americà, "fins ara la propietat era de l'empresa que les recollia", un sistema que apunta que és "la via del negoci".

En aquest sentit, el novembre de 2021 la UNESCO va publicar una sèrie de recomanacions (encara que no eren vinculants). I sent la UNESCO d'àmbit mundial, aquestes interpel·len també els dos gegants perquè optin per una aproximació a la intel·ligència artificial més semblant a l'europea.

"OBRIR CHATGPT A TOTHOM ÉS LA FORMA DE FER QUE AVANCI?"

ChatGPT es va llençar el 30 de novembre de 2022... tot i que com comenta Gibert, institucions europees ja treballaven per garantir una intel·ligència artificial ètica i amb respecte pels drets humans des de força abans. "Obrir ChatGPT a tothom és la forma de fer que avanci?", es pregunta l'experta. "No estic segura", afegeix.

"No totes les respostes que dona són correctes, perquè treballa amb incerteses", apunta, al mateix temps que denuncia que "això no s'ha explicat i hi ha molta gent que està fent servir aquesta eina sense ser conscient dels seus riscos". "S'hauria d'informar sobre aspectes com el marc d'utilització, deixar clar que està en fase de proves, què pot fer i que no, dir que dona errades, ...", afegeix, dient que ho hauria de fer l'empresa que ho desenvolupa (OpenAI, en el cas de ChatGTP), perquè "és l'única que coneix les errades que pot cometre".

Gibert reforça el seu discurs sobre les errades d'aquest element d'intel·ligència artificial explicant que "Google i tots els altres cercadors et donen un llistat d'informació rellevant en funció de la cerca que hagis fet", mentre que "ChatGPT ja et dona una resposta, tot i que no cita les fonts, de forma que no pots avaluar la seva qualitat, si són fiables".

A més, al seu parer, "per sobre de tot hi ha codis deontològics que haurien de seguir les empreses desenvolupadores".

LEGISLAR, LENT I COMPLICAT EN EL MÓN TECNOLÒGIC

Europa, doncs, segons diu Gibert, treballa des de fa anys en la legislació. "Quan es comença a legislar, ChatGPT no existia", diu l'experta, al mateix temps que adverteix que "fa més d'un lustre que s'està treballant al respecte, però que com passa sempre en el món tecnològic, és un procés complex, delicat i llarg", a més que cal que sigui sempre "respectant els drets".

Gibert conclou la conversa assegurant que "Catalunya està molt compromesa" amb els aspectes ètics i la vetlla dels drets humans relacionats amb la intel·ligència artificial. Un dels organismes que treballa de forma incansable en aquest sentit és l'Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC), que es va posar en marxa el febrer de 2020.