Detinguts 25 membres d'un organització criminal dedicada a distribuir imatges d'abús infantil generades per IA

Agents de la Policia Nacional, en una operació d'Europol contra l'explotació sexual infantil, han col·laborat en la detenció de 25 membres d'una organització criminal dedicada a distribuir imatges d'abusos a menors generades per intel·ligència artificial (IA).

Segons ha informat aquest divendres la Policia Nacional, dues de les 25 detencions han tingut lloc a les províncies de Madrid i Barcelona, per agents espanyols. S'han dut a terme 33 entrades i registres en domicilis, 4 d'ells a Espanya -a les províncies de Madrid, Barcelona, Jaén i Màlaga- i 173 dispositius electrònics han estat confiscats, 8 d'ells al nostre país amb 16.800 arxius.

"Es tracta d'una de les primeres operacions en les quals s'investiga material d'abús sexual infantil generat íntegrament per intel·ligència artificial", ha destacat, per a després afegir que l'operació encara continua oberta pel que no es descarten noves detencions.

La recerca va començar a partir de la detenció l'any 2024 d'un ciutadà danès, qui dirigia una plataforma online a través de la que es distribuïa material generat per IA que produïa prèviament. Usuaris de tot el món, després de realitzar un pagament simbòlic en línia, podien obtenir una contrasenya per a accedir al material d'aquesta plataforma on podien visualitzar abusos a menors.

"L'explotació sexual infantil online continua sent una de les majors amenaces del delicte cibernètic a la Unió Europea i continua sent una de les principals prioritats de les autoritats que s'enfronten a un volum cada vegada major d'aquesta mena de contingut il·legal.

En aquest context, la Policia Nacional ha explicat que el material sexual infantil autogenerado constitueix una part important del total que es detecta i que els delinqüents se serveixen de models de IA capaços de generar o alterar imatges per a produir el material. A més, ha assenyalat que aquests models estan "àmpliament" disponibles i s'han desenvolupat "ràpidament amb resultats que actualment s'assemblen cada vegada més a les imatges reals, la qual cosa fa que sigui més difícil identificar-los com a material generat per intel·ligència artificial".

"Això planteja importants desafiaments a les autoritats a l'hora d'identificar a les veritables víctimes. Fins i tot en els casos en els quals el contingut és íntegrament generat per IA i no es representa a cap víctima real, com en aquesta operació, continua contribuint a la reificació i sexualización dels nens", ha subratllat.

D'altra banda, ha assenyalat que l'operació internacional també està orientada a l'adopció de mesures proactives per a prevenir futurs delictes. Per això, Europol llançarà una campanya online en els pròxims dies en la qual se subratllaran les conseqüències de l'ús de la IA amb finalitats il·legals, amb missatges en línia per a arribar als compradors de contingut il·legal, així com trucades telefòniques i missatges en les xarxes socials.

En el curs de la recerca, Europol i el Grup de Treball Conjunt d'Acció contra la Ciberdelinqüència (J-CAT) van proporcionar coordinació operativa a les autoritats implicades en el cas. Així mateix, el Centre Europeu de Ciberdelinqüència d'Europol va facilitar l'intercanvi d'informació i va proporcionar intel·ligència i anàlisis operatives als investigadors dels diferents països involucrats en l'operació.