Quatre menors, investigats a Barcelona per difondre imatges pornogràfiques de companyes fetes amb IA
En total, els investigadors van trobar 15 imatges creades amb una aplicació que permet superposar rostres reals en cossos nus, generant contingut explícit completament fals
L'ús indegut de la Intel·ligència Artificial ha deslligat una nova alerta a Barcelona. Quatre menors de 15 anys estan sent investigats pels Mossos d'Esquadra, comissaria de Sants-Montjuïc, després de descobrir que van utilitzar una aplicació mòbil per a generar imatges falses de companyes de classe amb contingut pornogràfic.
L'incident va sortir a la llum quan un alumne de l'institut de Sants-Montjuïc va alertar als professors sobre l'existència d'imatges manipulades amb IA que circulaven en un grup de missatgeria instantània. En total, els investigadors van trobar 15 imatges creades amb una aplicació que permet superposar rostres reals en cossos nus, generant contingut explícit completament fals.
Després de rebre la denúncia, la direcció del centre va contactar amb les autoritats, els qui van iniciar una recerca per a identificar als responsables i avaluar la magnitud del mal causat.
El cas ha estat denunciat davant la Fiscalia de Menors, ja que les accions dels implicats podrien constituir un delicte contra els drets fonamentals i les llibertats públiques. A més, els pares dels quatre menors investigats han estat notificats de la situació.
Escriu el teu comentari