Un grup de Telegram utilitza la IA per crear pornografia de dones catalanes sense permís

La intel·ligència artificial (IA) s'ha convertit en una eina poderosa, però en mans equivocades pot ser una amenaça perillosa. Recentment, diverses dones han denunciat davant els Mossos d'Esquadra que grups d'homes a Telegram estan utilitzant fotos fetes dels seus perfils d'Instagram, per modificar-les després amb aplicacions d'IA i fer-les aparèixer nues. Aquesta pràctica, que també inclou vídeos editats sense consentiment, ha deixat moltes dones devastades i exposades, amb algunes trobant les seves imatges en xarxes socials sense la seva autorització.

Els informes indiquen que el grup de Telegram, compost per al voltant de 1.000 usuaris, la majoria homes anònims, es dedica a compartir fotos de dones per tal de crear contingut sexual sense permís. Les víctimes, en llegir els missatges en aquests grups, han trobat comentaris obscens i vexatoris, juntament amb fotos alterades per IA, que després es fan servir en material pornogràfic sense consentiment.

La facilitat de manipular imatges amb IA i el dany psicològic a les víctimes

Una de les víctimes, que ha parlat amb TV3, va explicar que va descobrir que membres d?aquest grup eren coneguts seus del poble o fins i tot companys de feina. El que va començar com una violació de la seva privadesa en un grup de Telegram es va convertir en un turment psicològic. A més dels atacs virtuals, les afectades han patit conseqüències devastadores, com ara insomni, paranoia, trastorns alimentaris i, en alguns casos, el desig de no sortir de casa mai més.

La facilitat amb què es poden modificar fotos utilitzant les noves tecnologies, com la IA, ha alarmat les autoritats. Alterar imatges per crear escenes pornogràfiques, com ara simular ejaculacions sobre el cos de la víctima, és ara una cosa senzilla, però el dany emocional i psicològic que causa les dones és incalculable.

Aquest tipus de situacions no només posa de manifest els riscos associats amb l'ús irresponsable de la intel·ligència artificial, sinó que també destaca la urgència de prendre mesures per protegir la privadesa de les persones al món digital. Les denúncies continuen creixent i el grup a Telegram continua actiu, cosa que ressalta la necessitat urgent d'una legislació més estricta per combatre aquest tipus d'abusos.