L’intelligenza Artificiale usata per creare contenuti pornografici con i compagni di classe: dal deepfake al sextortion. L’emergenza riguarda anche l’Italia
Nel panorama digitale odierno, un fenomeno preoccupante si sta insinuando con crescente frequenza è l’uso di intelligenza artificiale (IA) per creare e diffondere immagini e video pornografici non consensuali, conosciuti come “deepfake”. La gravità di questa pratica è sottolineata dall’aumento esponenziale del numero di questi contenuti sui maggiori siti web, con una crescita del 290% dal 2018, e da un impressionante numero di visualizzazioni che raggiunge i miliardi.
L’argomento è stato trattato dal Corriere, che riprende dati e analisi pubblicati qualche giorno fa sul Washington Post
Deepfake fa spesso paio con “sextortion”, l’uso di immagini fake di carattere pornografico cono scopi ricattatori. E il tutto grazie alle IA oggi è molto più facile. Questo è quanto emerge da studi condotti da organizzazioni come Sensity AI e segnalazioni dell’FBI, che evidenziano un aumento preoccupante di tali casi.
Le scuole
Uno degli episodi più allarmanti si è verificato in una scuola superiore del New Jersey, dove alcuni studenti hanno creato immagini false di compagne di scuola nude, utilizzando l’IA. Questo episodio, che ha sollevato questioni etiche e legali, riflette una problematica più ampia che riguarda il cyberbullismo e la violazione della privacy, e pone in evidenza la necessità di interventi normativi e educativi specifici.
Ma da ricordare c’è anche un episodio avvenuto ad ottobre e segnalato dalla nostra redazione di un gruppo di studenti trevigiani che ha utilizzato un’APP per modificare le immagini delle loro compagne di classe, rendendole nude, e successivamente condividendo le foto modificate attraverso chat private.
C’è bisogno di una legislazione specifica
Negli Stati Uniti, nonostante l’assenza di una legge federale che affronti specificamente il problema dei deepfake, alcuni stati come California, Virginia, Minnesota e New York stanno cercando di porre rimedio attraverso legislazioni che prevedono azioni legali e sanzioni per chi crea o diffonde tali contenuti. Queste iniziative rappresentano un primo passo importante verso la tutela delle vittime. In Italia il rischio penale per i maggiorenni va dalla diffamazione alla diffusione di materiale pedopornografico.
