Un nuovo sito web ha suscitato indignazione per il suo contenuto sessista, promuovendo la possibilità di “spogliare” virtualmente donne famose attraverso l’uso dell’intelligenza artificiale. Il portale, denominato ‘Social Media Girls’, si aggiunge a un elenco già preoccupante di piattaforme come ‘Mia Moglie’ e ‘Phica.ue’, che sfruttano questa tecnologia per creare immagini di conduttrici, cantanti, attrici e politiche in situazioni compromettenti. La denuncia delle vittime ha attivato la polizia postale, che ha avviato indagini sui contenuti pubblicati online.
La giornalista e conduttrice Manuela Moreno, vittima di deep fake, ha dichiarato: “Si tratta di una violazione dell’intimità, umiliazione, offesa, una vera e propria violenza sessuale”, sottolineando che le immagini ritraenti le donne sono generate artificialmente. Le vittime di questa pratica non sono solo celebrità, ma comprendono anche persone comuni di tutte le età, spesso associate a contenuti pornografici senza il loro consenso.
Moreno ha condiviso la sua esperienza con Rainews.it, rivelando di aver appreso della sua presenza su questi siti grazie alle segnalazioni degli utenti sui social media. “È molto difficile bloccarli, le immagini si diffondono rapidamente”, ha aggiunto, riferendosi anche alla creazione di film pornografici che utilizzano il suo volto.
I portali in questione raccolgono fotografie modificate digitalmente, esibendo nudità che non esistono nella realtà ma sono frutto di un’elaborazione virtuale. Questo fenomeno ha suscitato preoccupazioni diffuse riguardo alla manipolazione dei contenuti e alla loro diffusione.
Cos’è il deep fake
I deep fake sono video, immagini e audio manipolati digitalmente utilizzando l’intelligenza artificiale, creando l’illusione che una persona compia o dica qualcosa che in realtà non ha mai fatto. Le ragioni dietro la diffusione di tali contenuti sono molteplici, con radici sia sociali che mediatiche. Questi strumenti vengono utilizzati non solo per scopi ludici, come parodie e video virali, ma anche per disinformazione e manipolazione, con conseguenze potenzialmente dannose.
La diffusione di contenuti non consensuali ha contribuito a far crescere l’interesse per questo tipo di tecnologia, alimentando preoccupazioni su come questi strumenti possano essere utilizzati per danneggiare la reputazione di individui e influenzare l’opinione pubblica.
L’appello di Manuela Moreno
Manuela Moreno ha ricevuto un ampio sostegno da parte di colleghe e amiche, molte delle quali si sono immedesimate nella sua situazione. Ha esortato a fare rete e a rimanere unite contro tali pratiche dannose. “È fondamentale restare solidali e denunciare”, ha affermato, sottolineando l’importanza della comunità nel combattere la violenza digitale.
Disinformazione e manipolazione
Con il miglioramento delle capacità dell’AI generativa, cresce la necessità di una critica adeguata da parte dei cittadini. I contenuti generati artificialmente possono apparire indistinguibili dalla realtà, aumentando il rischio di disinformazione su larga scala. Le conseguenze possono essere gravi, influenzando il panorama politico, sociale ed economico.
Violazione della privacy
Con l’entrata in vigore dell’AI Act nel 2024, l’Unione Europea ha iniziato a regolamentare l’uso dell’intelligenza artificiale, vietando pratiche come lo scraping di immagini facciali per proteggere la privacy. Tuttavia, questa normativa ha validità limitata all’interno dell’UE, mentre a livello globale la situazione rimane frammentata. Le aziende e i governi hanno una grande responsabilità nel garantire strumenti di trasparenza e regolamentazione chiara, poiché senza queste misure, l’AI generativa potrebbe trasformarsi in uno strumento di manipolazione anziché di progresso.