Viviamo immersi nella tecnologia. Ogni giorno condividiamo foto, storie, pensieri. Ci mostriamo. Ci raccontiamo.

I social media, nati per avvicinarci, sono diventati parte della nostra identità. Eppure, proprio in questi spazi che dovrebbero essere di espressione e libertà, si sta diffondendo una nuova forma di violenza, subdola e devastante: la violenza di genere digitale.

Come membro del gruppo Youth advisory board ho avuto l’opportunità di partecipare al Sesto incontro nazionale tenutosi a Bologna[1], dove abbiamo analizzato un tema fortemente attuale: i social media come strumento di diffusione della violenza online, e in particolare il crescente fenomeno dei deepfake e dei deepnude.

Abbiamo ascoltato testimonianze, confrontato esperienze, analizzato dati con i nostri coetanei dello Youth Panel di Generazioni Connesse[2]. Ma soprattutto abbiamo sentito la forte responsabilità di portare la voce dei giovani in una discussione che troppo spesso li esclude, pur parlando direttamente di loro. Quando si parla di queste nuove forme di violenza digitale, sono proprio i/le giovani ad essere i/le primi/e a subirle e devono poter essere anche i/le primi/e protagonisti/e di un cambiamento.

Cos’è davvero un deepfake? E perché è pericoloso?

Un deepfake è un contenuto multimediale (di solito un video) in cui il volto di una persona viene sovrapposto in modo realistico al corpo di qualcun altro, spesso in situazioni sessualmente esplicite. Questi video sono generati da algoritmi di intelligenza artificiale capaci di apprendere lineamenti, espressioni, movimenti e replicarli alla perfezione.

Nel caso dei deepnude, il meccanismo è ancora più inquietante: si parte da una foto normale, magari un selfie pubblicato su instagram e, tramite software AI, il corpo viene ricostruito “nudo”, anche se la persona in questione non si è mai fotografata svestita.

Chi subisce questo tipo di attacco viene letteralmente spogliato della propria immagine, della propria dignità. Il proprio corpo, anche se “digitalmente costruito”, diventa territorio violato, oggetto di derisione, umiliazione, controllo. E la cosa peggiore è che spesso la persona viene colpevolizzata: “Non dovevi postare quella foto”, “sei troppo visibile”, “è colpa tua”.

Ma non lo è. La colpa non è mai di chi subisce una violenza. Mai.

Quando la violenza digitale diventa sociale

Il problema non è solo la creazione del contenuto in sé, ma anche la velocità con cui si diffonde, la quantità di occhi che lo vedono, il numero di condivisioni che lo fanno diventare virale. Spesso, prima ancora che la persona se ne accorga, il suo volto è stato già incollato su decine di video pornografici, oppure la sua immagine è circolata su gruppi Telegram, in chat scolastiche e su bacheche pubbliche.

I social media, in questo senso, sono amplificatori potentissimi. Ogni click, ogni commento, ogni condivisione rende la violenza più profonda, più difficile da arginare. E quando si chiede supporto, spesso si trovano porte chiuse, algoritmi lenti e un sistema ancora impreparato a gestire queste forme di aggressione.

Chi subisce rimane solo, e ferito due volte: dalla violenza iniziale e dall’indifferenza che segue.

Aumenta l’attenzione sugli effetti che gli smartphone possono avere sui ragazzi

Mentre nuovi studi provano a fare chiarezza sull’efficacia dei divieti ai cellulari in classe, un disegno di legge della California cerca di proteggere i minori dalla dipendenza da chatbot.

Violenza di genere digitale: una questione culturale

Chiamare le cose con il loro nome è fondamentale. Infatti, quello che accade tramite i deepfake e i deepnude non è un gioco, non è una goliardata e neanche un errore di troppo, ma una forma di violenza di genere. È un attacco alla persona, al suo corpo, alla sua identità. Ed è, senza dubbio, violenza di genere in quanto colpisce in modo sproporzionato tutte e tutti, in particolare donne, ragazze e persone LGBTQIA+. Si basa su una logica patriarcale che vede il corpo di altre persone come un oggetto da controllare, manipolare, possedere. È lo stesso schema che troviamo nella violenza domestica, negli abusi fisici, nelle molestie in strada. Cambia solo il mezzo: qui lo strumento è uno smartphone, un algoritmo, una connessione.

Educazione digitale e responsabilità collettiva

La risposta a tutto questo non può essere solo giuridica. Servono leggi più efficaci, certo. Serve che i tribunali riconoscano questi atti come crimini veri e propri. Serve che le piattaforme digitali agiscano con più rapidità e trasparenza, ma serve anche e soprattutto un cambiamento culturale. È necessario affrontare questi argomenti nelle scuole, con i ragazzi e le ragazze. Bisogna far capire che il consenso non è mai implicito, e che la dignità delle persone va rispettata sempre, anche online. Dobbiamo imparare a riconoscere i segnali della violenza digitale e a non restare in silenzio.

Ogni volta che vediamo un contenuto offensivo e non lo denunciamo stiamo scegliendo di essere complici. Ogni volta che ci giriamo dall’altra parte, stiamo lasciando qualcun* da sol*.

E noi giovani? Da che parte stiamo?

Questa è la domanda più importante! Siamo noi, come generazione, a vivere il digitale ogni giorno. Siamo noi a condividere, a scrollare, a decidere se cliccare o no. Siamo noi che possiamo creare una rete diversa, basata sul rispetto, sulla cura, sulla responsabilità reciproca.

Possiamo farlo scegliendo di non ridere di un deepnude, di non inoltrare un deepfake, di parlare apertamente di questi temi con chi ci sta intorno.

Noi dello Youth advisory board, per capire meglio il rapporto tra i/le giovani e l'intelligenza artificiale, abbiamo preparato un sondaggio sull’AI. Se avete tra i 14 e i 21 anni, o avete amici, figli, nipoti di questa età, vi invitiamo a rispondere/inoltrare il sondaggio che abbiamo creato.

Sul tema specifico della violenza di genere, invece, l'Unicef ha sviluppato Play Safe, un’app interattiva progettata per sensibilizzare e fornire strumenti concreti contro la violenza di genere digitale[3]. (Più info nei link a fondo pagina).

Non basta indignarsi: serve agire. Ed è questo che ognuno di noi e voi è chiamato a fare, cominciando dagli atteggiamenti quotidiani.

[1] https://www.unicef.it/media/il-valore-dell-ascolto-il-sesto-meeting-dello-youth-advisory-board-a-bologna/

[2] https://www.generazioniconnesse.it/site/it/2019/09/02/lo-youth-panel-di-generazioni-connesse/

[3] https://www.unicef.it/media/l-unicef-lancia-la-guida-all-app-playsafe-per-insegnanti-e-genitori-in-occasione-del-safer-internet-day/

Copertina: 123rf