Una ricerca dell’Organizzazione Mondiale della Sanità riferisce che una donna su tre subirà una qualche forma di violenza nel corso della sua vita e, nonostante internet sia uno strumento relativamente nuovo, si stima che una donna su dieci abbia subito una forma di violenza informatica già all’età di 15 anni.

I report dell’European Institute for Gendere Equality (EIGE) – l’ente che in seno all’Unione europea è chiamato ad occuparsi, tra le altre cose, di studi e valutazioni riguardanti le differenze e le problematiche legate al genere – rilevano che la piazza virtuale è terreno fertile per il linguaggio violento, espresso e diffuso in un contesto di anonimato e impunità. La violenza informatica contro le donne e le ragazze (CVAWG) è spesso liquidata come un fenomeno solamente virtuale e quindi meno impattante, tuttavia è un atto di violenza di genere perpetrato attraverso le tecnologie, che ha un profondo radicamento nella disuguaglianza tra donne e uomini.

L’ambiente digitale è in continua e le nuove tecnologie sono destinate a dare origine a diverse manifestazioni di violenza che rischiano di minare la fiducia delle donne nella tecnologia, contribuendo ulteriormente a depotenziare la loro partecipazione nei settori STEM/ICT e alimentando sempre di più il divario retributivo.

Il regolamento Europeo

Nell’aprile 2024, il Parlamento europeo ha adottato la prima direttiva numero 1385 dell’UE sulla lotta alla violenza contro le donne, che chiede leggi più severe contro la cyberviolenza, una migliore assistenza alle vittime e misure per definire meglio il consenso sessuale. Le nuove direttive delineano finalmente linee guida specifiche per i reati online, come la divulgazione di informazioni private e l’invio di immagini intime o pornografiche senza consenso, ma molti Paesi dell’UE non hanno ancora adeguato la legislazione nazionale ai requisiti richiesti, previsto obbligatoriamente entro il giugno 2027. Anche il regolamento riguardante la protezione della privacy (GDPR) mira a ridurre la cyberviolenza: la nuova legge sui servizi digitali impone alle grandi piattaforme di rimuovere i contenuti illegali dai loro siti web e dovrebbe comprendere appunto le immagini manipolate.

La direzione intrapresa, che guarda anche all’intelligenza artificiale, è quella di mitigare i rischi legati alle nuove tecnologie. Le norme infatti prevedono che le immagini e i contenuti audio e video artificiali o manipolati debbano essere chiaramente etichettati come tali.

L’AI un’ulteriore minaccia per la libertà delle donne

L’intelligenza artificiale ha diversi aspetti ancora sconosciuti, sui quali è necessario riflettere e porsi questioni fondamentali, se davvero si è intenzionati a contrastare la violenza di genere. Importante è l’adozione dell’AI Act, che però considera l’utilizzo di chatbot una tecnologia a basso rischio e non sufficiente ad opporsi al fenomeno.

L’AI, inoltre, porta con sé una problematica inedita legata alla sua natura generativa. Se, infatti, oggi la violenza si prefigura come una facile condivisione di materiale in qualche modo difficilmente reperibile come foto intime, video, che devono essere prodotti o di nascosto o in accordo con la parte offesa, l’IA supera questo ostacolo e rende estremamente facile la creazione del contenuto a partire da una semplicissima foto, anche non sessualizzata. Nascono, quindi, narrazioni di realtà mai accadute, minando non solo l’intimità della persona ma addirittura il suo profilo morale e culturale.

La diffamazione, tramite foto e video difficilmente distinguibili dalla realtà, può arrivare ad includere campagne atte non solo a denigrare la donna, ma anche ad escluderla da contesti sociali ricreativi o fondamentali per la sua sussistenza. Questa deriva appare attualmente di difficile contenimento, la quale pertiene non solo la violenza sulle donne ma anche la pedofilia, l’accanimento politico e sociale contro le minoranze e contro le fasce più deboli di popolazione, proprio in virtù della sua facile commercializzazione.

Non bisogna dimenticare, infatti, che proprio come i social, l‘IA è un prodotto di natura commerciale e come tale ha obiettivi commerciali che, similmente ai social, possono anche diventare politici. Questo comporta che, nonostante ci siano precise leggi che vietino l’utilizzo delle IA generative per finalità offensive, lesive, pornografiche, stanno nascendo centinaia di siti e di app per smartphone atti a creare immagini e video vietati ai minori per l’altissimo appeal che solleva questo materiale e di conseguenza la sua commerciabilità diretta e indiretta (tramite pagamento per l’utilizzo e tramite la sponsorizzazione di marchi e pubblicità durante la fruizione). Si tratta di una vera e propria proliferazione autoalimentante che sta creando una seconda ondata, dopo la nascita del Web 2.0, di preoccupazioni anche per le fasce più giovani di popolazione.

I ragazzi, infatti, sono passati dalla possibilità della fruizione libera e gratuita di materiali non solo pornografici ma anche violenti, alla possibilità di creali da zero in pochissimi minuti/click.

Tale possibilità attualmente non ha ancora dati sull’influenza che può avere nella crescita e su come potrà modificare, ad esempio, il rapporto tra i generi, quel che è certa è una sempre più seria preoccupazione su nuove ondate di violenza future, date dalla più facile oggettivazione (e, è il caso di dirlo, automatizzazione e deumanizzazione) della donna da parte di futuri uomini potenzialmente incapaci di distinguere tra individualità dell’altra e legittimizzazione dei propri desideri e dell’imposizione all’altra della propria volontà.

L’AI è anche strumento contro la violenza sulle donne

L’intelligenza artificiale può, però, al contrario, diventare anche uno strumento utile ad identificare e combattere la violenza di genere, attraverso il monitoraggio di contenuti online potenzialmente offensivi, fino ad arrivare alla creazione di piattaforme che possano rappresentare un supporto sicuro per le vittime. Alcuni algoritmi di machine learning possono identificare sui social discorsi d’odio e molestie, con una diminuzione significativa dei contenuti violenti, grazie all’intervento preventivo del sistema, tuttavia è essenziale che l’IA venga utilizzata in modo etico, evitando bias nei dati e garantendo la protezione della privacy delle vittime.

Un esempio virtuoso di AI può essere rappresentato dall’app SafeLives, che consente alle donne di cercare assistenza senza dover parlare, particolarmente importante nei casi di violenza domestica. L’applicazione può fornire supporto legale e psicologico e connessione a centri di emergenza.

Ne esistono altri di esempi, utili in tal senso, come l’algoritmo VioGén, adottato dal Ministero dell’Interno spagnolo, progettato per proteggere donne e bambini dalla violenza domestica di genere e per coordinare le attività delle autorità locali. Il sistema valuta il grado di rischio di aggressione assegnando un punteggio che determina il livello di protezione e l’intensità degli interventi della polizia. Secondo le autorità spagnole, VioGén ha contribuito a una riduzione del 25% delle aggressioni, dimostrando l’efficacia di un approccio integrato e basato sui dati, anche se studi recenti ne hanno messo in luce diverse criticità, come il fatto che vi siano stati numerosi casi di violenza di genere classificati a basso rischio, che sono invece sfociati in femminicidi.

Un altro utile progetto, tutto italiano, guidato dal ricercatore Daniele Radicioni, è ViDeS – VIolence DEtection System -, finanziato da Fondazione CRT, che propone di analizzare automaticamente i referti clinici dei Pronto Soccorso per identificare lesioni di possibile origine violenta, contribuendo così alla prevenzione del femminicidio. Il progetto, che unisce competenze interdisciplinari di informatica, psicologia e medicina, nasce da una collaborazione tra enti di ricerca e strutture sanitarie, e rappresenta una tecnologia che potrebbe entrare negli ospedali e salvare vite.

Del resto l’intelligenza artificiale è già una realtà consolidata in vari settori e la sua applicazione nell’ambito della prevenzione della violenza di genere potrebbe segnare una svolta significativa, proprio in un contesto in cui la prevenzione diventa essa stessa un’azione tempestiva.

Il bando Daphne non è ancora sufficientemente all’altezza della sfida

In questo contesto, il Bando europeo Daphne, azione del Programma CERV, è in scadenza il 7 maggio, destina 23 milioni di euro al contrasto della violenza, anche online, sulle donne e sui minori, attraverso la prevenzione e la difesa delle vittime.

Nello specifico, la Priorità 3 prevede azioni mirate alla prevenzione della violenza di genere inclusa la violenza informatica, attraverso misure per la prevenzione, che rafforzino le competenze di alfabetizzazione digitale degli utenti online e altre misure che combattano la rappresentazione stereotipata delle donne e degli uomini nei media e/o a prevenire le molestie sessuali nell’industria cinematografica e audiovisiva.

Sebbene l’intelligenza artificiale non sia menzionata, potrebbero essere finanziati progetti che la utilizzano per sviluppare strumenti capaci di identificare forme di violenza online, per fornire supporto alle vittime o per programmi di formazione culturale che contrastino la violenza di genere.

Certo è che, in un contesto in continua evoluzione, il bando Daphne risulta ancora focalizzato su approcci più tradizionali, utili nella violenza domestica, fisica e anche online, ma non appare al passo con le nuove tecnologie e le nuove e inesplorate forme di violenza. È possibile che l’IA non sia ancora stata integrata come priorità principale, proprio perché ancora manca un’analisi comune da parte dell’Unione, su quanto possa l’intelligenza artificiale produrre violenza, ma allo stesso tempo essere un valido strumento di contrasto.

Approfondimenti sulla misura a cura di Sef Consulting
Per maggiori dettagli clicca qui >>