La crescita dell’Intelligenza Artificiale ha dimostrato il potenziale della tecnologia nel creare nuovi modi di vivere e lavorare, ma anche nel far aumentare le disuguaglianze e gli stereotipi esistenti.
L’AI non è né imparziale né neutrale, apprende dai nostri comportamenti, che riflettono una società basata su rigidi stereotipi. Se addestrata su dati storici, l’IA tende a replicare e amplificare le disuguaglianze esistenti
Gli algoritmi possono discriminare nelle assunzioni (penalizzando le candidate donne perché basati su dataset di profili prevalentemente maschili), nella generazione di immagini (rappresentando più spesso soggetti maschili in ruoli di potere) e nelle traduzioni (associando ruoli professionali o caratteristiche a specifici generi).
Quali sono le cause e le possibili soluzioni?
È necessario un approccio etico e diversificato per ridurre le discriminazioni intervenendo sulla qualità dei dati su cui si allena il sistema e implementando team di sviluppo diversificati e diversificando i dati di addestramento.
La sottorappresentazione femminile nello sviluppo dell’IA (gender gap tecnologico) contribuisce alla persistenza dei bias. L’urgenza educativa di avviare sempre più ragazze alle materie STEM è per fortuna oggi sempre più condivisa e si concretizza in eventi, percorsi di formazione, borse di studio mirati.
Una regolamentazione per garantire trasparenza è sempre più necessaria. Il recente l’Artificial Intelligence Act del’Unione Europea sta andando su questa direzione.
Per raggiungere la parità algoritmica anche negli strumenti di IA è necessario innescare un cambiamento culturale per scardinare stereotipi di genere e costruire narrazioni in cui tutte e tutti possano sentirsi rappresentati.
————————————————————————————————————
Per approfondire il tema abbiamo avviato una serie su 𝐀𝐈 & 𝐛𝐢𝐚𝐬 𝐝𝐢 𝐠𝐞𝐧𝐞𝐫𝐞 in collaborazione Teresa Potenza e il suo podcast Potenza Artificiale.
Prima puntata Che cosa sono i bias nell’AI con Tiziana Catarci, professoressa ordinaria del Dipartimento di Ingegneria Informatica, Informatica, Automatica e Gestionale Sapienza Università di Roma. Perché è importante essere consapevoli degli stereotipi e dei pregiudizi contenuti nei dati con cui vengono addestrate le intelligenze artificiali e che impatto hanno sul nostro lavoro, sulla nostra vita personale e sulla società.
Seconda puntata: AI, costituzione e diritti fondamentali con Marilisa D’Amico, professoressa ordinaria di Diritto Costituzionale Università degli Studi di Milano e fondatrice di Human Hall, l’hub per l’innovazione e la tutela dei diritti umani dell’ateneo. Avere cura dei diritti. Governare l’AI lavorandoci insieme con competenza. Controllare le fonti (e le fonti delle fonti). L’AI ACT europeo e la legge italiana 132/2025. La sfida della sotto rappresentazione delle donne nell’AI.
Terza puntata: AI, gender gap, imprenditoria con Darya Majidi, innovatrice, imprenditrice Daxo Group, presidente UN Women Italy. Come rendere l’AI uno strumento per reinventare e potenziare la nostra vita e il nostro lavoro, senza timore: competenze, cuore, coraggio, consapevolezza, cultura, community.
Quarta puntata: Dal cv alla peer review: quando l’AI è anche politica con Flavia Barca, ricercatrice, esperta di media e politiche pubbliche, autrice del libro I pregiudizi dell’AI. Disuguaglianze e potere nell’era dell’algoritmo.