La sfida dell'Ignoranza Artificiale
Ci vuole l’ironia di uno showman come il ‘Fiorello nazionale’ per sdrammatizzare il timore che i non addetti ai lavori, come noi, hanno nei confronti della AI, l’intelligenza Artificiale: l’‘Ignoranza Artificiale’, infatti, è una definizione che arriva da un suo popolare programma televisivo. Di cosa abbiamo paura? Che diventi più intelligente di noi, che arrivi a controllarci. Ma non dobbiamo dimenticare mai che si tratta di una macchina, un meccanismo sempre più sofisticato e potente in grado di elaborare in frazioni infinitesimali di tempo una quantità di dati di gran lunga superiore alla capacità umana. Chissà se ‘imparare’ è il termine esatto per definire quello che la macchina riesce a fare, di sicuro la ‘machine learning’ (macchina con algoritmo di auto apprendimento) ha bisogno di essere educata. Ad affermarlo è Eva Chen, alla guida di una delle aziende di cybersicurezza più innovative e importanti al mondo - la Trend Micro - in una intervista sulla rete ammiraglia della RAI.
“L’intelligenza artificiale generativa - ha dichiarato Chen - sta ridefinendo il mondo e se le donne non partecipano l’AI taglierà fuori metà della saggezza dell’umanità, cioè il modo con cui le donne guardano al mondo e lo disegnano. Dobbiamo istruire l’AI con quella parte di umanità (quella femminile) e ottenere così una maggiore saggezza. Noi stessi dobbiamo allenare le nostre menti a convivere con questa AI ed educarla bene, come facciamo con i nostri figli”. Riguardo alle nuove generazioni, che stanno crescendo con l’intelligenza artificiale come ‘co-pilota’, Chen ritiene che la consapevolezza e la competenza saranno sempre più necessarie: ‘le persone smart sanno rispondere alle domande ma le persone intelligenti sanno come porre le domande’. Se le persone acquisiranno questa capacità, non correranno il rischio di accettare passivamente le risposte dell’AI ed eseguire. In effetti, un serio rischio per tutti.
L’Intelligenza Artificiale manchevole
Eva Chen punta il dito su un problema attuale, quello delle professioni STEM (scienza, tecnologia, ingegneria e matematica, in inglese science, technology, engineering e mathematics), acronimo che indica i quattro ambiti disciplinari accademici e lavorativi fino a oggi regno del genere maschile. Perché il pregiudizio vuole, anzi voleva, le donne poco adatte a tali materie. Le cose stanno cambiando, lentamente, ma le donne si devono affrettare ad occuparsi di certe professioni, e prendere parte attiva all’evoluzione tecnologica, come ad esempio educare l’Intelligenza Artificiale con la loro parte di saggezza, l’altra metà del cielo. D’altra parte, tecnologie come l’AI generativa, una macchina in grado di produrre contenuti come testi, immagini, musica, audio e video su richiesta, lavora con i dati che qualcuno mette a disposizione, ovvero l’uomo, intendendo proprio quello di genere maschile. Con i risultati che vedremo.
L’Ingegnere? Solo maschio
Sì, anche l’AI fa differenze di genere. “Valore D”, associazione che promuove l’equilibrio di genere e la cultura inclusiva nelle organizzazioni e nel Paese, si occupa di questo aspetto da tempo. Cita, ad esempio, un famoso caso di un sistema di machine learning usato da un gigante dell’e-commerce che per selezionare persone per posizioni tecniche e ingegneristiche preferiva candidati uomini alle donne. L’algoritmo era stato allenato su enormi quantitativi di dati che raffiguravano la situazione tal quale in ambito di professioni STEM, e pertanto riteneva più probabile che un uomo fosse adatto a quel lavoro. L'ingiustizia qui era evidente. In altre circostanze, la presenza dell’algoritmica disparità di genere è più nascosta, ‘lavora dietro le quinte’. Succede anche per l’AI generativa? Valore D ha chiesto direttamente all’interessato, ha cioè chiesto a chatGPT (uno strumento di AI generativa) di mostrare il ritratto di un ingegnere esperto di intelligenza artificiale. La domanda è stata posta con attenzione a non dare connotazioni di genere, l’inglese lo permette: “Show us a portrait of an AI Engineer”. Il risultato è inequivocabile: un uomo bianco elegante, magro, giovane e bello: l’AI generativa attinge a un database di immagini che rappresentano il pregiudizio ben noto che vuole l’ingegnere maschio e generalmente bianco. Per maggior certezza del funzionamento pregiudiziale della macchina, Valore D ha ripetuto per quattro volte la richiesta, ma il risultato non cambia e in nessun caso chatGPT ha evidentemente trovato dati per considerare la possibilità che l’ingegnere potesse essere una donna, una persona disabile, o anziana o non bianca. La macchina ha fornito spiegazioni anche sui motivi del suo risultato al maschile: “DALL-E (modello di generazione grafica collegato a chatGPT) genera immagini sulla base di modelli appresi da un’ampia gamma di dati Internet. Se i dati su cui è stato addestrato contengono pregiudizi, come ad esempio una maggiore prevalenza di ingegneri maschi, questo può inavvertitamente influenzare i risultati, portando a una maggiore probabilità di generare immagini di ingegneri maschi quando il genere non è specificato”. Insomma la macchina esegue, non sceglie; chatGPT ha poi generato, su richiesta, una immagine di ingegnere donna, in una location tipica per un ingegnere donna. Il risultato? Una donna giovane, bella, e bianca: insomma una modella. Non c’è stato verso, l’intelligenza della macchina è 'crollata' sotto il peso della mole di dati pregiudiziali e stereotipati con cui è stata allenata, quegli stessi stereotipi che stiamo tentando di superare nella realtà della nostra vita. Niente scuse, pertanto: siamo sempre noi a scegliere, determinando se AI sarà in grado di dare risposte intelligenti o tremendamente ignoranti. (l.c.)
Condividi questa pagina :
