E’ provato che gli algoritmi ci discriminano

È PROVATO CHE GLI ALGORITMI CI DISCRIMINANO

Una sintesi dell’intervista a Aurélie Jean, fondatrice et dirigente di In Silico Veritas, società di consulenza specializzata in algoritmi. Aurélie Jean è considerata dalla rivista Forbes una fra le 40 donne francesi più influenti nel 2019. 

Come si definisce un algoritmo? Un algoritmo è une sequenza di operazioni (implicite o esplicite) che vanno eseguite secondo una certa logica, allo scopo di rispondere ad una domanda, di risolvere un problema o di comprendere dei procedimenti.

Perché è fondamentale che gli algoritmi non siano patrimonio esclusivo degli uomini? In linea di principio è importante creare gli algoritmi tenendo conto di punti di vista, esperienze, culture diverse allo scopo di costruire degli algoritmi cosiddetti “inclusivi” che possano essere rappresentativi dell’insieme degli individui e delle situazioni. Detto ciò, si capisce l’importanza che ci siano donne fra i creatori, pur tenendo conto della scarsa presenza femminile in questi ambiti professionali (ingegneristico e scientifico). Gli strumenti e le tecnologie creati da soli uomini rischiano di funzionare male perché scartano le donne dall’equazione.

 Un esempio? Nel novembre 2019, un algoritmo assegnava linee di credito superiori di 20 volte agli uomini rispetto a quanto concesso alle donne, anche in presenza di condizioni fiscali o di affidabilità bancaria analoghe.

L’algoritmo in realtà si era basato sui dati del passato, senza tenere conto dell’attuale emancipazione economica delle donne e del loro attuale reddito: si è trasformato un dato statistico del passato in una base di valutazione della situazione. Questo tipo di errore, blocca l’evoluzione sociale o peggio ci fa tornare indietro.

Perché le donne che sono state delle pioniere nello sviluppo dell’informatica sono scomparse quando l’informatica è diventato un business con grandi profitti? Bisognerebbe chiederlo ad un sociologo. Si può osservare che da quando il mercato dei computer si è sviluppato, passando da uno strumento per sole aziende, al PC portatile che abbiamo tutti, le donne se ne sono andate, lasciando il posto agli uomini che poi hanno investito anche nella programmazione informatica. Per questa ragione io voglio parlare di soldi alle donne, perché un ambito molto redditizio, non è necessariamente un ambito meno interessante!

Si pensa che gli over 45 e le donne over 45 in particolare, non siano in grado di lavorare con le nuove tecnologie: come si può lottare contro questo stereotipo? E soprattutto evitare che questa generazione si autocensuri e abbandoni la sfida? Io non ho questo genere di pregiudizio! Credo nella formazione e nella divulgazione perché se le donne che se ne occupano, ne parlano, si creerà un circolo virtuoso positivo. Detto ciò bisogna combattere questa forma di autocensura che pregiudica donne e uomini a partire da una certa età. Si impara per tutta la vita e ciò è particolarmente vero quando le tecnologie, che sono ormai alla base di ogni nostra azione, si evolvono alla velocità del fulmine! Si impara anche dagli altri e da chi ci insegna. Da questo punto di vista io incoraggio i giovani o chi è capace di trasmettere la conoscenza agli altri. Stiamo varcando la soglia di un’era di collaborazione e di intelligenza collettiva, bisogna quindi approfittare per aprirsi agli altri sia da un punto di vista personale che professionale.

Quindi il suo libro ha lo scopo di diffondere e rendere popolare la tecnologia? ( Aurèlie Jean ha scritto “De l’autre côté de la machine. Voyage d’une scientifique au pays des algorithmes “) Certo! Scrivo ironicamente nel mio libro che per evitare in futuro di essere “ghigliottinata”, mi auguro di spiegare ciò che faccio e come lo faccio. Parlando più seriamente, io penso sia necessario che coloro che “sanno e fanno” forniscano il massimo di spiegazioni perché tutti siano messi al corrente dei grandi temi che sono al centro dei dibattiti. I politici devono svolgere un ruolo fondamentale in questo senso! Anche se non si capisce tutto, si capisce quanto basta per avere fiducia, per fare domande pertinenti al momento giusto e poi spiegare agli altri. Ricordo nuovamente che stiamo entrando in un’era di collaborazione e di intelligenza collettiva unica. La frattura tra generazioni, si ricompone sviluppando la tecnologia per tutti e da parte di tutti. E’ così