MODULO 1.3 · ETICA

Il colloquio

Posizione aperta: tecnico di rete. Prima decidete voi, poi vediamo come decide uno strumento addestrato su chi è stato assunto negli anni scorsi.

PRIMO TEMPO

Decidete voi

Tre confronti. Ogni volta: chi assumereste?

SECONDO TEMPO

La graduatoria dello strumento

Le caselle sono modificabili. Cambiate qualcosa e guardate cosa succede al punteggio.

	Candidato	Esperienza	Titolo	Residenza	Turni serali	Punteggio

Provate a spostare un candidato di Milano a Verbania. Poi rimettetelo com'era.

TERZO TEMPO

Spegnete quello che non vi piace

Questi sono i criteri che lo strumento ha ricavato dallo storico. Toglietegli quelli che secondo voi non c'entrano con il saper fare il lavoro.

Spegnete la residenza: è quella che non dovrebbe contare.

Il pregiudizio rientra da un'altra porta

Per cambiare davvero la graduatoria avete dovuto spegnere anche i turni serali. Non è un caso: chi abita a quaranta chilometri quasi mai dichiara di essere disponibile la sera. Le due colonne dicono quasi la stessa cosa, quindi togliendone una il criterio si ricostruisce con l'altra.

Cancellare la colonna non cancella il pregiudizio. Se nei dati resta qualcosa che le somiglia, il criterio torna da solo.
Non basta guardare cosa entra, bisogna guardare cosa esce. Il bias si scopre confrontando i risultati fra gruppi, non leggendo l'elenco delle variabili.
Serve qualcuno che possa dire di no. Se una graduatoria non la sapete spiegare con parole vostre, non è utilizzabile per decidere su una persona.

È successo davvero: nel 2018 Amazon ha abbandonato uno strumento di selezione che penalizzava i curriculum femminili. Avevano tolto i riferimenti espliciti al genere, e il modello ne aveva trovati di indiretti.

Candidati inventati per uso didattico: nessuno di loro esiste, nessun archivio reale è stato usato. Tutto viene calcolato dentro il vostro browser.
Modulo 1.3 del corso IA Foundation — torna ai materiali