A European regulator has determined that Facebook’s job-advertising algorithm, operated by its parent company Meta Platforms, engages in indirect gender discrimination by disproportionately showing roles such as mechanics to men and preschool-teacher jobs to women—even when those ads are not targeted explicitly by gender. The ruling by the Dutch human rights body found that the system relies on behavioural data that reinforces gender stereotypes, thereby limiting equal access to employment opportunities. Meta has acknowledged the algorithm’s use of gender-indicating data, but the regulator concluded the company has not done enough to prevent the entrenched bias.
Question: What ethical responsibilities do data scientists and engineers have when designing systems that influence employment access? Could removing all demographic data from ad algorithms solve the problem, or would it create new ones?
Un’autorità di regolamentazione europea ha stabilito che l’algoritmo di Facebook per gli annunci di lavoro, gestito dalla sua società madre Meta Platforms, compie una discriminazione indiretta di genere mostrando in modo sproporzionato ruoli come quello di meccanico agli uomini e quello di insegnante di scuola materna alle donne, anche quando tali annunci non sono esplicitamente mirati in base al genere. La sentenza dell’organismo olandese per i diritti umani ha rilevato che il sistema si basa su dati comportamentali che rafforzano gli stereotipi di genere, limitando così la parità di accesso alle opportunità di lavoro. Meta ha riconosciuto l’uso da parte dell’algoritmo di dati indicativi del genere, ma l’autorità di regolamentazione ha concluso che l’azienda non ha fatto abbastanza per prevenire il pregiudizio radicato.
Domanda: quali responsabilità etiche hanno i data scientist e gli ingegneri quando progettano sistemi che influenzano l’accesso al lavoro? Rimuovere tutti i dati demografici dagli algoritmi pubblicitari potrebbe risolvere il problema o ne creerebbe di nuovi?
Learn English With Marcus Online 