Des accusations de discrimination contre le géant des technologies Apple et la banque Goldman Sachs, partenaire de sa carte de paiement Apple Card, ont conduit à l'ouverture d'une enquête à New York, a confirmé samedi le régulateur des services financiers de l'Etat américain à l'AFP.
"L'Apple Card est vraiment un putain de programme sexiste", a tweeté jeudi un entrepreneur américain, David Heinemeier Hansson."Ma femme et moi-même déclarons nos impôts conjointement et nous sommes mariés depuis très longtemps. Et pourtant l'algorithme 'boîte noire" d'Apple pense que j'ai le droit à une limite de crédit 20 fois plus élevée qu'elle", a-t-il continué.
The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.
— DHH (@dhh) November 7, 2019
L'entrepreneur a depuis tweeté une série de messages, racontant ses discussions infructueuses avec le service client d'Apple et pestant contre l'impossibilité à expliquer pourquoi l'algorithme a décidé que sa femme était moins éligible à des crédits que lui. La qualification de "boîte noire" désigne des systèmes d'intelligence artificielle dont on ne parvient pas à expliciter les raisons ayant conduit aux décisions qu'ils prennent.
Une enquête ouverte
Nous allons "mener une enquête pour déterminer si la loi de New York a été enfreinte et nous assurer que tous les consommateurs sont traités de manière égale quel que soit leur sexe", a déclaré un porte-parole de Linda Lacewell, directrice du département des services financiers de New York.
Apple propose depuis mars dernier l'Apple Card avec deux partenaires, Mastercard et la banque Goldman Sachs. "Nos décisions en termes de crédit sont fondées sur la solvabilité des clients et non pas sur le genre, la race, l'âge, l'orientation sexuelle ou tout autre facteur interdit par la loi", a déclaré de son côté Andrew Williams, porte-parole de Goldman Sachs.