Het ging dit weekend als een lopend vuurtje rond op Twitter: het algoritme dat de kredietlimieten voor de Apple Card bepaald, lijkt seksistisch te zijn. Niet lang daarna werd een formeel onderzoek ingesteld door de New York Department of Financial Services. Nu zegt de bank Goldman Sachs dat het kredietlimieten die onverwacht lager zijn uitgevallen opnieuw gaat evalueren, meldt iMore.
Het balletje kwam aan het rollen toen David Heinemeiser Hansson, de maker van Ruby On Rails, op Twitter liet weten dat zijn vrouw een veel lager kredietlimiet kreeg dan hijzelf. Dat terwijl haar kredietscore hoger bleek te zijn en ze al jaren getrouwd zijn. Niet lang daarna kwam Steve Wozniak, medeoprichter van Apple, met eenzelfde soort verhaal.
De oorzaak van dit alles lijkt een algoritme te zijn. Goldman Sachs, de bank waarmee Apple samenwerkt voor de Apple Card, gebruikt dat algoritme om automatisch vast te stellen wat iemands kredietlimiet moet zijn. Maar hoe het tot die conclusie komt, laat het algoritme niet weten. En de resultaten lijken dus beter te zijn voor mannen dan voor vrouwen.
‘Geslacht niet bij ons bekend’
Nu heeft Goldman Sachs op het incident gereageerd. CEO Carey Halio benadrukt op Twitter dat de bank geen beslissingen maakt op basis van geslacht. “We kennen je geslacht of huwelijksstatus niet tijdens het aanmeldproces voor de Apple Card”, aldus de CEO.
Halio heeft wel een verklaring voor de lager uitgevallen kredietlimieten. “In veel gevallen komt dit doordat de bestaande creditcards extra kaarten zijn onder het primaire account van hun partner, waardoor de geïnteresseerde mogelijk een gelimiteerde persoonlijke kredietgeschiedenis heeft.”
https://twitter.com/gsbanksupport/status/1194022629419704320
Toch zegt de CEO dat de bank samen met een derde partij onderzoek heeft gedaan naar het proces om het kredietlimiet vast te stellen, om zich te beschermen tegen onbedoelde vooroordelen en uitkomsten. Mocht iemand denken dat het kredietlimiet te laag is, dan wordt je opgeroepen je te melden bij de bank. “Op basis van extra informatie die we mogelijk opvragen, evalueren we je kredietlimiet opnieuw.”
Hansson niet onder de indruk
Overigens is Hansson weinig onder de indruk van de verklaring van Goldman Sachs. “‘Ik snap je zorgen, maar dit is waarom we ze verkeerd zijn en wij het bij het juiste eind hebben’, is niet luisteren. Dat is betuttelend”, aldus Hansson op Twitter.
You heard nothing. “I understand your concerns, but here’s why they are actually wrong and we are actually right” is not listening. That’s patronizing. Please just stop. https://t.co/O0FV0qbBPY
— DHH (@dhh) November 11, 2019