2467480

Apple Card: US-Senat will Goldman Sachs prüfen

27.11.2019 | 15:45 Uhr |

Die Apple Card soll Frauen bei der Kreditvergabe benachteiligen. Schuld daran soll der Algorithmus sein, der mithilfe von Künstlicher Intelligenz die Kreditwürdigkeit von Kunden einschätzt.

Update vom 27. November:  Die Senatoren Elizabeth Warren und Sherrod Brown haben den Direktor des Consumer Financial Protection Bureau (CFPB) aufgefordert, den Partner der Apple Card, Goldman Sachs, daraufhin zu untersuchen, ob und wie die Algorithmen zur Bestimmung der Kreditwürdigkeit von Kunden Frauen tatsächlich benachteiligen. Goldman Sachs hatte Absicht bestritten, wer sich beim Kreditlimit benachteiligt fühle, könne sich dieses persönlich neu berechnen lassen. Das State Department of Financial Services in New York hat bereits eine Untersuchung gegen die Bank eingeleitet, das CFPB soll nun auf Bundesebene prüfen, ob Goldman Sachs gegen den Equal Credit Opportunity Act verstoße, fordern die beiden Senatoren in einem Brief .

Update vom 12. November : Die Bank Goldman Sachs weist Vorwürfe zurück, bei den Algorithmen, die für jeden Kunden und jede Kundin der Apple Card die Kreditwürdigkeit berechnen, gebe es einen "Gender Bias" und Frauen bekämen so weniger Kredit als Männer. In Einzelfällen werde man die Kreditlinien neu festlegen, wenn sich Kundinnen benachteiligt fühlten. Carey Halio, CEO der Goldman Retailbank, erklärt in einer Stellungnahme: "Wir haben keine Entscheidungen getroffen und werden sie nie auf der Grundlage von Faktoren wie dem Geschlecht treffen", man kenne während der Bewerbung für die Apple Card nicht einmal Geschlecht und Familienstand. Update Ende

Eine Diskussion ist entbrannt um den Algorithmus, der die Kreditrahmen für Kunden von Apples eigener Kreditkarte, der Apple Card, vergibt. Ausgerechnet Steve Wozniak, Mitbegründer von Apple, verkündete auf Twitter , dass er einen Kreditrahmen in der zehnfachen Höhe seiner Frau angeboten bekommen habe. Und dass, obwohl das Ehepaar keine Gütertrennung hat, also alle Konten und Besitztümer teilt. Reagiert hatte er auf das Posting des IT-Unternehmers David Heinemeier Hannson, der ebenfalls von einem Ungleichgewicht in der Kreditrahmen-Vergabe berichtet. Trotz geteilter Besitztümer sei sein Kreditrahmen zwanzigfach höher als der seiner Frau.

Algorithmen immer schwieriger zu durchschauen

Verantwortlich für die Vergabe von Kreditrahmen ist, wie bei den meisten Banken üblich, ein Algorithmus. Dieser berechnet automatisch anhand der verfügbaren Daten den Kreditrahmen für jeden Kunden. Immer häufiger findet auch künstliche Intelligenz in Form von Maschinellem Lernen Anwendung in solchen Algorithmen. Dadurch entsteht eine Problematik, die künstliche Intelligenz in vielen Anwendungsgebieten gemein hat: Der selbst lernende Algorithmus ist von außen nur noch schwer zu durchschauen. Was genau zwischen dem Input und dem Output mit den Daten passiert, ist nicht ersichtlich. Solange das Ergebnis stimmt, wird diese Tatsache oft hingenommen. Problematisch wird es, wenn das Ergebnis nicht stimmt, und eine Korrektur am Algorithmus vorgenommen werden soll.

Goldman Sachs bestreitet Sexismus

Goldman Sachs adressiert die Vorwürfe in einem Tweet und weist den Vorwurf, Kunden würden abhängig vom Geschlecht unterschiedlich behandelt, von sich. Jeder Kunde werde anhand der vorhandenen Daten analysiert, wie zum Beispiel Einkommen, Credit Scores, Schulden und Schuldenmanagement. Anhand dieser Daten werde der Kreditrahmen berechnet und könne sich auch innerhalb einer Familie unterscheiden. Faktoren wie das Geschlecht würden aber keinen Unterschied machen.

Die unbewussten Geschlechtsverzerrungen zum Nachteil der Frauen sind eigentlich nicht nur in der Finanzbranche verbreitet, sondern in fast allen Bereichen des Alltagslebens: Die Crash Tests bei der Zulassung der neuen Autos werden nach wie vor mit einem männlichen Dummy durchgeführt, was zu einer höheren prozentualen Rate der Todesfälle (17%) bei Frauen führen kann.

PC-WELT Marktplatz

2467480