Autodiskriminierung in der Google-Suche

Wirtschaftsminister Franz-Walter Steinmeier ist besorgt: „Die monopolhafte Konzentration von Daten und Macht bereitet mir Sorge.“ So seine Worte bei der Eröffnung des Ludwig-Erhard-Zentrums 2018 in Fürth.

Zum Gründungsjubiläum von Google protestiert die Nichtregierungsorganisation Goliathwatch 2018 gegen autodiskriminierende Vorschläge für Suchbegriffe wie „Flüchtlinge erschießen, nicht entkommen lassen“ oder „Behinderte dürfen keine Kinder bekommen.“ Gegen Hetze auf Google, #HateSearch , sammelt Goliathwatch Unterschriften.

Zahlreiche Experimente von Robert Epstein haben die Manipulationsmacht von Google nachgewiesen. Die starke Wirkung von Online-Werbung, welche auf Tracking und Datenmacht von Google beruht, preist Google unkritisch an. Auch nach einem Teilrückzug aus der Rüstungsindustrie bleibt noch viel Proteststimmung.

Hier meine Wünsche an Google, um beim nächsten Jubiläum in fünf Jahren mehr Freiheit und Gerechtigkeit im Internet mit Google feiern zu können. Denn Google könnte viel besser sein. Was hat Google aus der Firmenphilosophie „Do not be evil“ gemacht?

Es fing alles harmlos an. Eine kleine Garage im Silicon Valley und die beiden Informatiker Larry Page und Sergey Brin programmierten die heute leistungsfähigste und marktbeherrschende Suchmaschine. Weitere Erfolgsprodukte auf Google Search folgten. Zum Börsengang 2004 schrieben beide ihr „Do not be evil“-Manifest an die Investoren.

„Don’t be evil. We believe strongly that in the long term we will be better served – as shareholders and in all other ways – by a company that does good things for the world even if we forgot some short term gains.“

Sergey Brin und Larry Page im „Do not be evil“-Manifest (zitiert im Wall Street Journal)

Die ersten Skandale folgten. Wettbewerbsdruck, Interessen der Investoren und Entscheidungen der Konzernchefs führten dazu. Der geringe Datenschutz bei Google Streetview führte 2008 zu großen Protesten in Deutschland. Die Enthüllungen von Edward Snowden zeigten 2013, dass Google mit Geheimdiensten über das Projekt Prism zusammenarbeitet.

In diesem Jahr 2018 hat ein Offener Brief der Mitarbeiter gegen Waffenproduktion die Konzernleitung dazu bewegt, stark Bilderkennung und Künstliche Intelligenz für Rüstungsprojekte einzuschränken.

Auch wenn sich Google bemüht, hohe ökologische Standards beim Stromeinkauf oder bei Konfliktrohstoffen einzuhalten, sind in der Lieferkette große Probleme. Schlechte Arbeitsbedingungen bei asiatischen Dienstleistern, welche beispielsweise Videos und Bilder auf AGB-Verletzungen hinsichtlich Gewalt oder Sexualität löschen, wurden vom preisgekrönten Dokumentarfilm „The Cleaners“ aufgedeckt.

Firmen verklagen regelmäßig Google wegen Rufschädigung und auf Unterlassung, was beispielsweise zur Entscheidung vom Bundesverfassungsgericht (Urteil VI ZR 269/1) führte, dass die Löschung von diskriminierenden Suchvorschlägen einen Mindeststandard haben sollte. Der Fall um Bettina Wulff beispielsweise, Gattin des ehemaligen Bundespräsidenten, ging dann in einen Vergleich mit Google und es wurden zahlreiche, aber nicht alle kritisierten Autovorschläge gelöscht.

Google gehört neben Apple, Amazon und Facebook zu den vier großen Konzernen, welche die Digitalisierung bestimmen. Zahlreiche Kommissionen, Expertenkreise oder zivilgesellschaftliche Akteure wie Algorithmuswatch beraten über die Chancen und Risiken der Globalisierung.

Konzernkritik von Goliathwatch

Die Nichtregierungsorganisation Goliathwatch aus Hamburg äußert sich auch pressewirksam zu Wort. Mit ihrer Studie „Google macht #Autodiskriminierung oder die Gefahren der Autovervollständigung“ hat sie die diskriminierende Struktur in der Autovervollständigung dargelegt.

Die ersten Aktivitäten von Goliathwatch entstanden bei der Fusion von Bayer und Monsanto, wo auch Digitalisierungsfragen eine Rolle spielten. Neben Google beschäftigt sich die NGO mit den Verhandlungen in den Vereinten Nationen für verbindliche Menschenrechte als Konzernpflicht.

Und das wünscht sich Goliathwatch anlässlich der 20 Jahre Google:

Stop #HateSearch

Es gibt strukturelle Fehler in der Suchmaschine von Google. So schlägt Google als sinnvollen Suchbegriff für “Völkermord ist” “Migration ist Völkermord” vor. Die Funktion Autovervollständigung produziert Diskriminierung wie “Behinderte dürfen …nicht wählen/nicht heiraten/keine Kinder bekommen” oder „Klimawandel…ist ein Erfindung der Chinesen.“ Goliathwatch fordert mit seiner Kampagne „Stop #HateSearch“ Google auf, diese Hass und Hetze schürende Autovervollständigung abzuschalten oder einen systematischen Neustart durchzuführen.

©Goliathwatch

Wir waren schockiert, dass Google solche diskriminierenden und die Würde des Menschen verletzenden Suchbegriffe vorschlägt. Google hat sich selber Richtlinien gesetzt, die seit April 2018 verstärkt umgesetzt werden sollten. Obwohl wir im August Google darauf hingewiesen haben, den Vorschlagsbegriff „Flüchtlinge erschiessen nicht entkommen lassen“ zu entfernen, ist bisher nichts passiert.

In einer Auswertung vom 2. Oktober sieht man, dass einige schreckliche Suchbegriffe wie „Türken werden verbrannt“ oder „Merkel ist volksverhetzerin“ gelöscht wurden, doch leider gibt es noch unzählige Fälle von #HateSearch, die Google schon gemeldet wurden, und die Struktur der Diskriminierung ist existent. Automatische Vorschläge erleichtern die Eingabe, jedoch generiert die Software oft automatisch Diskriminierung. In der Verbindung von Gruppenbezeichnungen wie Frauen oder Türken und Verben wie „ist, müssen, dürfen“ gibt Google meist solche Aussagen aus dem Internet wieder.

Diese Struktur der Suche mit Hass und Hetze bezeichnet Goliathwatch als HateSearch oder Autodiskriminierung. Falls Google an dieser Funktion festhalten will, müssen alle Vorschläge von einem transparenten Redaktionsteam vorab geprüft werden. Mit einer bundesweiten Unterschriftensammlung soll Philipp Justus, dem Europa-Chef von Google, gezeigt werden, dass viele Nutzer keine Suchmaschine mit Rassimus und Hetze wollen.

©Goliathwatch

Wir von Goliathwatch sind enttäuscht, dass die weltweit führende Suchmaschine mit seiner Autocomplete-Funktion Menschen und Gesellschaftsgruppen systematisch diskriminiert und so Vorurteilen, Hass und Hetze einen Vorschub leistet. Google kennt das Problem seit vielen Jahren, kommt aber seiner versprochenen Verantwortung nicht nach. Wir brauchen Transparenz, Redaktionsprinzipien wie im Pressekodex und eine gesellschaftliche Kontrolle von Digitalkonzernen.

Verpflichtet Algorithmen zu Gerechtigkeit

Die Ursache von #Autodiskriminierung liegt im Geschäftsmodell von Google, da die Dienstleistung über personalisierte Werbung finanziert wird. Zur Lösung weiterer Probleme mit Google fordert Goliathwatch, dass die Grundeinstellungen den Datenschutz der Endverbraucher und nicht der Werbekunden maximieren sollen. Es muss demokratische Grenzen von Datenstrukturen geben.

Weiter soll ein demokratischer Aufsichtsrat für digitale Technik und Algorithmen geschaffen und eine gesellschaftliche Digitalisierungsstrategie formuliert werden. In vielen anderen Gesellschaftsbereichen haben wir Aufsichtsbehören wie bei Banken, Handys oder Lebensmitteln. Auch gibt es für viele komplexe Fragen Expertengremien wie den Rat für Nachhaltigkeit, Ethikkommissionen oder die Wettbewerbskommission. Eine vergleichbare Einrichtung wäre für eine der zentralen Zukunftsfragen wie Digitalkonzerne überfälltig.

Ob der zehnköpfige deutsche Digitalrat dies leisten kann, muss bezweifelt werden. Ohne klare Infrastruktur und Berichtspflicht, wie im Falle der Wirtschaftsweisen oder dem Rat für Nachhaltigkeit, ist dieser Rat fast wirkungslos. Wir brauchen in Deutschland eine Debatte um die digitale Infrastruktur, die digitale Industriepolitik und über die Zielstrategien der Digitalwirtschaft. Gegen die Übermacht von Digitalkonzernen braucht es klare und effektive Antworten für Gerechtigkeit und Freiheit, für Mittelstand, Verbraucher, Bürgerrecte oder Demokratie.

Entflechtung schafft Freiheit auf demokratischen Märkten

Auch andere Suchmaschinen oder Autovervollständiger wie Facebook, Youtube oder Yahoo haben ähnliche Fälle von Autodiskriminierung. Google hat mit seinem Marktanteil im Suchmaschinenmarkt von über 90 Prozent jedoch eine Vormachtstellung.

Viele Strafen wegen des Mißbrauchs der Marktmacht wurden bereits von der Europäischen Union eingeleitet und zwei Rekordsummen wurden verhängt. Für die Diskriminierung von anderen Anbietern in den Suchergebnissen musste Google schon Milliarden an die EU zahlen. Dieses Jahr kam noch die Kartellstrafe für Android und Google Play mit 4,3 Milliarden Euro dazu. Dies sind die beiden höchsten Kartellstrafen, die bisher von der EU verhängt wurden.

Aktuell ermittelt das Bundeskartellamt gegen Facebook und eine Entscheidung fiel schon gegen das Hotelvergleichsportal HRS. Das Wettbewerbsrecht soll nun Antworten auf die Marktbeherrschung durch Quasimonople wie Google und Co. finden. Seit September arbeitet die Kommission „Wettbewerbsrecht 4.0“ , jedoch sind unsere Pespektiven auf 60 Jahre Kartellrecht in Deutschland und Europa skeptisch.

Ähnlich wie in der Marktkonzentration im Agrochemie-Bereich und der Digitalisierung der Landwirtschaft durch den Kauf von Mosanto durch Bayer wird die Wettbewerbspolitik marktfundamentalistisch die weitere Dominanz der Großkonzerne fortführen, wie unsere Streitschrift gegen die Ohnmacht der Kartellpolitik zeigt.

Die wissenschaftliche und politische Debatte ist in den Vereinten Staaten viel weiter. Der Fachartikel „Amazons Antitrust Paradox“  von Lina Khan zur juristischen Antwort auf Amazon wurde sogar in der New York Times besprochen. Zahlreiche Kampagnen fordern die Entflechtung von Facebook oder Google, wie es damals 1911 bei Standard Oil durchgeführt wurde.

Das bundesdeutsche NGO-Netzwerk „Konzernmacht begrenzen“ als breites Bündnis von Chaos Computer Club über Oxfam bis zu den Freien Bäckern fordert ein stärkeres Wettbewerbsrecht, das faire Regeln auf Märkte auch für kleine und mittelständische Unternehmen durchsetzt und zusätzlich sozial-ökologische Rahmenbedingungen fördert. Auch das Buch von Thilo Bode, „Die Diktatur der Konzerne“, ist ein Beispiel für die Dringlichkeit des politischen Handelns. Das interaktive Dokumentarfilmprojekt „Do Not Track“ informiert über die Gefahren und Lösungsperspektiven der Digitalisierung.

Nach 20 Jahren Google haben wir gute Produkte, jedoch könnte Google viel besser sein. Bisher ist noch vieles mangelhaft. Google sollte seine Suchvorschläge von #HateSearch befreien und der Gesetzgeber muss eine wirksame Rechtsgrundlage für Daten, Märkte und Bürgerrechte schaffen. Eine gerechte Digitalisierung ist machbar, doch ist es noch ein weiter Weg. Goliathwatch hat sich aufgemacht.