IT-Giganten haben längst gelernt, den Verstand von Milliarden von Menschen auf der ganzen Welt zu manipulieren. Und sie tun es im Stillen: Es ist unwahrscheinlich, dass ein gewöhnlicher Mensch seine eigene Meinung von der unterscheidet, die der Algorithmus durch die Posts von Freunden und bevorzugten Communities vorschlägt. Was wollen Google und Facebook von der Menschheit und wie können sie auf ihrem Weg zur Weltherrschaft gestoppt werden? Darüber und vieles mehr im Rahmen des Großprojekts „Algorithm. Wer kontrolliert dich? „Lente.ru“ wurde von Robert Epstein, Doktor der Wissenschaften an der Harvard University, führender Forschungspsychologe am American Institute of Behavioral Research and Technology in Kalifornien, Autor von 15 Büchern, erzählt.
Lenta.ru: Sie haben die potenzielle Gefahr von Algorithmen viel früher als viele andere entdeckt. Wie haben Sie herausgefunden, dass der Suchmaschinenalgorithmus von Google, den jeder als harmlosen und nützlichen Dienst wahrnimmt, tatsächlich die Überzeugungen der Menschen und sogar Wahlergebnisse beeinflussen kann?
Epstein: Ich bin auf eine Studie von Marketern gestoßen, die herausgefunden haben, dass schon eine geringe Erhöhung der Erwähnung eines Unternehmens in den Google-SERPs zu einer messbaren Umsatzsteigerung führt. Denn je höher der Link zu Ihrer Seite in der Suche, desto mehr Klicks darauf. Diese Studie zeigte beispielsweise, dass 50 Prozent der Klicks auf die ersten beiden Ergebnisse erfolgen, 95 Prozent auf die erste Seite. Und ich als Forscher interessierte mich dafür, ob diese Ergebnisse verwendet werden können, um die Meinung der Benutzer zu ändern. Vielleicht sogar Einfluss auf die Ergebnisse der Abstimmung.
Ich habe Anfang 2013 begonnen, mich mit diesem Thema zu beschäftigen. Das Ergebnis hat mich schockiert. Ich dachte, wenn die Ergebnisse der Suchergebnisse zugunsten eines der Kandidaten bei der Wahl voreingenommen sind, dann beeinflusst dies die Entscheidung von zwei oder drei Prozent der unentschlossenen Wähler. Es ist fast unmöglich, die Entscheidung von Menschen zu beeinflussen, die sich bereits entschieden haben, aber es gibt auch viele, die zögern. Und es sind ihre Stimmen, die sich stark in den Wahlergebnissen niederschlagen.
n unserem ersten Experiment fanden wir heraus, dass die SERP-Manipulation die Entscheidung von fast 48 Prozent der unentschlossenen Personen beeinflussen konnte. Ich habe nicht geglaubt, dass es überhaupt möglich ist
Das zweite Experiment zeigte, dass es mehr solcher Menschen geben könnte – bis zu 63 Prozent. Zudem wurde deutlich, dass diese Voreingenommenheit leicht zu verbergen ist.
Später entdeckten wir Dutzende solcher Manipulationen. Sie alle sind das Werk von Technologiegiganten, hauptsächlich Google und Facebook. Das macht sie zu einer ernsthaften Bedrohung, weil sie nicht beeinflussbar sind und es einfach keine wirkliche Konkurrenz zwischen ihnen gibt. Sie haben die Macht, Menschen zu jedem Thema, in jeder Größenordnung und in jedem Land der Welt zu beeinflussen. Und niemand wird davon erfahren.
Google-Mitarbeiter bezeichnen die Vermischung von Suchergebnissen in der internen Korrespondenz als ephemere Erfahrung. Das ist der Prozess, bei dem Suchergebnisse in Echtzeit generiert werden, individuell für jeden Benutzer, und dann verschwinden und nirgendwo gespeichert werden.
Im Jahr 2018 veröffentlichte das Wall Street Journal Auszüge aus durchgesickerten E-Mails von Google-Mitarbeitern. Einer der Teilnehmer an der Korrespondenz schlägt vor, die Methode der ephemeren Erfahrung zu nutzen, um die Einstellung der Amerikaner zu Trumps Anti-Immigranten-Erlass zu beeinflussen. Sie wissen also sehr genau, was sie tun. Außerdem sind sie sich sicher, dass niemand diese Manipulationen bemerken wird. Wenn sie flüchtige Erfahrungen verwenden, bleiben einfach keine materiellen Beweise übrig.
Tatsächlich ist es unmöglich festzustellen, ob sie diese Manipulationstechniken verwenden oder nicht. Im Laufe der Forschung haben wir gelernt, dies zu erkennen, aber der Durchschnittsmensch hat keine Ahnung, dass er manipuliert wird.
Früher waren wir uns sicher, dass Google nur eine sehr gute Sortiermaschine nach Nutzerinteressen ist, die mit Werbung Geld verdient. Aber Ihrer Meinung nach hat diese Maschine möglicherweise ernstere Pläne – bis hin zur Umprogrammierung der Menschheit. Was meint Google damit? Wo ist die Grenze zwischen einem nützlichen Werkzeug und einer Dienstleistung, die negative Auswirkungen auf die gesamte Menschheit hat?
Im Jahr 2018 wurde ein achtminütiges Video namens The Selfish Ledger, ein internes Google-Projekt, der Öffentlichkeit zugespielt.
Aus diesem Video haben wir gelernt, dass das Unternehmen alle Möglichkeiten hat, die Menschheit neu zu programmieren. Das Video erwähnt, dass die Werte des Unternehmens weltweit verbreitet und geschützt werden müssen. Dieses Unternehmen wurde zweifellos von Utopisten gegründet. Und sie sind immer noch utopisch, bereit, Gewalt anzuwenden. Ein Teil ihrer Kultur ist die Verbreitung ihrer Werte auf der ganzen Welt. Und das ist eine ernsthafte Bedrohung für die Demokratie. Im Jahr 2015 schätzten wir, dass bis zu 25 Prozent der Wahlergebnisse weltweit von Google-Suchmaschinen ermittelt wurden. Da die meisten Wahlen ziemlich geschlossen sind, sind die Daten darüber in den Suchergebnissen normalerweise voreingenommen und beeinflussen die Entscheidung unentschlossener Wähler.
Am Anfang war Google wirklich eine harmlose Sache, ein großes Internetverzeichnis. Aber jetzt ist es ein ganz anderes Unternehmen. Sie folgen uns, und zwar nicht nur durch die Suche, sondern auch durch Postkorrespondenz und viele andere Dienste. Tatsächlich gibt es mehr als zweihundert von ihnen.
Zum Beispiel kaufte Google vor ein paar Jahren den Smart-Thermostat-Hersteller Nest. Das erste, was sie taten, war, Mikrofone in intelligente Thermostate einzubauen, ohne jemandem davon zu erzählen. Kameras sind in die neuesten Geräteversionen integriert. Im Januar dieses Jahres gab das Unternehmen bekannt, dass es einen Deal zum Kauf des Smartwatch-Herstellers Fitbit abgeschlossen hat, mit dem Gesundheitsdaten verfolgt werden können. Google hat all diese Informationen entweder bereits erhalten oder wird es bald tun. Und während der Coronavirus-Pandemie erhielt das Unternehmen Zugang zu einer Vielzahl von Daten über die Gesundheit der Amerikaner.
Google beteiligt sich außerdem freiwillig an der Verwaltung des US National DNA Repository. Sie haben Daten über die DNA von Millionen von Menschen in ihren Händen, vielleicht Zehn- und Hundertmillionen – ich weiß es nicht genau. Sie nutzen definitiv jede Gelegenheit, um die Menschen so genau wie möglich im Auge zu behalten. Denn je mehr man über Menschen weiß, desto einfacher ist es, sie zu manipulieren.
Google hat das Design seiner kontextbezogenen Werbung zu verschiedenen Zeiten geändert. Irgendwann war es fast nicht mehr von den Ergebnissen der regulären Emission zu unterscheiden. Warum macht niemand Google dafür verantwortlich?
In den USA zieht überhaupt niemand Google zur Rechenschaft. Denn tatsächlich wird das Unternehmen von den Demokraten unterstützt, und die Republikaner halten nicht besonders an den Regulierungsideen fest. In den USA wird Google also von niemandem reguliert, und ich bin mir nicht sicher, ob sich das jemals ändern wird.
In der Europäischen Union ist das anders: In den vergangenen Jahren haben Europäer viele Klagen gegen Google eingereicht. Ich denke, Google wurde in den letzten vier oder fünf Jahren mit einer Geldstrafe von insgesamt zehn Milliarden Euro belegt, und dem Unternehmen stehen viele Rechtsstreitigkeiten bevor. Aber Google wischt sie einfach beiseite. Europäer sind beispielsweise sehr besorgt darüber, dass Werbung in Suchmaschinen nicht von den Hauptergebnissen zu unterscheiden ist. Google unterschied sich eine Zeit lang von der organischen Ausgabe, kehrte aber allmählich zu seiner früheren Form zurück. Infolgedessen ist es immer noch sehr schwierig, den Unterschied zu erkennen. Die Europäer untersuchen Google sehr genau und prüfen jede Änderung, was von den US-Behörden nicht gesagt werden kann.
Warum vertrauen die meisten Menschen den Suchergebnissen blind?
Untersuchungen zeigen, dass Menschen Daten vertrauen, die sie von einem Computer erhalten. Sie glauben an Algorithmen, ohne zu wissen, wer dahintersteckt. Sie denken, dass diese Daten objektiv sind.
Suche, Empfehlungen, eventuelle Antworten von Sprachassistenten – all diese Daten gelten standardmäßig als wahr, weil sie von der Maschine stammen. Aber die Leute denken nicht daran, dass hinter dem Auto eine Person steht. Zeitungen, Fernsehen und Radio werden offenbar von Menschen gemacht. Aber bei Inhalten von einem Computer ist diese Idee nicht offensichtlich. Gibt es eine menschliche Hand in den SERPs? Natürlich gibt es. Schließlich ist dies das Ergebnis eines von Menschen geschriebenen Computerprogramms. Und die Forschung zeigt, dass sich Vorurteile von Programmierern in dem von ihnen geschriebenen Code widerspiegeln. Der Faktor Mensch ist also bereits bei der Leistungserstellung vorhanden.
Google ändert, wie wir aus Leaks wissen, seinen Suchalgorithmus mindestens dreitausend Mal im Jahr. Vor ein paar Jahren warnten sie zumindest vor großen Veränderungen im Voraus, aber jetzt tun sie das auch nicht mehr. Sie ändern ihren Suchalgorithmus etwa zehnmal am Tag. Also ja, Menschen beeinflussen die Inhalte, die Sie sehen. Mit einer Ausnahme: Sie können diesen Einfluss nicht verfolgen.
Durch das Datenleck wurde Google auch auf die Existenz eines Leitfadens namens Twiddler Framework aufmerksam. Es beschrieb ein System zum Neuranken von Suchergebnissen. Sie haben tatsächlich die technische Fähigkeit entwickelt, Suchergebnisse zu ändern. Wie der Informant mir erklärt hat, können sie verzerrte Ergebnisse enthalten und genauso einfach entfernen. Es ist so einfach wie das Licht im Zimmer einzuschalten.
Wir haben diesen Mechanismus bei der Datenerhebung im Vorfeld der US-Präsidentschaftswahlen 2020 aus erster Hand erlebt. Wir haben ein System entwickelt, um zu überwachen, was Menschen auf Bildschirmen sehen. Im Laufe des Rennens haben wir eine deutliche Verzerrung der Google-Suchergebnisse zugunsten der Demokraten festgestellt. Wir haben diese Informationen im November, wenige Tage vor der Wahl, öffentlich gemacht und Google gezwungen, mit der Manipulation aufzuhören. Im Januar 2021, während der zweiten Runde der Senatswahlen im Bundesstaat Georgia, stellten wir fest, dass die Google-Suchergebnisse plötzlich unvoreingenommen wurden.
Sie wichen einfach zurück, schalteten den Manipulationsschalter aus, weil wir ihre Hand erwischten.
Wurden Sie während des Wahlkampfs 2020 von Kandidatenvertretern angesprochen? Möchten Sie Ihre Recherchen für deren Kampagnen nutzen?
Meine Forschung beschreibt Techniken, die große Plattformen verwenden. Nur sie haben die vollständige Kontrolle darüber, was die Leute sehen.
Ganze Unternehmen bauen auf Suchmaschinenoptimierung (SEO) auf, Unternehmen geben jedes Jahr Milliarden von Dollar aus, um ihre Websites in die Google-Suche zu bringen. Aber das Problem ist, dass dies ein ziemlich kompetitiver Bereich ist: Sowohl Sie als auch Ihre Gegner verwenden die gleichen Methoden. Aber wenn eine Plattform, in diesem Fall Google, einen Kandidaten unterstützt und voreingenommene Inhalte anzeigt, hat der Gegner keine Chance. Von Konkurrenz ist keine Rede mehr.
Sie haben immer wieder an Kongressanhörungen teilgenommen, über die Gefahr von Google gesprochen. Hat dies den Regulierungsansatz des Staates irgendwie beeinflusst?
Wirkliche Veränderungen gab es nicht. Doch unter Trump begannen Verfahren gegen Facebook und in größerem Umfang gegen Google. Biden ist seit einigen Monaten im Amt, die Ermittlungen dauern noch an. Aber ich kann davon ausgehen, dass es nichts wird. Biden ist ein Demokrat, und Demokraten erhalten sehr starke Unterstützung von Google. Unternehmen aus dem Silicon Valley wie Facebook und Google spenden riesige Summen an die Demokraten. Sie wissen das und werden die Hand, die sie füttert, nicht beißen.
Ich arbeite an dem Artikel Regulatorische Erfassung und andere Spielchen, die große Unternehmen spielen. Dies ist ein sehr altes Phänomen, bei dem die Wirtschaft an der Entwicklung von Gesetzen oder Vorschriften beteiligt ist und die Unternehmen letztendlich nur von diesen Innovationen profitieren. Jetzt geschieht dies mit Google und der US-Regierung.
Google betreibt ein Geschäftsmodell, das auf Überwachung basiert. Die Leute nutzen Dienste, die denken, dass sie kostenlos sind. Und Google sammelt gigantische Mengen an personenbezogenen Daten und verdient jährlich mehr als 100 Milliarden US-Dollar damit.
182,5 Milliarden Dollar
rettete 2020 die Alphabet-Holding, zu der auch der amerikanische Konzern Google Inc. gehört.
Dieses Geschäftsmodell basiert auf Betrug. Die Google-Suchmaschine ist nur ein hinterhältiger Weg, um persönliche Informationen zu sammeln, ein Werkzeug, um Menschen auszuspionieren.
Im Moment versuchen Google und Facebook tatsächlich, ein paar Unternehmen, die ihnen nicht wirklich wichtig sind, zum Verkauf zu „zwingen“. Google kauft jede Woche neue Unternehmen. Am Ende machen sie Milliarden von Dollar.
Aber die drei Hauptbedrohungen, die sie für die Demokratie und die Menschheit darstellen, werden nicht verschwinden. Es ist Überwachung, Zensur und Manipulation.
Glauben Sie, dass die Niederlage von IT-Giganten zumindest zu einigen Ergebnissen führen kann?
Die Niederlage dieser Unternehmen wird zu nichts führen. Ich denke, es ist eine Verschwendung von Zeit und Mühe. Wir müssen den Weg des Nutzerschutzes gehen.
Beispielsweise können Sie ein Unternehmen aufgrund der Überwachung von Personen verbieten. Apple-Chef Tim Cook nannte dieses Geschäftsmodell unverblümt einschüchternd. Er ist der Meinung, dass solche Dinge verboten werden sollten.
Eine Möglichkeit besteht darin, die riesige Google-Datenbank, die zur Generierung von Suchergebnissen verwendet wird, öffentlich zu machen. Dies kann sowohl von amerikanischen als auch von europäischen Behörden verlangt werden. Sobald diese Informationen verfügbar sind, wird es Hunderte und Tausende neuer Suchmaschinen geben, die diese Datenbank verwenden und großartige Ergebnisse liefern werden. Suchmaschinen werden wieder wie früher miteinander konkurrieren. Google ist nicht die erste Suchmaschine, und ganz am Anfang ihrer Reise war die Konkurrenz groß. Aber ungefähr fünf Jahre später übernahm Google und tötete sie einfach.
Der Startpage-Dienst generiert Suchergebnisse aus der Google-Datenbank. Dies ist ein perfektes Beispiel dafür, wie ein IT-Riese Daten austauschen kann. Dies ist eine sehr milde Form der Regulierung, aber sie wird Google das Monopol auf dem Suchmarkt nehmen und die Nutzer schützen.
Darüber hinaus wird es neben dem Wettbewerb auch einen Entwicklungsbedarf geben. Im Bereich der Suche hat sich in den letzten 20 Jahren nichts geändert. Schauen Sie sich die Google-Homepage an – sie ist noch genauso wie vor 20 Jahren.
1956 übernahm die US-Regierung das Telekommunikationsunternehmen AT&T, das in den USA das Monopol für Ferngespräche hatte. AT&T wurde angewiesen, Tausende seiner Patente für jedermann kostenlos zur Verfügung zu stellen. Jeder auf der Welt könnte sie benutzen. Das ist ein perfektes Beispiel dafür, wovon ich spreche. Dieser Schritt brach das AT&T-Monopol, neue Akteure tauchten auf und die Branche begann sich zu entwickeln. Dies stellte sich als revolutionäre Entscheidung heraus.
Was halten Sie vom Cambridge-Analytica-Skandal im Jahr 2016? Haben die Technologien, die dieses Unternehmen verwendet, eine Daseinsberechtigung in einer demokratischen Gesellschaft? Oder solche Manipulationen sind inakzeptabel?
Cambridge Analytica hat eigentlich nur mit zielgerichteten Facebook-Anzeigen das Wort verbreitet. Jeder Benutzer kann dies tun. Republikanische Kandidaten waren in den Skandal verwickelt, aber die Demokraten wandten die gleichen Methoden an.
Cambridge Analytica verwendete ein sehr enges Zielgruppen-Targeting und viele verschiedene Tricks, um unentschlossene Wähler zu beeinflussen. Doch wer entscheidet letztlich, was der Nutzer sieht? Das entscheidet Facebook. Es ist ihr Algorithmus, der entscheidet, was die Leute sehen oder nicht sehen.
In diesem Skandal werden wir in die Irre geführt. Die Wurzel des Problems liegt nicht in den Aktionen von Cambridge Analytica. Sie sind nur Teilnehmer an einem sehr wettbewerbsorientierten Prozess. Das Problem ist das Monopol von Google und Facebook.
Haben Sie untersucht, wie sich die Einstellung der Gesellschaft gegenüber IT-Giganten nach solch hochkarätigen Skandalen verändert? Sinkt das Vertrauen der Menschen?
Ja, Google, Facebook und andere große Tech-Giganten geraten wegen dieser Skandale in Schwierigkeiten. Aber ihre Einkommen wachsen schneller denn je. Google hat 100 Milliarden US-Dollar an freiem Geld, das das Unternehmen verwenden kann, um Bußgelder oder was auch immer zu zahlen. Ja, die Leute waren empört, aber das hat das Wachstum der Unternehmen nicht beeinträchtigt.
Im Moment können sie bis zu drei Milliarden Menschen auf der ganzen Welt erreichen. Ich denke, dass diese Zahl in den nächsten anderthalb Jahren 4,5 Milliarden Menschen erreichen wird. So schnell wachsen sie.
Das ist ein riesiges Problem. Und die meisten Menschen bemerken es nicht einmal. Ich mache mir Sorgen, dass diese Unternehmen die Ansichten unserer Kinder beeinflussen könnten. Wir wissen, dass es viel einfacher ist, die Schwachen zu beeinflussen. Alle Kinder sind gefährdet.
