Also sprach der Bot

Wer sich heute in den Sozialen Medien bewegt, hat es dort mit vielen kurzen Textschnipseln zu tun, die man irgendwo aufschnappt oder sich gegenseitig zuschickt. Da fällt es kaum auf, wenn diese Kurztexte gar nicht von echten Menschen kommen, sondern von automatisierten Programmen.
Von PRO
Code, Programm, Software, Cyber

Die Bedeutung der Sozialen Medien, also Facebook, Twitter und Co., ist rasant gewachsen. Was hier millionenfach kommentiert, geteilt und gelikt wird, gilt gemeinhin als „Meinung des Volkes“. Kein Wunder, dass Medienschaffende stets auch einen Blick auf das Summen im Bienenstock von Twitter und Facebook riskieren, wenn sie ein Stimmungsbild aus dem Volk einfangen wollen, ebenso wie Politiker, die sich vergewissern möchten, wie der Wähler denkt. Sei es ein Fußballländerspiel oder ein heiß diskutierter Gesetzesentwurf: Was das Volk – vermeintlich – denkt, steht in 140 Zeichen bei Twitter oder in drei Zeilen bei Facebook.
Für viele Interessengruppen ist die Vorstellung verlockend, diese Massenbewegung in irgendeiner Art zu lenken. Dafür gibt es digitale Werkzeuge. Automatisierte Programme, Roboter, kurz: „Bots“, werden losgeschickt, um das Stimmungsbild in Sozialen Netzwerken zu beeinflussen. Dann liest der normale Nutzer bei Twitter oder Facebook plötzlich tausendfach eine bestimmte Meinung zu einem Thema, doch dahinter steht eigentlich nur eine einzige Person. „Social Bots“ haben längst Einfluss darauf genommen, wie unsere Gesellschaft tickt.

15 Millionen Bots auf Facebook

Dabei funktionieren sie einfach: Die kleinen Programme kopieren Textteile anderer Tweets, Postings oder Texte von Webseiten und basteln daraus neue. Sie können je nach Gusto des Programmierers auch eine Meinung propagieren und damit auch eine angebliche Mehrheitsmeinung im Internet vorgaukeln. Wenn Zehntausende Bots den gleichen Hashtag, also ein bestimmtes Schlagwort, für eine Debatte nutzen, wird dieser Hashtag im Nu zum „Trending Topic“, zum Trendthema bei Twitter – und scheinbar auch im Volk. Und genau darauf schauen Politiker, Unternehmen und Medien.
Es gibt mehrere Motive für diese Manipulationsversuche. Ideologische: gegen eine Partei, einen Politiker oder eine politische Haltung beispielsweise soll eine Hetze entzündet werden; oder monetäre: Wenn viele deiner „Freunde“ oder Twitter-Nutzer ein Produkt anscheinend besonders gut finden, ist das die perfekte Werbung. Unternehmen kaufen gefälschte Profile, um den Eindruck zu erwecken, sie hätten auf Social Media viele Fans. In Partnerbörsen schreiben Bots wahllos Nutzer an und versuchen, sie auf Porno-Seiten oder in Abo-Fallen zu locken. Experten gehen davon aus, dass es weltweit zirka 100 Millionen Social Bots gibt. Bei Twitter sind schätzungsweise fünf Prozent der Accounts betroffen. Facebook, das größte Netzwerk weltweit, geht von rund 15 Millionen Bots auf seiner Plattform aus.

Die Dose muss menschlich werden

Aber teilweise werden Bots auch bewusst und in besten Absichten von den Organisationen eingesetzt. Wer etwa ein Hotel sucht und ein Zimmer buchen möchte, kann mit einem Programm reden oder chatten, so als wäre es ein Bediensteter des Hauses. Die Software ist mittlerweile so intelligent, dass der Nutzer den Unterschied zwischen einem Chatbot und einem Angestellten aus Fleisch und Blut kaum noch merkt. Apples Sprachassistent „Siri“ wird stetig verbessert, Microsoft zog mit dem Programm „Cortana“ nach. Amazon hat vor einem Jahr mit „Amazon Echo“ einen kleinen schwarzen Roboter für das Wohnzimmer entwickelt, der ein bisschen wie eine Kaffeedose aussieht, sich aber wie der Bordcomputer des Raumschiffes Enterprise verhält: Echo beantwortet laut ausgesprochene Fragen des Besitzers und führt Befehle aus. Microsoft ist überzeugt, dass in den digitalen Helferlein die Zukunft liegt. „Bots sind die neuen Apps“, sagte Microsoft-Chef Satya Nadella jüngst auf der hauseigenen Entwicklerkonferenz „Build“. Manche Experten glauben, dass die klassischen Apps ausgedient haben und in Zukunft alles nur noch über Spracheingabe und zentrale Datenbankdienste läuft.
Schon seit den Sechzigerjahren haben Informatiker Programme entwickelt, mit denen man sich per Texteingabe unterhalten kann, als ob ein Mensch dahinter steckt. Den Test, mit dem man herausfindet, ob ein Programm im Chat von einem menschlichen Gegenüber für einen Menschen gehalten wird, wurde nach dem Informatiker Alan Turing benannt. Noch kein Programm hat ihn bislang so richtig bestanden, auch wenn manche immer wieder nah dran sind. Die heute übliche verkürzte Kommunikationsform in höchstens 140 Zeichen langen Textschnipseln erleichtert es Programmen, für andere Teilnehmer menschlich zu wirken.

Die Software plant meine Reise

Das Chatprogramm von Facebook, den „Messenger“, nutzen monatlich über 900 Millionen Menschen. Facebook will Medienberichten zufolge Chatbots erschaffen, mit deren Hilfe die Nutzer Waren oder Dienstleistungen bestellen können. Im April dieses Jahres hat Facebook seine Messenger-Plattform für Entwickler aus der ganzen Welt geöffnet, die daraufhin über 11.000 solcher interaktiven Chat-Bots programmiert haben. Bereits im Einsatz sind etwa verschiedene Bots, die von Medienhäusern oder Verlagen betrieben werden, wie etwa vom amerikanischen Sender CNN. Sucht man nach speziellen Informationen zu einem Thema, zum Beispiel zu den US-Präsidentschaftswahlen, schreibt man dem Bot eine persönliche Nachricht und der schlägt auf demselben Wege passende Beiträge des Senders vor. Ähnliche Angebote bietet auch der Nachrichtendienst WhatsApp an.
Seit geraumer Zeit experimentiert Facebook zudem mit dem persönlichen Assistenten „M“, der alle möglichen Alltagsaufgaben erfüllen soll. Ein Restaurant finden, Plätze reservieren oder ganze Reisen planen. Viele Entwickler träumen bereits von einer Verknüpfung mehrerer Internet-Dienste dieser Art: Wer sich dann per Skype mit jemandem unterhält und dabei über eine Reise spricht, für den springt sofort Apples Siri oder Microsofts Cortana dazwischen und macht für die Teilnehmer jeweils einen Kalendereintrag und sucht schon mal Flugverbindungen.

„Ich bin kein Bot“

Ein unheimlicher Gedanke, dass uns Software in Zukunft auf Schritt und Tritt abhört? Im vergangenen Jahr kam heraus, dass smarte Samsung-Fernseher permanent über ein Mikrofon alles mithören und die Aufnahmen an Datenbanken weiterleiten. Was als Hilfe gedacht war, um den Fernseher per Sprache zu steuern, kann sich im Nu in ein Überwachungssystem verwandeln, das dem Roman „1984“ alle Ehre macht.
Sicherheitsexperten sehen in dem neuen Kanal zum Nutzer „großes Potenzial“ für Online-Kriminelle, sagte Candid Wüest vom Sicherheitssoftware-Spezialisten Symantec der Süddeutschen Zeitung. Schon jetzt erzielten Spam-Mails eine große Ausbeute, wenn sie aufs Geratewohl eine große Zahl von Menschen wegen einer angeblichen Bankverbindung oder einer bevorstehenden Reise anschreiben. Viele Menschen fühlten sich angesprochen und antworteten, ohne zu merken, dass sie einer Software auf den Leim gegangen sind.
Wenn es schon bei E-Mails so gut funktioniert, wie gut wird es dann wohl bei Bots funktionieren, die gezielt, freundlich und scheinbar persönlich konkrete Dinge im Leben eines Nutzers ansprechen? Wüest: „Dann fordert man sie irgendwann auf, sich anzumelden – und schon ist das Konto gekapert.“ Jeder Internetnutzer kennt beispielsweise bei Kontaktformularen mittlerweile die Pflicht-Eingabefelder mit der Überschrift „Ich bin kein Roboter“: Erst wer hier eine kleine Matheaufgabe löst oder die richtige Auswahl an Fotos anklickt, kann bestätigen, dass er ein echter Mensch und keine Software ist. Aber wie lange dauert es, bis auch diese Schranken von der Künstlichen Intelligenz übersprungen werden?

Der Bot, ein Nazi

Microsoft lotete Anfang des Jahres die Möglichkeiten einer Künstlichen Intelligenz in Sozialen Medien aus. Mit „Tay“ schufen die Entwickler ein Programm, das sich per Twitter mit anderen Nutzern unterhalten konnte. Es lernte dabei stetig anhand der Eingaben der anderen Nutzer dazu. Tay (Username @TayandYou) sollte lernen, wie sich junge Menschen unterhalten. Doch einige Nutzer fütterten den Chatbot mit rassistischen Inhalten, die Tay aufgriff und wiederholte. Innerhalb von 24 Stunden hatte sich der Bot in einen Rassisten, Antisemiten und Frauenfeind verwandelt, und Microsoft deaktivierte rasch den Account.
Ein anderes Beispiel für Twitter-Manipulation war der gefakte Account „@Assbott“. Dahinter stand ein Bot, der auf Tweets zum republikanischen Präsidentschaftskandidaten Donald Trump automatisch antwortete. Seine Statements waren nicht immer sehr sinnvoll, dennoch reagierten zahlreiche Nutzer darauf und unterhielten sich länger mit ihm, ohne zu merken, dass sie es mit einem Stückchen Programmcode zu tun hatten. Der Bot antwortete auf Tweets von Trump etwa mit dem Satz „Lösch deinen Account!“. Schließlich übernahm sogar Trumps Gegenspielerin Hillary Clinton den Satz in einem Tweet. Kann in Zukunft jedes Kind, das ein wenig zu programmieren versteht, von seinem Wohnzimmer aus in der Weltpolitik mitmischen?
Am 11. September vergangenen Jahres schickte die deutsche Amadeu Antonio Stiftung einen Twitter-Bot los. Er sollte den typischen antisemitischen Klischees, die gerne an diesem Jahrestag des Anschlags auf das World Trade Center verschickt werden, „Anti-Anti-Semitismus“ entgegenstellen. Auf Schlüsselwörter wie „Nazijuden“, „Totschild“ oder „Holocaustindustrie“ konterte der Bot mit Argumenten gegen Judenhass und dem Hashtag #nichtsgegenjuden.

Politik in 140 Zeichen

Entscheidungsträgern in Wirtschaft und Politik ist längst bewusst, dass Netzwerke wie Twitter, Facebook, LinkedIn und Co. eine Menge über das Denken und Verhalten der großen Masse verraten. Doch wenn ein Großteil dieses Internetrauschens von einzelnen Personen manipuliert wird, also reiner Fake ist, geht die Verlässlichkeit der Daten über Nutzerverhalten gen Null. Dieses Problem ist Wissenschaftlern bewusst, und sie versuchen, darauf zu reagieren. Das Bundesministerium für Bildung und Forschung fördert ein Projekt der Universität Siegen mit dem Namen „Social Media Forensics“. Dabei möchten die Forscher herausfinden, wie der normale Internetnutzer auf die drohenden Manipulationsversuche reagieren kann. Projektleiter Simon Hegelich sagt: „Immer mehr Firmen betreiben so genanntes ‚Predictive Analytics‘, sie verwenden also Daten aus den Sozialen Medien, um beispielsweise Einschätzungen über Kundenpotentiale zu machen.“
Heutzutage verschickten selbst wichtige Politiker ihre Äußerungen über Twitter, und in politischen Talkshows würden wahllos irgendwelche Äußerungen auf Twitter oder Facebook aufgegriffen. „Es wird dann so hingestellt, als sei das die Meinung der Bürger generell“, sagt Hegelich in einem erklärenden Video zum Projekt. Wenn die Fernsehredaktion dann auf die schiere Menge einer geäußerten Meinung verweist, aber nicht weiß, dass dahinter möglicherweise nur ein einziges Programm und viele Fake-Profile stecken, ist es mit dem Wert der „Volkesstimme aus dem Netz“ nicht weit her.
Wer sich bereits an Internet-Diskussionen beteiligt hat, dem ist eine vorgegaukelte Meinung in kleinerem Maßstab vielleicht bereits begegnet. Denn nichts ist einfacher, als in einem Online-Forum weitere Nutzerkonten zu erzeugen, die dann die eigene Meinung auf wundersame Weise bestärken. „Sockenpuppe“ nennt man diese Technik, denn wie ein Handpuppenspieler greift ein Nutzer hier einfach auf selbstgestrickte „Internetnutzer“ zurück.

Verliebt in den Bot

Wie weit wird unsere „Beziehung“ zu Bots noch gehen? Im Kultfilm „2001: Odyssee im Weltraum“ von 1968 ist es noch der Super-Computer „HAL 9000“, der von seinen Programmierern nur für das Beste ersonnen wurde. Die Software, mit der die Nutzer sprechen können wie mit einem Menschen, verwandelt sich jedoch in einen unerbittlichen und mächtigen Killer der hilflosen Mannschaft einer Raumstation. Im Film „Her“ stellte der Regisseur Spike Jonze 45 Jahre später eine Variante dieses Supercomputers in unsere heutige Zeit von Siri und Google. Der etwas hilflose Theodore Twombly (gespielt von Joaquin Phoenix) schafft sich in diesem Streifen die Software „Samantha“ an, einen persönlichen Begleiter, der sich nicht nur um Alltagsangelegenheiten kümmert, sondern mit dem man sich auch ganz normal über Gott und die Welt unterhalten kann. Was nach außen mit einer sexy Stimme (im Original Scarlett Johansson) auftritt, ist im Innern ein herzloses Geflecht aus mächtigen Datenbanken, die nicht nur alles über den Nutzer wissen, sondern auch alle möglichen Hebel in Bewegung setzen, um deren Leben gehörig durcheinanderzuwirbeln. Theodore verliebt sich schließlich in Samantha.
Was wie ein Witz klingt, ist im Film konsequent bis zu Ende gedacht und erscheint einem in heutiger Zeit gar nicht mehr so abwegig. Die digitalen Datenbanken im Internet wissen viel über uns, und wir vertrauen ihnen immer mehr Intimes an. Kein Wunder, dass sich die Anbieter auf dieses Verhalten der Nutzer einstellen. Hoffen wir, dass wir den Fake entdecken. (pro)Vermutung: Facebook mit schuld am Brexit (pro)
Algorithmus erkennt Lügen im E-Mail (pro)
Soziale Netzwerke können süchtig machen (pro)

Helfen Sie PRO mit einer Spende
Bei PRO sind alle Artikel frei zugänglich und kostenlos - und das soll auch so bleiben. PRO finanziert sich durch freiwillige Spenden. Unterstützen Sie jetzt PRO mit Ihrer Spende.

Ihre Nachricht an die Redaktion

Sie haben Fragen, Kritik, Lob oder Anregungen? Dann schreiben Sie gerne eine Nachricht direkt an die PRO-Redaktion.

PRO-App installieren
und nichts mehr verpassen

So geht's:

1.  Auf „Teilen“ tippen
2. „Zum Home-Bildschirm“ wählen