Dieser Text erschien zuerst in Ausgabe 1/2024 des Christlichen Medienmagazins PRO. Bestellen Sie PRO kostenlos hier.
US-Bundesstat New Hampshire, 20. Januar 2024, gegen 18.25 Uhr. Bei Gail Huntley klingelt das Telefon. Am Apparat: Präsident Joe Biden. Er will die 73-Jährige davon überzeugen, dass sie nicht an den Vorwahlen der Demokraten teilnehmen und stattdessen ihre Stimme für die Präsidentschaftswahlen „aufsparen“ soll. „Wenn Sie diesen Dienstag abstimmen, verhilft das den Republikanern nur dazu, Donald Trump wiederzuwählen. Ihre Stimme hilft im November, nicht an diesem Dienstag.“
Das ist natürlich falsch. Wer an den Vorwahlen der Demokraten teilnimmt, darf immer noch im November bei den Präsidentschaftswahlen seine Stimme abgeben. Hat Biden sich also geirrt? Nein. Denn am Telefon hatte nicht der Präsident gesprochen. Sondern eine Stimme, die mit Künstlicher Intelligenz (KI) generiert wurde. Und das offenbar sehr überzeugend.
„Ich dachte gar nicht darüber nach, dass es nicht seine echte Stimme war“, erinnert sich Huntley laut „Associated Press“. „Sie war einfach so überzeugend.“ Sie wurde erst skeptisch, als ihr bewusst wurde, dass der Roboter am anderen Ende der Leitung Unsinn erzählte. Mindestens ein Dutzend weitere registrierte Demokraten wurden vom Fake-Biden angerufen. Das Weiße Haus sah sich zu einem Dementi genötigt. „Die Verbreitung von Falschinformationen, um freie und gerechte Wahlen zu untergraben, werden wir nicht hinnehmen.“
Künstliche Intelligenz in den falschen Händen kann zur Bedrohung werden. Sogar für die Demokratie. Immer mehr Apps schießen aus dem Boden, mit deren Hilfe man prominente Stimmen dermaßen echt nachahmen kann, dass selbst Experten Probleme damit haben, sie vom Original zu unterscheiden. Wie ist es dann erst beim normalen Nutzer? „Künstliche Intelligenz ist das mächtigste Werkzeug, das die Menschheit je erschaffen hat“, sagt der KI-Forscher Thilo Stadelmann von der Hochschule für Angewandte Wissenschaften Zürich im PRO-Podcast „Glaube. Macht. Politik.“. KI-Systeme können zum Guten und zum Schlechten eingesetzt werden.
So funktionieren ChatGPT und Co.
„Schreibe mir eine fünfminütige Andacht über die Jahreslosung 2024“, „kürze folgenden Text um die Hälfte“, „erkläre Quantenphysik für Grundschüler“ – für große Sprachmodelle wie ChatGPT kein Problem. Aber woher weiß eine Maschine, was sie schreiben soll? Die Antwort ist: ChatGPT weiß gar nichts. Wenn man sie nach dem Jahr des Mauerfalls fragt, dann greift sie nicht etwa auf eine Tabelle mit den korrekten Daten zurück. Stattdessen wurde sie mit riesigen Datenmengen gespeist, um dann zu errechnen, welches Wort am wahrscheinlichsten auf das nächste folgt, ähnlich wie die Textvervollständigung am Handy. „ChatGPT ist wie Autokorrektur auf Speed“, sagt die Informatikerin Katharina Zweig. Sie nennt ein Beispiel: „Wenn mitten im Satz ein Wort ____, können Sie es sicher ergänzen.“ Wahrscheinlich haben Sie automatisch das Wort „fehlt“ eingesetzt, denn in diesem Kontext ist dieses Wort sehr viel wahrscheinlich als zum Beispiel „springt“, „Maus“ oder „Steuererklärung“. So ähnlich funktionieren auch die großen Sprachmodelle.
„ChatGPT ist wie Autokorrektur auf Speed.“
Informatikerin Katharina Zweig
Digitale Maschinen können bereits jetzt von großem Nutzen sein. Vom autonomen Fahren über Sprachassistenten, Übersetzungsprogramme, zu medizinischen Assistenzsystemen und praktischen Alltagshelfern: In KI-Systemen liegt großes Potenzial. Auch die Kirche sieht Chancen. KI-Systeme könnten in nützlicher Weise in der Kirche eingesetzt werden, so Stefanie Hoffmann, Kirchenrätin in der Stabsstelle Digitalisierung der Evangelischen Kirche in Deutschland. Sie sieht die Chance, dass durch KI die Verwaltung effizienter arbeiten könne, um dadurch „mehr Ressourcen für den Kern kirchlicher Arbeit freimachen“ zu können. Sie warnt aber auch vor negativen Auswirkungen wie Diskriminierungserfahrungen, der Veränderung oder dem Verlust von Arbeitsplätzen.
„Der Einsatz von KI-Systemen in der Kirche muss daher stets in Kenntnis und Abwägung möglicher negativer und positiver Auswirkungen verantwortet werden.“ Wie in der Vergangenheit technische Revolutionen dem Menschen Arbeit abgenommen haben, so wird auch KI der Menschheit nutzen. Und zum Segen werden. Aber vielleicht auch zum Fluch.
Die Menschheit im Dienste der Superintelligenz
Denn bei Künstlicher Intelligenz ist die Ethik, also das rechte Tun, so wichtig wie noch bei keiner anderen Technik zuvor. Maschinen werden erstmals zum echten Bezugspunkt – vielleicht sogar zu einem moralischen. „Es braucht daher dann einen zusätzlichen Prozess, ein ethical alignment, in welchem das Modell lernt, welche Antworten es nicht geben darf“, sagt Christoph Heilig. Der Theologe von der Ludwig-Maximilians-Universität München beschäftigt sich in seiner Forschung an der Schnittstelle von Literatur- und Bibelwissenschaft. Dabei spielen auch große Sprachmodelle wie ChatGPT von OpenAI, Bard von Google oder Claude von Anthropic eine zentrale Rolle.
„Es ist mittlerweile schwieriger, von ChatGPT zu erfahren, wie man für einen Dollar möglichst viele Menschen töten könnte. Bis vor Kurzem war das noch sehr leicht. Mit etwas Kreativität bekommt man es immer noch raus.“ Heilig nutzt KI-Sprachmodelle zwar auch, aber die Frage nach der Ethik treibt ihn um. „Was genau jetzt ethisch legitim ist oder nicht, gibt auch hier die trainierende Firma vor. Das macht mir Bauchschmerzen.“
In solchen Firmen tüfteln technisch interessierte Entwickler an KI-Systemen, weniger die Philosophen, Theologen oder Soziologen. Das hat Auswirkungen. In KI-Entwicklerkreisen sei die ethische Perspektive des „longtermism“ verbreitet, so Heilig. „Richtschnur für angeblich gutes Verhalten ist demnach, was der Menschheit als Ganzes das größte Glück bringt – nur dass damit nicht die momentan lebenden tatsächlichen menschlichen Individuen gemeint sind, sondern auch sämtliche noch potenzielle menschlichen Bewusstseinsträger.“
Das beinhalte nach Ansicht Einiger auch digitale Wesen, von einer mächtigen KI in die Cloud hochgeladen und multipliziert. „Vor dem Hintergrund einer solchen Perspektive ist es nicht sonderlich wichtig, ob durch Klimaveränderungen viele Menschen leiden“, resümiert der Theologe. „Auch Kriege sind kein großes Problem, so lange sie die Menschheit als Ganzes nicht gefährden – das heißt: solange die Chance auf die Superintelligenz gewahrt bleibt.“
Zwar steht die Technik noch einigermaßen am Anfang. Doch die Entwicklung geht rasant voran. Schneller, als die Ethik und Gesetzgebung Schritt halten kann. Auf EU-Ebene soll das „Gesetz über künstliche Intelligenz“ oder „AI Act“ Klarheit bringen. Im Moment wird noch diskutiert, in zwei Jahren könnte es zur Anwendung kommen, was bedeutet: Dann sollen die Regierungen der Mitgliedsstaaten die Vorgaben in nationales Recht umsetzen.
Bestandteile sind zum Beispiel eine Transparenz- und Kennzeichnungspflicht (siehe das Interview mit DJV-Chef Mika Beuster). Doch wird das genügen, wenn Dinge möglich sind, die heute noch wie Science-Fiction klingen? Und was nützt das beste europäische Recht, wenn Firmen in den USA, China oder Russland sich nicht darum scheren?
Europa könnte sich abschotten
Längst lässt sich in sozialen Netzwerken nicht mehr nachvollziehen, ob ein Konto einem Menschen oder einem Bot, also einem Roboter, gehört. Als Technik-Guru Elon Musk „Twitter“ (heute „X“) kaufte, sagte er den Bots den Kampf an, entließ aber gleichzeitig eine Menge Mitarbeiter. Seither hat sich das Problem noch deutlich verschlimmert. Mit ganzen Armeen an überzeugend formulierenden Bots lässt sich durchaus die politische Stimmung beeinflussen.
Ende Januar wurde etwa bekannt, dass Russland 50.000 KI-Bots auf „X“ losgeschickt hatte, um mit Fake News und negativen Kommentaren Stimmung gegen die Ukraine-Politik der Bundesregierung zu machen. Telefonanrufe wie die des Fake-Biden in New Hampshire könnten um sich greifen – mit überzeugenden Stimmen, die perfekt auf das eingehen können, was das menschliche Gegenüber sagt. Es wird immer schwerer werden, zu erkennen, ob man einen Menschen oder eine Maschine vor sich hat, zumindest solange es um textliche oder mündliche Kommunikation geht.
Wie erkenne ich KI-Fake News?
Plausibilität: Falls es sich um ein Bild handelt: Sind zu viele Finger zu sehen? Wirkt etwas seltsam? Dann ist Skepsis angebracht.
Quellencheck: Stammt die Nachricht von einem dubiosen Blog? Oder von einem seriösen Medium? Natürlich gibt es berechtigte Kritik an seriösen Medien wie dem Öffentlich-rechtlichen Rundfunk, dem „Spiegel“, „Focus“, der „F.A.Z.“ oder anderen Zeitungen und Magazinen. Aber: Diese müssen sich im Zweifel sogar vor Gericht verantworten, wenn sie falsch berichten. Wer also Zweifel hat, sollte also als erstes die Frage beantworten: Kann ich dieser Quelle vertrauen?
Soziale Medien: Bei allem, was auf Instagram, Facebook, TikTok und Co. munter geteilt wird, muss äußerste Vorsicht gelten – vor allem, bevor man auf den „Teilen“-Button drückt.
Domain: Ein wichtiger Hinweis auf die Seriösität einer Website ist die Endung „.de“ (die sogenannte Top-Level-Domain), denn dann gelten für die Seite deutsche Gesetze. Wenn .de-Seiten ständig Fake News verbreiten, muss sich der Betreiber vor Gerichten dafür verantworten.
Impressum: Das Impressum, also die Angabe des Betreibers samt Kontaktdaten, ist Pflicht auf deutschen Internetseiten. Fehlt es, kann die Website kaum vertrauenswürdig sein.
Die Audio-Version von ChatGPT in der aktuellen Version 4.0 klingt schon jetzt dermaßen authentisch, dass man sie kaum noch vom Menschen unterscheiden kann.
Womöglich wird die weitere Entwicklung von KI-Systemen am Ende dazu führen, dass Europa sich – auch technisch – abschotten muss, um überhaupt noch Gesetze umsetzen und die Rechte der Bürger schützen zu können. Ausländische Angebote könnten ausgesperrt werden, wenn sie europäische Standards ignorieren. Ein Weniger oder gar das Ende der digitalen Globalisierung wäre die Folge.
Immerhin, so der Theologe Christoph Heilig, engagieren sich die christlichen Ethiker in der Diskussion um den Einsatz von Künstlicher Intelligenz intensiv. Doch darüber hinaus wünscht er sich ein größeres Bewusstsein in Gesellschaft und im Staat. „Wird jeder Gangster bald ein Sprachmodell wie GPT-4 lokal auf seinem Rechner laufen lassen können, ganz ohne ethischen Filter, durch den die Antworten laufen? Ich denke: Ja.“, sagt Heilig. „Ich würde mich etwas wohler fühlen, wenn in jeder Polizeistation eine Beamtin damit beschäftigt wäre, den ganzen Tag ChatGPT durchzuspielen.“
Dieser Text erschien zuerst in Ausgabe 1/2024 des Christlichen Medienmagazins PRO. Bestellen Sie PRO kostenlos hier.
