Welle an Desinformation zu den US-Wahlen bedroht auch Schweizer Demokratie
Die Vereinigten Staaten von Amerika kämpfen im Vorfeld der Präsidentschaftswahlen mit einer beispiellosen Welle von Fake News, die durch künstliche Intelligenz generiert werden. Aber auch die Schweiz und ihre Direktdemokratie sind nicht immun gegen solche Akte der Desinformation, die eine Bedrohung für die Wählerschaft auf der ganzen Welt darstellen.
Im US-Präsidentschaftswahlkampf haben wir alles Mögliche gesehen und gehört: Bilder von Vizepräsidentin und Kandidatin Kamala Harris, die auf einem kommunistischen Kongress als Diktatorin dargestellt wird, Audiobotschaften mit der Stimme von Joe Biden, der Wähler:innen auffordert, nicht wählen zu gehen, Videos von Elon Musk und Donald Trump, die in einem coolen Outfit zur Musik der 1970er-Jahre tanzen.
Am 5. November entscheiden sich die US-Amerikaner:innen für einen neuen Präsidenten oder – erstmals – eine Präsidentin.
Die Wahl ist sowohl von Kamala Harris als auch von Donald Trump zur Schicksalswahl über die Zukunft des politischen Systems und der Demokratie erklärt worden.
Die Schweiz und die USA haben sich einst gegenseitig geprägt.
In diesem Momentum haben wir uns die gemeinsame Geschichte der Staaten aufgearbeitet und uns angeschaut, wie die geschwisterliche Vergangenheit in der Gegenwart nachwirkt.
Im US-Präsidentschaftswahlkampf haben wir alles Mögliche gesehen und gehört: Bilder von Vizepräsidentin und Kandidatin Kamala Harris, die auf einem kommunistischen Kongress als Diktatorin dargestelltExterner Link wird, Audiobotschaften mit der gefälschten Stimme von Joe BidenExterner Link, der Wähler:innen auffordert, nicht wählen zu gehen, Videos von Elon Musk und Donald Trump, die in einem coolen Outfit zur Musik der 1970er-Jahre tanzen.
Das sind nur einige Beispiele von Deepfakes – gefälschten audiovisuellen Inhalten –, die mit künstlicher Intelligenz (KI) generiert werden und online auf sozialen Plattformen wie X (früher Twitter) kursieren.
pic.twitter.com/CaH0yXMO0kExterner Link
— Donald J. Trump (@realDonaldTrump) August 15, 2024Externer Link
Ziel dieser Kreationen ist es, mit geringem Aufwand und grosser Wirkung Desinformation zu betreiben und die öffentliche Meinung zu manipulieren.
In der Tat haben Millionen von Menschen diese Deepfakes angesehen, geliked und weitergeleitet.
In den USA ist die Situation so besorgniserregend, dass das Ministerium für Innere Sicherheit vor den Risiken der KI bei den Präsidentschaftswahlen gewarntExterner Link hat.
Mindestens 20 BundesstaatenExterner Link haben Vorschriften gegen gefälschte Videos und Audios erlassen. Erst vor kurzem hat der Bundesstaat Kalifornien eines der schärfsten GesetzeExterner Link Amerikas gegen Polit-Deepfakes unterzeichnet.
Doch trotz dieser gesetzgeberischen Bemühungen blieben dieses Jahr weder die USA noch die grössten Demokratien der Welt von gefälschten Videos, Fotos und Nachrichten verschont.
Ausgerechnet in diesem Superwahljahr, in dem mehr Menschen denn je in der Geschichte der Menschheit an die Wahlurnen gerufen wurden – mindestens vier Milliarden Menschen.
Dieser Trend werde besonders für direkte Demokratien wie die Schweiz, aber auch die meisten amerikanischen Bundesstaaten gravierende Folgen haben, sagt Touradj Ebrahimi, Professor an der Eidgenössischen Technischen Hochschule in Lausanne und ein Experte für Deepfakes.
Also in Ländern, in denen das Stimmvolk nicht nur parlamentarische Vertreter:innen wählt, sondern auch konkrete Sachentscheide trifft. “Die Schweiz ist sehr verwundbar, denn wenn die Menschen Falschinformationen erhalten, werden sie wahrscheinlich auch falsche Entscheide treffen“, argumentiert er.
Die Eskalation der KI-generierten Desinformation hat laut Ebrahimi ihren Höhepunkt noch nicht erreicht. Er ist überzeugt, dass wir in Zukunft immer mehr „synthetische“, also künstlich erzeugte Inhalte sehen werden.
Und mit der Perfektionierung der Technologien werde es immer schwieriger werden, falsche von echten Inhalten zu unterscheiden.
Mehr
Einst Geschwister: Die Schweiz und die USA
Die Fachpersonen, mit denen SWI swissinfo.ch gesprochen hat, sind sich einig, dass es drei wichtige Gründe gibt, warum die Schweizer Demokratie die Gefahr von KI-gestützter Desinformation nicht unterschätzen sollte:
1. Suchmaschinen und Chatbots zeigen verzerrte und falsche Informationen an
Nichtregierungsorganisationen und Forschungsgruppen haben bereits vor den Gefahren und Grenzen von KI-Software und Algorithmen für die Schweizer Demokratie gewarnt.
Die Schweizer NGO Algorithm Watch CHExterner Link hat vor den Eidgenössischen Wahlen im Oktober 2023 die Chatbot-Antworten von Microsoft in der Suchmaschine Bing analysiert.
Die Organisation fand heraus, dass ein Drittel der wahlbezogenen Antworten sachliche Fehler enthielt und dass die KI sogar so weit gegangen war, Skandale über bestimmte politische Persönlichkeiten zu erfindenExterner Link.
«Generative KI-Chatbots, die in Suchmaschinen eingebettet sind, können irreführend sein, denn die Menschen verlassen sich auf diese Art der Informationen», sagt Angela Müller, Direktorin von Algorithm Watch CH.
Aber auch herkömmliche Suchmaschinen im Internet können in die Irre führen. Ein im März 2024 publiziertes Weissbuch der Universitäten Bern und ZürichExterner Link hat aufgezeigt, dass die meistgenutzte Suchmaschine der Schweiz, Google, je nach Suchsprache (Deutsch, Französisch oder Italienisch) bestimmte Informationsquellen und damit auch kritische Ansichten zu einem Thema nicht in gleicher Weise sichtbar macht.
Zu den Informationen im Vorfeld der Volksabstimmung über das Klimaschutzgesetz im Juni 2023 fanden die Forscher:innen beispielsweise heraus, dass Google bei deutschsprachigen Suchanfragen Treffer von politischen Parteien, die dem Gesetz kritischer gegenüberstehen, stärker gewichtete als bei Suchanfragen in italienischer und französischer Sprache.
«In einer mehrsprachigen und bereits polarisierten Demokratie wie der Schweiz sollten uns diese Ergebnisse beunruhigen», sagt Mykola Makhortykh, einer der Autoren des Weissbuchs.
Makhortykh gibt zu bedenken, dass es keine ausreichende Transparenz gebe, wie Suchalgorithmen und Software für künstliche Intelligenz funktionierten.
Zudem hätten die grossen Technologieunternehmen trotz vieler Versprechen keine wirksamen Systeme zur Bekämpfung von Fake News und der daraus resultierenden Polarisierung entwickelt.
2. KI-generierte Desinformation macht die Medien weniger vertrauenswürdig
Laut Makhortykh ermöglichen die heutigen KI-Systeme eine immer schnellere und einfachere Erstellung und Verbreitung von Falschinformationen.
Immer mehr Nachrichtenseiten kopieren angesehene oder traditionelle MedientitelExterner Link, sind aber in Wirklichkeit voll von automatisch generierten und häufig falschen oder sogar erfundenen KI-Inhalten.
Nachrichten aus diesen Quellen füllen indes die wichtigsten Social-Media-Plattformen, die laut einer Umfrage des Fonds für Medienforschung des Forschungszentrums Öffentlichkeit und Gesellschaft «fög «Externer Link für mehr als 60% der in der Schweiz kursierenden Desinformationen verantwortlich sind.
Auch wenn nur ein kleiner Teil der BevölkerungExterner Link Nachrichten liest, die durch künstliche Intelligenz generiert wurden, können diese so gut gemacht sein, dass es für diese Personen schwierig ist, sie als Fake News zu erkennen.
Sie können also Wirkung entfalten. Laut einer aktuellen OECD-Studie sind gerade die Schweizer:innen nicht besonders begabt, im Internet Wahres von Falschem zu unterscheiden und Deepfake-News zu erkennen.
«Wenn Nachrichten gleich daherkommen, unabhängig davon, ob sie von echten Journalistinnen und Journalisten verfasst oder durch KI generiert wurden, ist es wirklich gefährlich», sagt Karsten Donnay, Professor für politisches Verhalten und digitale Medien am Institut für Politikwissenschaften der Universität Zürich.
Die Menschen könnten sich betrogen fühlen und das Vertrauen in das Mediensystem als Ganzes verlieren, fügt er hinzu.
Die jüngsten Entwicklungen haben bereits dazu geführt, dass die Schweizer:innen ihre Gewohnheiten in Bezug auf den Medienkonsum geändert haben. Gemäss dem Reuters Institute Digital News ReportExterner Link sind Newswebseiten und Social Media die Hauptinformationsquellen der Bevölkerung. Traditionelle und qualitativ hochstehende Kanäle wie TV, Printmedien und Radio bleiben zwar wichtig, ihre Bedeutung hat seit 2016 aber deutlich abgenommen.
Einer der Gründe für diese Abnahme ist eine generelle Nachrichtenmüdigkeit. Viele Menschen fühlten sich angesichts der Nachrichtenflut erschöpft und verzichteten zunehmend auf Nachrichten, heisst es in diesem Bericht. Die Schweizerinnen und Schweizer seien immer weniger daran interessiert, sich zu informieren.
Dieses Verhalten entspricht einem weltweiten Trend, auch wenn dieser Wandel in der Schweiz weniger ausgeprägt ist als in anderen Demokratien wie etwa den USA: Dort haben sehr viele Menschen den traditionellen Medien bereits den Rücken gekehrt oder sind dabei, dies zu tun.
Die Entwicklung macht es laut Karsten Donnay aber nicht wahrscheinlicher, dass die Schweiz die Risiken der KI minimieren kann. Er ist überzeugt, dass Suchmaschinen und Chatbots als Informationsquellen an Bedeutung gewinnen werden.
«Die Menschen werden sie mehr und mehr nutzen, und wir wissen nicht wirklich, wohin das führen wird», sagt er. Für Donnay ist es aber nicht zu spät, um Massnahmen zu ergreifen, die sicherstellen, dass auch nicht-journalistische Informationsquellen bestimmte Qualitätsstandards erfüllen.
3. Generative KI-Technologien sind sehr überzeugend
Bislang war es schwierig, die Auswirkungen von KI-generierten Falschinformationen auf die Bevölkerung nachzuweisen. «Es handelt sich nicht um ein Massenphänomen – Desinformation breitet sich in einer Nische aus», sagt Fabrizio Gilardi, Professor für politische Analyse an der Universität Zürich.
Desinformation habe es schon immer gegeben, und die wichtigsten Forschungsergebnisse zeigen seiner Meinung auf, dass diese Fake News viel weniger Einfluss haben, als erwartet werden könnte. «Künstliche Intelligenz wird die Situation nicht grundsätzlich verändern», meint er.
Unabhängige StudienExterner Link, die in Zusammenarbeit mit Meta (der Muttergesellschaft von Facebook) während der US-Präsidentschaftswahlen 2020 durchgeführt wurden, haben gezeigt, dass die in den sozialen Medien kursierenden Desinformationen keinen signifikanten Einfluss auf die Einstellungen und das Verhalten der Menschen hatten und die Polarisierung nicht verstärkten.
Dies könnte sich jedoch mit dem Aufkommen interaktiver Plattformen mit künstlicher Intelligenz wie ChatGPT ändern. Eine von der Eidgenössischen Technischen Hochschule Lausanne (EPFL) in den USA mit rund 900 Personen durchgeführte StudieExterner Link hat gezeigt, dass dieses Tool sehr wohl in der Lage ist, die Meinungen zu beeinflussen.
«Die Überzeugungskraft der generativen Modelle der künstlichen Intelligenz ist so hoch, dass dadurch Wahlen beeinflusst werden könnten», sagt Francesco Salvi, einer der Autoren der EPFL-Studie.
Salvi und sein Team haben aufgezeigt, dass die Wahrscheinlichkeit, die Meinung einer Person zu beeinflussen, bei ChatGPT-4 rund 82% höher liegt als bei einem Menschen.
Wenn ChatGPT-4 im Besitz persönlicher Informationen über eine Nutzerin oder einen Nutzer ist, ist dieses Tool in der Lage, personalisierte und überzeugende Nachrichten über diese Person zu erstellen.
Etwas Ähnliches gab es bisher nicht, selbst wenn man andere bekannte Fälle von Desinformation berücksichtigt, wie etwa Cambridge AnalyticaExterner Link. Bei diesem Fall wurden 2018 illegal die persönlichen Daten von Millionen von Facebook-Nutzenden verwendet, um diese politisch zu beeinflussen.
«Wir stehen vor einem potenziellen Cambridge-Analytica-Datenfall der Extraklasse. Ich bin sogar überzeugt, dass dieser Fall momentan schon eingetreten ist», sagt Salvi.
Editiert von Benjamin von Wyl und Veronica De Vore, Übertragung aus dem Italienischen: Gerhard Lob
Mehr
Mehr
Argentinien: Tausende Nachkommen von Ausgewanderten fordern den Schweizer Pass
Mehr
Ein altes Couvert als Beweis: Adoptierte Australierin erhält mit 54 den Schweizer Pass
Mehr
#detrans: Die bekannteste trans Person der Schweiz will keine Frau mehr sein
Mehr
Darum wollen Autokraten die Herrschaft über den Körper der Frau
Mehr
Diese 5 Dinge sollten Sie vor dem Auswandern über Ihr Bankkonto in der Schweiz wissen
In Übereinstimmung mit den JTI-Standards
Einen Überblick über die laufenden Debatten mit unseren Journalisten finden Sie hier. Machen Sie mit!
Wenn Sie eine Debatte über ein in diesem Artikel angesprochenes Thema beginnen oder sachliche Fehler melden möchten, senden Sie uns bitte eine E-Mail an german@swissinfo.ch