Desinformation — die gezielte Herstellung und Verbreitung falscher oder irreführender Inhalte zu politischen Zwecken — ist nicht neu. Die Römer betrieben sie; Octavian verleumdete Marcus Antonius vor Actium mit gefälschten Testamenten. Die Bolschewiki betrieben sie. CIA und KGB des Kalten Krieges betrieben sie als Routinehandwerk — der KGB streute mit der Operation INFEKTION in den 1980er Jahren die Lüge, die USA hätten HIV in Fort Detrick gezüchtet. Neu ist, in den 2010er und 2020er Jahren, die Industrialisierung der Praxis durch staatliche Akteure auf denselben algorithmischen Verteilungssystemen, die den Rest der menschlichen Kommunikation organisieren. Russische Operationen gegen die US-Wahl 2016, chinesische Operationen gegen Taiwan, iranische Operationen gegen die europäische Politik — das sind keine Ausnahmen und keine Skandale. Das sind Standardinstrumente staatlicher Politik, budgetiert und besetzt wie jeder andere Zweig der Staatskunst.
Die Mechanismen nutzen Eigenschaften aus, die Plattformen für Engagement gebaut haben: Beiträge, die starke emotionale Reaktionen hervorrufen, werden verstärkt; Nutzer sortieren sich in ideologisch homogene Gemeinschaften ein; kleine Mengen sorgfältig gestalteten Inhalts lassen sich durch gewöhnliche Nutzer in Massenverbreitung schaukeln. Russlands Internet Research Agency in Sankt Petersburg betrieb gleichzeitig gefälschte amerikanische Black-Lives-Matter-Konten und gefälschte amerikanische Pro-Waffen-Konten — und inszenierte 2016 sogar konkurrierende Kundgebungen an derselben Moschee in Houston — mit dem Ziel, die Polarisierung zu vertiefen, statt eine bestimmte Position zu fördern. Es ging nie darum, eine Debatte zu gewinnen, sondern darum, das Debattieren selbst sinnlos erscheinen zu lassen. Die neuere Front ist generative KI: Text, Bilder, Audio und Video lassen sich heute durch Sprachmodelle in Massen zu nahezu null Grenzkosten erzeugen, in jeder Stimme, ohne offensichtliche Anzeichen — der gefälschte Telefonanruf, der 2024 in New Hampshire die Stimme von Präsident Biden nachahmte, war ein früher, grober Vorgeschmack. Die am stärksten exponierten Systeme sind jene mit geringem institutionellem Vertrauen, fragmentierten Medienmärkten und Wahlzyklen, die Neuheit über Überprüfung belohnen — und das trifft im Grunde auf die meisten zu. Der tiefere Schaden ist die Dividende des Lügners: Sobald sich alles fälschen lässt, können die Mächtigen echte Belege als Fälschung abtun.
Ob Demokratien sich unter den Bedingungen waffenfähig gewordener Information selbst regieren können, ist eine wirklich offene Frage. Die heutige Generation von Schutzmechanismen — Faktenchecks, Inhaltsmoderation, Wahlkommissionen — wird von der Technik überrundet, und mehrere Plattformen fuhren ihre Moderation 2023–2025 zurück, gerade als die Werkzeuge schärfer wurden. Das nächste Jahrzehnt wird entscheiden, ob neue Institutionen entstehen, die damit umgehen — Herkunftsstandards, kryptografische Inhaltssignierung, Medienkompetenz im großen Maßstab —, oder ob Demokratien sich an die Grundannahme nach unten anpassen, dass öffentliche Information im Schnitt waffentauglich ist und dass nichts auf einem Bildschirm ohne Beweis Vertrauen verdient.