[Draalz]

Wenn TikTok auf KI trifft

Fake News war gestern. Die Ära der Fake Reality beginnt

Eine Kolumne von [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

Schon jetzt eignet sich TikTok nicht nur, aber eben auch hervorragend zur Verbreitung von Ideologien. Was wird wohl passieren, wenn es mit neuer Text-zu-Video-KI wie Sora kombiniert wird?

21.02.2024, 18.45 Uhr




OpenAIs neue KI Sora erstellt Videos aus kurzen Texteingaben: Die KI-Community ist völlig aus dem Häuschen Foto: Drew Angerer / AFP

Soeben bewegen sich zwei unaufhaltsam erscheinende Technologiekomplexe aufeinander zu, die schon allein die Kraft hätten, unsere Welt zu verändern. Wir können erst grob erahnen, was passiert, wenn sie verschmelzen. Der eine ist das soziale Netzwerk TikTok, für das die EU gerade [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]. Vor allem, um herauszufinden, wie sicher Kinder und Jugendliche dort sind, was etwa Suchtpotenzial, den »Rabbit-Hole-Effekt« oder Altersverifikation angeht. Der andere ist eine Technologie, natürlich aus dem Bereich der generativen [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ], der den sperrigen Genrebegriff »text to video« trägt. ChatGPT-Schöpfer OpenAI hat [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ], eine KI, die aus kurzen, hingeworfenen Befehlen in kürzester Zeit mehr oder weniger realistisch aussehende Filmsequenzen generieren kann.

Die Frage, warum man beides gemeinsam und auf die potenzielle Wirkmacht bezogen betrachten muss, beginnt mit [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]. Die chinesische Video-App ist eine der wichtigsten Unterhaltungs-, Informations- und auch Nachrichtenplattformen der Generation bis dreißig Jahren in der westlichen Welt. TikTok hat es durch radikale Fokussierung auf eine Art algorithmischen Populismus geschafft, sehr vielen Menschen genau die Inhalte zu zeigen, die sie sehen wollen. Selbst, wenn sie das vorher noch gar nicht wussten. Ein in der Frühzeit der Netzkultur dafür geprägter Begriff lautet »serendipity«, was man mit »finden ohne zu suchen« übersetzen kann.

TikTok hat für anderthalb Generationen ein Anreizsystem geschaffen, wie Unterhaltung hyperpersonalisiert und Kreativität in Macht übersetzt werden kann. Denn letztlich bietet TikTok dem Publikum unendliche und wirklich gute Unterhaltung. Den Inhalteproduzierenden aber bietet TikTok Reichweite, Monetarisierung und eine Relevanz, die von den meisten älteren Lebensteilnehmern noch immer drastisch unterschätzt wird. An der Reichweite ist vor allem attraktiv, dass TikTok in sozialen Netzwerken völlig neu definiert hat, wie die sogenannte Viralität entsteht, also die explosive Verbreitung einzelner Inhalte. Dadurch können auch Leute mit sehr wenig Followern ein Millionenpublikum erreichen – mit der richtigen Idee für ein Video.

Feuerwerk der Manipulation

TikTok hat gegenwärtig den wohl besten existierenden Empfehlungsalgorithmus. Leider kann er ausgenutzt werden, und zwar insbesondere von Leuten, die mit verkürzten oder ganz gefälschten Informationen arbeiten, um eine besondere Form der TikTok-Sensationalisierung zu erreichen. Die TikTok-Sensationalisierung hat viele unterschiedliche, kulturelle Facetten, und die meisten davon sind strukturell positiv. Im Kern geht es meist um die kreative Fähigkeit, mit Witz, Charme, manchmal Intelligenz und Musikschnipseln sowie ein paar technischen Spielereien eine interessante bis spektakuläre Sekundeninszenierung herzustellen.

Politisch, gesellschaftlich und nachrichtlich ist TikTok bei Weitem nicht nur, aber inzwischen eben auch ein Feuerwerk der Manipulation, das sich hervorragend zur Verbreitung von Ideologien eignet. Die Inszenierungsradikalität auf TikTok bedeutet zu oft, dass für wahr und richtig gehalten wird, was sich gut und interessant anhört. Das ist zugegeben nichts, was TikTok erfunden oder auch nur exklusiv hat – aber die Geschwindigkeit, das e><treme Viralitätspotenzial, die Hyperpersonalisierung, das Publikum und der Zustand der Welt verstärken diesen Effekt.

In den vergangenen Monaten kam häufiger die Frage auf, warum die [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] auf TikTok so erfolgreich ist. Das liegt einerseits an reaktionären Trends, die dort oft subtil, aber letztlich ganz offen transportiert werden, wie Antifeminismus, [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ], [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] und ganz besonders auch Sozialdarwinismus in verschiedenen Formen. Eine große Interessensphäre mit ganz eigenen Stars mit Millionenreichweite beschäftigt sich zum Beispiel fast ausschließlich damit, wie man so schnell wie möglich so reich wie möglich wird. Das greift nahtlos in die allgegenwärtige Selbstoptimierung auf TikTok hinein. Und weil sich soziale Medien wie Instagram und auch TikTok so perfekt für die Inszenierung von Reichtum und Luxus eignen, entsteht aus beiden Strömungen schnell die Haltung, arme Menschen seien prinzipiell selbst an ihrem wirtschaftlichen Misserfolg schuld. Nebst dem Plan, wie man vermeintlich aus eigener Kraft reich wird.

Auch der Ruf nach autoritärer Führung findet überraschend großen Widerhall, und längst nicht nur in rechten Zirkeln. Ganz zentral für den Erfolg der AfD bei jungen Menschen auf TikTok ist aber aus meiner Sicht eine Ablösung der klassischen Nachrichten- und Welterklärungsmedien vom Alltagserleben vieler Jugendlicher. Wenn etwa absurde Überbürokratie, Politikversagen oder Probleme mit der Integration zwar persönlich erlebt oder medial präsent werden, aber dafür nur verkrampfte, abstrakte Erklärungen und schon gar keine Lösungen angeboten werden. Plötzlich erscheint rassistischer oder antidemokratischer Populismus gleichzeitig als Erklärung und als Lösung. Spektakel und Inszenierung vertragen sich eben nicht immer gut mit Komplexität, Grautönen und der Abwägung demokratischer Werte.

TikTok als Fake-News-Schleuder zu bezeichnen, ist definitiv verkürzt und berücksichtigt nicht die vielen Kräfte, die sich genau dort dem Strom des Antifortschritts entgegenstellen, mit Aufklärung, Bildung, Gegenanalysen und wirklich guter Unterhaltung. Aber TikTok geht als das gegenwärtig wohl machtvollste, korrektivärmste und aufmerksamkeitsstärkste Einflussmedium hinein in Köpfe unter 30 Jahren.

Eine gruselige Sensation

Was direkt zu Sora führt, das hier als Symbol für den ganzen Technologiekomplex von KI-Videos dienen soll. Die KI-Community in sozialen Medien ist seit der Vorstellung von Sora völlig aus dem Häuschen. Für eine Anzahl aus OpenAI-Sicht besonders vertrauenswürdiger Personen ist diese Technologie bereits verfügbar, und diese Leute veröffentlichen immer wieder neue Videos, oft inklusive der Anweisungen, der Prompts, mit der die KI die Videos generiert hat. So hat es OpenAI auch auf der Vorstellungsseite von Sora gehalten. Derzeit kann man mit Sora bis zu 60 Sekunden lange Videoclips erstellen, mit zwei, drei knappen Sätzen. Die Ergebnisse eröffnen eine Welt, die beinahe so groß und erstaunlich ist wie diejenige, die [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] für die Öffentlichkeit zugänglich gemacht hat. Das folgende Video gibt einen Einblick, und der lässt sich als gruselige Sensation beschreiben. Der Prompt »Ein Wurf Golden-Retriever-Welpen spielt im Schnee. Ihre Köpfe ploppen aus dem Schnee heraus« – [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ], das selbst für Fachleute kaum von einem echten Video zu unterscheiden ist. Auf den ersten Blick schon gar nicht.

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

Künstlicher Intelligenz sollte man sich nicht mit dem bisherigen Technologieverständnis nähern. Auch klassische, digitale Erkenntnisse reichen oft nicht aus, um das gegenwärtige Potenzial dieses Technologiekomplexes zu erfassen. Und noch weniger, um die künftige Entwicklung sinnvoll abschätzen zu können. KI muss inklusive der ständigen, manchmal exponentiellen Verbesserung gedacht werden. Das ist nicht trivial, weil unser menschliches Basisverständnis oft falsch einsortiert, was für KI einfach und was schwierig ist.

Sora muss man deshalb als Ausgangspunkt einer neuen Welt betrachten. Alle kleinen Unzulänglichkeiten und großen Merkwürdigkeiten in den bisherigen Videos sind aus meiner Sicht vernachlässigbar. Wir befinden uns am Anfang einer neuen medialen und damit auch politischen Zeitrechnung, denn mit Sora und vergleichbaren Technologien reicht der Begriff »Fake News« nicht mehr aus.

Auf dem Weg zur perfekten Propagandamaschinerie

Text-to-Video auf dem Niveau von Sora ist der Startschuss für die Epoche der »Fake Reality«, auch wenn der Begriff in sich widersprüchlich erscheint. KI kann Welten erschaffen, deren Abbild nicht mehr zu unterscheiden sein wird von den Abbildern, mit denen wir unsere Wirklichkeit bisher gelernt haben einzuschätzen. ChatGPT beherrscht die Erschaffung von Kommunikationsstrategien, diese Fähigkeiten dürften in der nächsten Iteration dramatisch besser werden, und sie werden irgendwann verbunden werden können mit Sora. Ein Prompt der Zukunft: »Erstelle eine Reihe von 10 Videos, die so viele Menschen wie möglich davon überzeugt, dass Wladimir Putin die einzige Hoffnung für Europa ist«. Die Skripts würden die neuesten, wissenschaftlichen Erkenntnisse der persuasiven Kommunikation und der Propaganda berücksichtigen, sie würden clever, unterhaltsam und viralitätsorientiert daherkommen.

Und hier schließt nahtlos TikTok an. Denn selbst die beste generative KI kann nur die Wahrscheinlichkeit erhöhen, mit der ein kommunikatives Ziel erreicht wird. Aber weil KI in Lernschleifen gedacht werden muss, würde die KI Tausende Versionen erstellen, die via TikTok ganz einfach auf Reichweite, Viralität und Wirkung beim Publikum überprüft werden können. Diese Daten fließen in den weiteren Kreationsprozess ein, lassen sich nach ihrer Wirksamkeit bei Zielgruppen unterteilen und immer präziser verbessern.

Mit dem Prinzip TikTok plus des Technologiekomplexes rund um Sora sind wir auf dem Weg zur perfekten, voll automatisierten Propagandamaschinerie des 21. Jahrhunderts. Sie kann Fake-Realitäten erschaffen, zugeschnitten im Zweifel auf jede einzelne Person. Bisher schützt uns, dass für die Qualität von Sora gigantische Ressourcen und Fachkenntnisse notwendig sind, die nur sehr wenige, große Unternehmen beherrschen – mit denen man verhandeln kann. Aber das wird nicht immer so bleiben. Wir haben bisher kaum das Problem der Fake News in den Griff bekommen und müssen uns schon mit einer ungleich wirkmächtigeren Fake Reality auseinandersetzen.

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]
Wenn ich mal durch meinen selten genutzten Facebook Account schwimme, stelle ich fest, dass mittlerweile ca. 30% aller Bilder KI generiert sind. Freundschaftsanfragen bekomme ich sehr viel von sogenannten Digital Creators.
Das Video in dem Beitrag empfinde ich als bedrückend.
Ich hab schon selbst mit AI gespielt und die Ergebnisse, z.B. von Fotomanipulationen waren erstaunlich.