Frage: Wie sehen sie den allgemeinen Missbrauch von KI in sozialen Netzwerken?

Tim Menzner Beantwortet am 24 Feb 2026: last edited 24 Feb 2026 15:24

Als jemand, der sich in seiner Forschung mit der Schnittstelle von Propaganda und KI beschäftigt, sehe ich natürlich vor allem die Flut an automatisiertem „Propaganda-Slop“ kritisch, die wir heute schon beobachten können. Allerdings gab es Propaganda ja bereits lange vor der KI, ich habe dazu in einer Antwort auf eine andere Frage bereits etwas geschrieben. Da ich im Prinzip dasselbe nochmal sagen würde, kopiere ich das einfach nochmal hier drunter:

„Ich beschäftige mich in meiner Forschung ja zum Beispiel explizit damit, wie wir KI nutzen können, um einseitige Berichterstattung oder gar Propaganda zu erkennen und den Usern zu erklären, in der Hoffnung, dass wir so beim Medienkonsum kritisch bleiben und uns nicht so einfach manipulieren lassen. Neben diesem Ansatz experimentieren wir auch mit einer Suchmaschine, die wir gebaut haben und die mit derselben KI versucht, automatisch propagandistische Inhalte zu erkennen und in der Reihenfolge der Ergebnisse nach unten zu verschieben. Man kann also auch mit KI gegen KI-Missbrauch vorgehen.

Letztendlich ist es aber zu kurz gedacht, das Ganze als rein technisches Problem (mit einer rein technischen Lösung) zu betrachten. Misinformation bzw. Desinformation (was Absicht voraussetzt) gab es ja auch schon lange vor KI. Wenn man wirklich dagegen vorgehen will, kommt man nicht drum herum, sich das Phänomen unabhängig von der Technik anzusehen.

Also zum Beispiel, wie unser marktwirtschaftliches System einen Anreiz schafft, solche Inhalte zu produzieren, da durchaus von Nutzerseite eine Nachfrage nach sensationalistischen, emotionalisierenden, das eigene Weltbild bestätigenden Inhalten besteht, und seien diese Inhalte noch so realitätsfern. So stecken tatsächlich hinter vielen Accounts, die solche Inhalte auf Social Media pushen, nicht einmal Akteure, die ein politisches Ziel verfolgen. Oft sind es Menschen aus einkommensschwachen Ländern, denen Politik mehr oder weniger egal ist, für die es aber einfach eine lukrative Einkommensquelle ist, die Nachfrage nach Polarisierung in den reichen Industrieländern zu bedienen.

Daneben gibt es ja auch genug sehr reiche Menschen, die ihre Ressourcen explizit dafür einsetzen, mit ihren Medienhäusern und Plattformen für ihre politischen Ziele Stimmung zu machen. Man denke da zum Beispiel an Rupert Murdoch mit seinem Medienimperium (unter anderem „Fox News“), Elon Musk mit seinem Einfluss auf den Twitter- (bzw. „X“-)Algorithmus oder hierzulande Frank Gotthardt, der maßgeblich „Nius“ finanziert. Ist natürlich auch die Frage, wie sehr dieser Einfluss einiger weniger Mächtiger am Ende im Sinne einer demokratischen Gesellschaft ist.

Misinformation, Bias und Propaganda lassen sich nicht aus diesem Kontext herauslösen. Und wenn man das wirklich als Problem ansieht, gegen das man vorgehen muss, geht das nicht, ohne sich Gedanken über das Rahmenwerk, völlig unabhängig von der Technologie, zu machen.“