KI-generierte Inhalte fluten das Netz – zwischen Betrug, Propaganda und Profitgier
Gabor Hethur
KI-generierte Inhalte fluten das Netz – zwischen Betrug, Propaganda und Profitgier
Künstliche Intelligenz verändert Online-Inhalte auf eine Weise, die Realität verwischt, Desinformation anheizt und Nutzer für Profitzwecke ausbeutet. Von sexualisierten KI-Figuren bis hin zu politischer Propaganda verbreitet sich der Missbrauch dieser Technologie rasant. Regierungen und Forscher beobachten nun, wie sie den öffentlichen Diskurs und die digitale Kultur prägt.
KI-generierte Charaktere werden über Plattformen wie Instagram und OnlyFans monetarisiert. Ein Account mit über einer Million Followern bewirbt etwa eine KI-Persönlichkeit, die sich an Fußfetischisten richtet. Diese synthetischen Influencer wechseln zwischen Betrugsmaschen und passen sich an, welche Trends Algorithmen gerade vorgeben.
Gleichzeitig nutzen politische Akteure KI als Waffe für Propaganda. Das Weiße Haus inszenierte nach der Zuspitzung der Spannungen mit dem Iran eine digitale Militärparade in den sozialen Medien. Die Kampagne zielt auf junge Männer ab und setzt auf machohafte Inszenierungen sowie spielerische, an Computerspiele angelehnte Ästhetik. Auch Popkultur-Elemente kommen zum Einsatz – von rechtsextremen Memes bis zu verspielt-witzigen Comic-Motiven. In einem Fall wurde ein eigentlich für feministische und demokratische Werte bekanntes Animationsstudio zweckentfremdet, um eine Abschiebungsszene in heiterem Stil darzustellen.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Forscher dokumentieren die Ausbreitung KI-gestützter Desinformation. Die Desinformationsexpertin Karolin Schwarz analysierte Videos von KI-generierten Rabbiner-Figuren, die antisemitische Klischees und fragwürdige Finanztipps verbreiten. Die Politikwissenschaftlerin Katharina Nocun untersucht, wie sich Verschwörungsnarrative und politische Einflussnahme über solche Tools verbreiten. In Deutschland teilen rechtsextreme Kreise gefälschte "Straßeninterviews", darunter eines mit einer 18-jährigen blonden Frau, die zu Abschiebungen aufruft.
Die deutsche Regierung hat sich bisher weitgehend von populistischen KI-Fälschungen distanziert, doch auch demokratische Parteien setzen mittlerweile KI-generierte Bilder in ihren Kampagnen ein. Um Täuschungen entgegenzuwirken, wird die EU ab August die Kennzeichnung von KI-Inhalten vorschreiben.
Der Aufstieg KI-generierter Inhalte stellt Regulierer, Forscher und die Öffentlichkeit vor neue Herausforderungen. Kennzeichnungspflichten sollen Nutzern helfen, zwischen echtem und synthetischem Material zu unterscheiden. Doch während Betrug und Propaganda immer raffinierter werden, wird deutlich: Es braucht mehr Wachsamkeit – und strengere Schutzmechanismen.
