Deutschlands digitale Dystopie

Stellen Sie sich eine Welt vor, in der künstlich generierte Influencer mit perfekten Gesichtern und Körpern die Modetrends der Jugend prägen. Eine Welt, in der jeder 13-jährige Junge Bilder aus dem Nichts erstellen kann, auf denen die nervende Mitschülerin nackt posiert. Eine Welt, in der niemand mehr die Realität von der Wirklichkeit unterscheiden kann. Dystopisch? Nein, denn all diese Szenarien sind schon jetzt in greifbarer Nähe.

Künstliche Intelligenz (KI) hat in den vergangenen Jahren enorme Fortschritte gemacht und wird zunehmend in verschiedenen Bereichen unseres Lebens eingesetzt. Doch mit der wachsenden Verbreitung von KI-Technologien kommen auch neue Herausforderungen und Gefahren zum Vorschein. Das behauptet zumindest der KI-basierte Chat-Bot „ChatGPT-X“, der den vorangegangen Absatz in wenigen Millisekunden geschrieben hat. Haben Sie bemerkt, dass die Worte nicht aus menschlicher Hand und individuellem Denken stammen? Vermutlich nicht – und eigentlich ist das ja auch nicht weiter schlimm. Aber das kann es noch werden, denn neben Text-Tools, die mit Informationen aus den Weiten des Internets ganze Bücher basteln können, gibt es auch Bild-, Ton-, und Video-Tools. Das sind frei zugängige Programme, die bis dato nicht existierende Szenen täuschend echt fälschen können.

Das Erschreckende daran: Die Internetseiten sind so konzipiert, dass nicht mehr allein die EDV-Nerds das Vorrecht auf Verstehen und Bedienen haben. Nun kann einfach jeder, der einen PC mit Internetzugang besitzt, unter Eingabe einfachster Sätze Bilder, Videos und Tonaufnahmen fälschen. Falls Sie nun denken, Sie könnten ohne Probleme eine solche KI-basierte Fälschung enttarnen, lassen Sie sich eines gesagt sein: Den Jugendlichen an der Schimper-Gemeinschaftsschule in Schwetzingen gelang es nicht.

Eltern kümmern sich mehr darum, dass die Kinder mit Helm Fahrrad fahren, als um den Schutz im digitalen Raum, der viel gefährlicher ist.

Welche Folgen sich aus den grenzenlosen Möglichkeiten der KI-basierten Systeme genau ergeben? Das weiß vermutlich niemand so ganz. Bisher sind wohl die meisten gefälschten Inhalte, die schon in den sozialen Netzwerken reproduziert werden, humoristischer Natur. Ob es ein Videoschnipsel von Altkanzlerin Angela Merkel ist, die den amtierenden Kanzler Olaf Scholz dazu auffordert, die Dönerpreise zu senken, oder ein Bild von Papst Franziskus, der mit Markenklamotten unter dem Titel „Balenciaga-Papst“ posiert. Dass in diesen Fällen mit KI nachgeholfen wurde, ist für die große Mehrzahl der Nutzer, dank des satirischen Kontextes, offensichtlich. Schwerer wird es dann schon, wenn Donald Trump, der Ex-Präsident der Vereinigten Staaten von Amerika, von Polizisten abgeführt wird. Oder wenn angeblich ein wütender Mob von Südeuropäern den Betrachter von einem Plakat der rechts verorteten Partei Alternative für Deutschland (AfD) anschreit.

Medienkompetenz als Schlüssel in der digitalen Welt

Apropos AfD: Die Meldung, dass die Rechtsaußen-Partei mehr Geld für die Inhalte auf den sozialen Medien ausgibt, als alle anderen Parteien zusammen und dementsprechend auch mehr Menschen im Internet erreicht als alle anderen Parteien in Summe, die geisterte vor einigen Wochen durch die Medien. Dass gerade die Rechtspopulisten besonders erfolgreich in den sozialen Medien sind, überraschte viele in der Politik – weswegen das nur logisch ist Aber dazu schreiben wir an späterer Stelle mehr.

Das ist ein guter Anlass für diese Zeitung, tiefer ins Thema einzutauchen, das im vergangenen Jahr immer wieder aufkam, ohne weitere Veranlassungen auszulösen. Ein erster Sachverständiger für das Thema kommt aus Mannheim – Daniel Bockmeyer vom Deutschen Roten Kreuz (DRK) Mannheim bildet Jugendliche zu Medienlotsen aus. „Eltern kümmern sich mehr darum, dass die Kinder mit Helm Fahrrad fahren, als um den Schutz im digitalen Raum, der viel gefährlicher ist“, findet Bockmeyer. Eine Erfahrung, die der Ausbildungsleiter nicht nur mit Erziehungsberechtigten gemacht hat. Auch bei Lehrern und anderem Schulpersonal sieht der Referent Nachholbedarf: „Dank des fehlenden Wissens über soziale Medienkompetenz seitens der weiterführenden Schulen kam ich überhaupt zu der Idee, Medienlotsen auszubilden.“

So hatte er eigentlich ein geeignetes Gymnasium für seinen Sohn gesucht und in den Gesprächen mit den Schulen auch nach deren Medienkompetenz-Konzept gefragt. Die Antworten der Lehrkräfte seien alarmierend gewesen, meint Bockmeyer: „Für die Schulen bedeutet Medienkompetenz mit Office-Programmen wie Excel umgehen zu können oder kleine Programme zu schreiben. Von einer pädagogischen Herangehensweise im Sinne von Wissens- und Kompetenzvermittlung in den sozialen Medien, war an keiner Stelle die Rede.“ Ein hartes Urteil des Experten, das sich zumindest an der Schimper-Gemeinschaftsschule in der Recherche nicht erhärten ließ, sich aber wohl trotzdem nicht von der Hand weisen lässt. Stefanie Rack, die Referentin der EU-Initiative „Klicksafe“, die sich für Mediensicherheit einsetzt, teilt dieser Zeitung mit: „Medienkompetenz ist weiterhin im Lehramtsstudium eine freiwillige Zusatzqualifikation. Studenten und zukünftige Lehrkräfte sind teilweise selbst nicht medienkompetent. Ohne gezielte Ausbildung und Fortbildung ändert sich das auch nicht.“

Da aber gerade in den sozialen Medien allerhand Falschinformationen, Radikalismus und Hassreden existieren, müssten diese in den Fokus der Bildungseinrichtungen rücken. „Ich habe auch nicht mit viel Unterstützung durch Eltern gerechnet. Die meisten kennen sich selbst wenig aus und haben eine bemerkenswerte Smartphonenutzung. Fake News müssen beispielsweise ja überhaupt erstmal in Umlauf kommen. An der Stelle spielen Eltern mit Sicherheit auch eine relevante Rolle“, glaubt Bockmeyer.

Und so entstand 2021 Bockmeyers Idee: Wenn Eltern und insbesondere Bildungseinrichtungen den Entwicklungen nicht mehr folgen können, müssen eben die Jugendlichen selbst tätig werden. Gemeinsam mit verschiedenen Jugendorganisationen erarbeitete der Experte unter der Leitung des DRK-Kreisverbandes Mannheim das Programm „Medienlotsen Mannheim“. Dabei können sich Jugendliche zu sogenannten Medienlotsen in vier verschiedenen Modulen ausbilden lassen, um deren Altersgenossen über die Gefahren, die auf den sozialen Medien existieren, aufzuklären und ihnen so Wissen und Kompetenzen vermitteln.

KI-Fälschungen und ihre Auswirkungen auf die Jugend

Doch wie gut kennen sich Jugendliche im undurchsichtigen Dschungel der Medien aus? Um das herauszufinden, organisierte diese Redaktion eine Projektstunde an der Schimper-Gemeinschaftsschule in Schwetzingen, die selbst an einem ausgefeilten Digitalisierungskonzept arbeitet. Die Stufenleiterin der fünften und sechsten Klasse, Susanne König, erklärt, dass die Schüler ab der sechsten Klasse mit dem iPad arbeiten: „In der fünften Klasse trainieren wir intensiv den Umgang mit den Geräten.“ Dabei gebe es auch das Schulfach Medienbildung, in dem die Kinder einen verantwortlichen Umgang mit dem Internet lernen könnten.

Unter dem Motto „Medienkompetenz in Zeiten von KI und Falschinformationskampagnen“ sprachen 15 Schüler zwischen 13 und 18 Jahren über ihre Erfahrungen in den sozialen Medien. Um alle Fragen, die während des Projekts aufkommen könnten, im Vorhinein abzuklären, verwies Daniel Bockmeyer auf die Webseite „Klicksafe“. Eine EU-Initiative, die den kompetenten und kritischen Umgang mit dem Internet unterstützen möchte. Auf Anfrage dieser Redaktion beantwortete die Referentin der Medienkompetenz-Initiative Stefanie Rack alle Fragen rund ums Thema.

Die erste ernüchternde Erkenntnis: Bei zwei Bildern mit gleichem Motiv – beispielsweise eine Frau am Strand oder ein kunstvoll verzierter Burger – können die Schüler nicht das KI-generierte Bild vom echten unterscheiden. Ein Problem, das nicht ursächlich der Schimper-Schule und ihren Schülern zuzurechnen ist – immerhin sind die KI-Bildprogramme mittlerweile qualitativ so hochwertig, dass eine Unterscheidung mit dem bloßen Auge gar nicht mehr möglich ist. Das mussten auch die Projektteilnehmer feststellen, die nicht einmal die Hälfte der gefälschten Bilder entlarvten.

„Dass jeder eine eigene Wahrheit erfinden und mit gefälschten Bildern belegen kann“, antwortet Selen auf die Frage, was gefährlich an solchen KI-generierten Bildern sei. Der politisch interessierte Mika fügt hinzu: „Damit können dann zum Beispiel Parteien Lügen erfinden, um Wähler für sich zu beeinflussen.“

Um tiefer in das Thema einzusteigen und herauszufinden, was die Jugendlichen im Internet konsumieren, durften sie kurz und der Reihe nach ihre Lieblingsinhalte vorstellen. Die meisten Mädchen folgen sogenannten „Beauty-Bloggerinnen“, also Menschen, die im Internet über Schmink- und Modetipps sprechen. Der digitale Konsum der Jungs beschränkt sich hauptsächlich auf „Gaming-Influencer“ – also Menschen, die ihre Fans daran teilhaben lassen, wie sie zocken. Der Hauptinhalt aller genannter Kanäle und Influencer, die von den Jugendlichen digital verfolgt werden, lässt sich auf ein Wort reduzieren: Unterhaltung.

Ob die Teenager ein Video bis zum Ende schauen oder in wenigen Sekunden auf das nächste klicken, liege daran, wie unterhaltend der Inhalt sei, erklärt die Gruppe einvernehmlich. Gerade die Jungs gestehen, dass sie Videos eher schauen, wenn darin etwas Extremes geschehe. „Aber nur bis zu einem gewissen Punkt, so richtig eklig oder so ist auch nicht gut“, erklärt uns Ricardo.

Dass das ein Grund für immer gefährlichere Nachmachtrends und verstörende Szenen auf der Plattform Tiktok sein könnte, scheint nicht weit hergeholt. Doch nicht nur risikobereite Influencer nutzen den Drang zur extremen Unterhaltung der Jugendlichen. Auch politische Akteure locken mit immer pauschaleren und destruktiveren Aussagen im Netz. Beispielsweise sei an dieser Stelle der Name Maximilian Krah genannt. Der AfD-Spitzenkandidat für die Europawahl hat mit verkürzten und populistischen Aussagen jede Menge Fans auf Tiktok gesammelt.

„Alter, das sind Nazis“

Lineares Fernsehen, Mediatheken der öffentlich-rechtlichen Sender oder den Jugendkanal des öffentlich-rechtlichen Rundfunks „Funk“ nutzt übrigens keiner der 15 Schimper-Schüler. Der Konsum von politischen Inhalten beschränkt sich auf einen einzigen Schüler, der den Podcast „Hoss & Hopf“ hört, ein konservatives Format, das immer wieder wegen nachgewiesener Falschinformationen und der Nutzung unseriöser Quellen in der Kritik steht. „Dass diese Menschen immer noch von den Jugendlichen gehört werden, ist schockierend“, findet die anwesende Lehrkraft Natalie Krapf-Günther, die bis dato dachte, der Podcast sei mittlerweile verboten. Auch der Jugendliche selbst räumt ein, dass er oft nicht wisse, was vom Gesagten im Podcast der Wahrheit entspricht. „Ich denke, dass trotzdem vieles stimmt und wenn etwas falsch ist, dann ist das aus Versehen“, glaubt der Podcast-Hörer.

„Die AfD kann gar nicht so rechts sein, die haben ja den größten Ausländeranteil aller Parteien“, behauptet dann einer der Jungs. „Alter, das sind Nazis“, antwortet ein anderer. Immer wieder rutscht der interaktive Austausch mit den Jugendlichen in politische Diskussionen ab. Auffallend ist dabei, dass sich die Gruppe, die an diesem Tag eigentlich lösungsorientiert und respektvoll diskutiert, bei der Miteinbeziehung von Politik scheinbar in zwei Lager spaltet. Ein Teil der Jugendlichen verteidigt dabei rechtskonservative Sichtweisen, der Rest greift die Argumente an. Immer wieder kommt es zum kurzen verbalen Schlagabtausch, der dann in Totschlag-Argumenten oder Beleidigungen erstickt.

Diese Entwicklung beobachtet die Lehrerin Natalie Krapf-Günther in vergangener Zeit immer häufiger: „Die Aussagen werden verkürzt und polarisierend in die Schuldiskussionen getragen. Dann möchte sich niemand geirrt haben, weswegen auch an Meinungen, selbst wenn sie auf Falschinfos basieren, festgehalten wird.“

Eine Polarisierung der Debatte, die Politikwissenschaftler seit einiger Zeit immer wieder in der Gesamtgesellschaft anprangern. Dass die AfD den größten Ausländeranteil hat, ist übrigens eine Falschinformation, die immer wieder auf unseriösen Kanälen in den sozialen Medien verbreitet wird. Unter anderem berichtigte der Focus diese Behauptung schon im Jahr 2021.

Die wohl bekannteste Falschinformation, die von vereinzelten Jugendlichen als Fakt verstanden wurde, ist die angebliche Geldschenkung Deutschlands an Peru. Wie auch Mannheimer AfD-Funktionäre im Palais Hirsch in Schwetzingen vor einiger Zeit, behauptet einer der Teenager, Deutschland habe Peru 300 Millionen Euro für Fahrradwege ohne Gegenleistung zu Verfügung gestellt. Eine populäre Falschbehauptung, die mittlerweile vielfach widerlegt ist. Stefanie Rack von „Klicksafe“ erklärt, dass die AfD auf Tiktok, der beliebtesten Plattform der Jugendlichen, gut bei den Teenagern ankomme, sei kein Zufall: „Sie nehmen die Jugendlichen ernst in ihrer Ansprache. Was sie vermitteln: Nicht nur Falschinformationen, sondern auch klaren Menschenhass. Die Korrektur nach einer Falschinformation wird kaum gelesen.“ Hintergrund der Mühen von rechtskonservativen Politikern, Jugendliche zu erreichen, sei die Europawahl, die nun ab 16 Jahren freigegeben ist. „Kurze, geschickte Aussagen. Anfangs ohne Kennzeichnung, dass sie von der AfD sind. Ein großer Teil der Mitglieder der AfD -Fraktion im Bundestag führen eine eigene Medienkampagne. Bundestagsreden werden für Social Media optimiert“, zählt Rack weitere Gründe für den digitalen Erfolg der Partei auf.

Um herauszufinden, ob die Jugendlichen verstehen, weswegen auch in der Politik ein Interesse bestehen könnte, junge Menschen mit Halbwahrheiten zu füttern, sollten die Teenager genau diese Frage beantworten. „Um mehr Reichweite zu generieren“, sagt ein Mädchen. „Umso mehr Menschen erreicht werden, desto mehr Geld wird verdient“, fügt ein Junge hinzu. Dass neben dem finanziellen Aspekt auch die Jagd nach jungen Wählerstimmen Grund für Falschinformationen sein kann, bemerken die Schüler erst durch einen in die Runde eingeworfenen Hinweis. „Stimmt, bei der diesjährigen Europawahl darf ja schon ab 16 Jahren gewählt werden“, kombiniert Aleyna.

Aber wie können die Jugendlichen dann Fake News erkennen? Stefanie Rack erläutert dazu, dass eine ordentliche Quellenprüfung und die Nutzung des eigenen Verstandes – frei nach dem Motto „Kann das stimmen?“ Basiskompetenz sein müsse. Um bei der Quellenprüfung nicht ein weiteres Mal auf Falschinformationen zu treffen, stellt „Klicksafe“ auf seiner Webseite ein Koordinatensystem zu Verfügung, in die bekannte Medien je nach journalistischer Qualität und politischer Ausrichtung einsortiert sind.

Und genau das war die letzte Aufgabe der Jugendlichen im Medienprojekt – verschiedene Zeitungen in das Koordinatensystem einzufügen. Eine Aufgabe, die für die Jugendlichen ein Ratespiel ist. Die bekanntesten deutschen Zeitungen wie zum Beispiel die Süddeutsche Zeitung oder die Frankfurter Allgemeine kennen die Jugendlichen genauso wenig wie den Dauernachrichtensender NTV.

Unter der Nutzung der privaten Smartphones bilden sich die Schüler kurzerhand eine Meinung über die Medienhäuser. Zwar erkennen sie schnell, dass das politisch rechte Medium „Compact“ rechts zu verorten ist, das rechtsextreme Blatt „Tichys Einblick“ entlarven sie allerdings nicht. „Das wirkte auf uns ziemlich seriös“, gesteht eine Schülerin. „Daran sehen wir, dass Zeitungen für die Schüler nicht mehr wirklich relevant sind“, sagt Krapf-Günther im Nachgespräch.

Der Weg der Schimper-Schule in Schwetzingen

Die Gefahren, die immer häufiger im Netz lauern, seien Dauerdiskussionsstoff der Pädagogen, erzählt die Leiterin der Unterstufe der Schimper-Schule, Susanne König. „Uns war trotzdem klar, dass wir uns dem technischen Fortschritt beugen müssen.“ Und so bekomme nun jeder Schüler in der sechsten Klasse ein iPad, um im Unterricht digital arbeiten zu können. „Im fünften Schuljahr werden die Schüler und Eltern besonders darauf vorbereitet“, erklärt König. Es gebe hierfür mittlerweile das Schulfach Medienbildung.

Wir dürfen den Rechten nicht das Feld überlassen.

Allerdings seien nicht immer die Schüler diejenigen, die bezüglich der neuen Medien ungebildet seien: „Die Schüler sind mit den Geräten aufgewachsen. Oft müssen eher die Eltern auf die Tablet-Nutzung ihrer Kinder vorbereitet werden“, sagt König mit einem Augenzwinkern. Die Erziehungsberechtigten würden aber nicht nur vorbereitet, sondern auch an die Hand genommen. So gebe es auch immer wieder spezifische Themenabende und andere Angebote, um die Erwachsenen in den neuen Medien weiterzubilden.

„Wir dürfen den Rechten nicht das Feld überlassen“, glaubt auch Bockmeyer. Für ihn ist Aufklärung von Kindern und Eltern die wichtigste Möglichkeit, politischen Akteuren im Internet die Stirn zu bieten.