KI trifft Klassenzimmer: Mit Deepfakte-Detektiven gegen digitale Täuschung

Elon Musk ist als Yoda verkleidet, Kim Kardashian rappt einen Song und Justin Timberlake trinkt plötzlich Alkohol nach einer angeblichen Festnahme: Was täuschend echt wirkt, kann ein gut gemachter Fake sein. Von KI-Systemen erstellte Foto-, Video- oder Sprachaufnahmen, die wir nicht mehr vom Realen unterscheiden können, sind sogenannte Deepfakes. Der Begriff leitet sich ab aus dem Prozess eines Deepfakes. In einem General Adversarial Network (GAN) werden zwei neuronale Netzwerke kombiniert und mit Bildern, Videos oder Stimmaufnahmen trainiert. Dieser als „deep learning“ bezeichnete Prozess der neuronalen Netze ist so umfassend, dass die Ergebnisse verblüffend realistisch wirken. Jeder kann Deepfakes erstellen, wenn er oder sie über Fotos, Videos, Stimmaufnahmen und einfache Programme verfügt. Vorkenntnisse und Programmierfähigkeiten braucht man dabei nicht.

Witzig sind Deepfakes, wenn im Netz das Selfie der Bundesregierung kursiert und Christian Lindner, Annalena Baerbock, Volker Wissing und Robert Habeck zu „We are family“ die Münder bewegen – der Spaß hört auf, wenn den abgebildeten Personen rassistische, hetzerische oder irreführende Aussagen in den Mund gelegt werden. Deepfakes können betrügen, diffamieren, erpressen, desinformieren. Mittlerweile sind sie so gut gemacht, dass sie schwer zu erkennen sind. Dass das, was wir konsumieren, oft nicht mehr der Realität entspricht, fordert Politik, Wirtschaft und Gesellschaft enorm heraus. „Technologie-, Digital- und transformative Kompetenzen sind die Schlüsselkompetenzen der Zukunft“, sagt Olaf Krużycki. Er bildet zusammen mit seinen Co-Gründern Dennis Przytarski, Colin Seán Kavanagh, Benedikt Breitkopf und Michael Dolz das Team des Unternehmens techagogics, das sich auf Workshops rund um Deepfakes und KI-generierte Inhalte fokussiert. Das Team ist mit Geisteswissenschaftlern und Medieningenieuren interdisziplinär aufgestellt.

Das Jahr 2014 gilt als Geburtsstunde der Deepfake-Technologie, die seitdem rasant gewachsen ist. 2021 sprang das fünfköpfige Team auf die Welle auf. Benedikt Breitkopf erzählt: „Die Staatskanzlei rief ein Förderprojekt aus, bei dem ein Workshop für Schulkinder entstehen sollte, der sie für Deepfakes sensibilisiert und ihnen einen emanzipierten Umgang mit der Technologie nahebringt“, so der studierte Medieningenieur. „Das lief so gut, dass wir aus der Relevanz des Themas ein Unternehmen gegründet haben.“ Den Nerv trafen die techagogics endgültig, als ein Filmteam des NDR die ersten Probeläufe der Workshops begleitete. „Am nächsten Tag hatten wir zahlreichen Anfragen aus dem ganzen Bundesgebiet, sogar aus Österreich“, berichtet der Politik- und Staatswissenschaftler Olaf Krużycki. „Das hat uns im positiven Sinne entsetzt, denn natürlich wollten wir den Anfragen nachkommen.“ Weitere Fördermittel der Staatskanzlei ermöglichten, dass bis heute rund 2.000 Schülerinnen und Schüler kostenfrei einen techagogics-Workshop abschließen konnten. Bei rund 175.000 Schulkindern im Relevanzbereich des Angebots (5. bis 10. Klasse) ist das jedoch nur ein Bruchteil. „Noch finden KI-fokussierte Inhalte kaum Eingang in den Schulunterricht. Lehrkräfte haben mit unserem außerschulischen Angebot die Möglichkeit, diese Inhalte kindgerecht einzubinden“, so Olaf Krużycki.

Für dreieinhalb Stunden tauchen die Kinder vor Ort im Workshop „Deepfake Detective“ ein in die Welt von KI-generierten Inhalten. Der Workshop startet mit einer paradoxen Intervention anhand des Deepfake-Videos zum Limp Bizkit Song „Out of Style“. Im Video zeigt sich die Band gezielt humoristisch als politische Führungspersonen. Anschließend geht es in ein Impulsgespräch: das erste Handy, Gefahren im Internet, die Nutzungsgewohnheiten der Altersgruppe. „Schnell kommen wir zum Aspekt, dass die Kinder Videos schnell und unachtsam konsumieren und sehr empfänglich sind für Deepfakes“, sagt Benedikt Breitkopf. „Dann informieren wir sie zu technischen Aspekten von Deepfakes: wie sind sie aufgebaut, wie funktionieren sie und wie kann man sie entdecken.“ Nach einem Quiz teilen sich die Schüler in Kleingruppen. An drei Stationen arbeiten sie an einem Bilderrätsel, einer Potenzialanalyse von KI-Tools im Alltag samt Diskussion und einem eigens konzipierten und konzipierten VR-Spiel, in dem sie Deepfakes erkennen müssen. Zum Abschluss wird im Plenum diskutiert und wiederholt. Von Klassenstufe 5 bis 10 sind die Workshops deckungsgleich aufgebaut. Angepasst wird, wenn beispielsweise Klassen mit Beeinträchtigungen oder geringeren Deutschkenntnissen zu betreuen sind.

Das Feedback ist durchweg positiv, sagt Benedikt Breitkopf. „Wir erleben extrem engagierte Kinder und Lehrkräfte, die uns für das Format und die eingesetzten Methoden loben. Es macht uns stolz, dass Schüler diese Workshops als bereichernd erkennen.“ Häufig bleibe der Kontakt zu den Klassen bestehen, so der Gründer weiter. „Kinder schickten Texte, die sie mit ChatGPT erstellt haben, eine Klasse schrieb eine Klausur über Deepfakes. Das zeigt uns, dass die Schulen das Thema nach dem Workshop in den Unterricht integrieren.“ Daraus entwickelte sich für die techagogics der Wunsch, Lehrkräfte stärker zu binden. Eine Lösung ist ein Programm, um Interessierte in ganz Deutschland zu versorgen. Hier greifen eine App und ein peer-to-peer-Ansatz, erklärt Olaf Krużycki. „Die App befähigt Lehrkräfte, den Workshop im Unterricht ortsunabhängig durchzuführen. Gleichzeitig wollen wir an Hochschulen Studierende ansprechen, die wir in einem Blockseminar schulen. Dann, versorgt mit App und weiterem Material, geben sie in Schulen Workshops. Dafür arbeiten wir an Adaptionen für das VR-Spiel, damit es als 2D-Spiel direkt über Smartphones oder Tablets spielbar ist.“ Mit den Studierenden wirkt eine Pyramidenstruktur, so Olaf Krużycki weiter: Sie bilden vor Ort Schülerteams aus, die anschließend ihre Mitschüler unterrichten. Ein rein digitales Angebot soll es aber nicht geben. „Die anlog-digitale Verbindung hilft, das Wissen besser zu verfestigen. Zum Beispiel strahlen die Kinder, wenn sie bei uns das VR-Spiel ausprobieren und erinnern sich an diese Verknüpfung zum Thema. Wir sind überzeugt, dass es das face-to-face-Lernen braucht“, sind sich die Gründer einig.

Zwei weitere Module sind in Entstehung: „Dialogue Detective“ und „Data Detective“ befassen sich mit den Themen Large Language Models (KI-getriebener Kommunikation und Textgenerierung) sowie Voreingenommenheit und Data Literacy (die Fähigkeit, Daten auf kritische Weise zu sammeln, zu bewerten und anzuwenden). Diese Module werden ermöglicht durch die KI-Wirtschaftsförderung der Staatskanzlei Schleswig-Holstein nach der Maßgabe der Richtlinie für die Gewährung von Zuwendungen zur Förderung des Einsatzes von Künstlicher Intelligenz in Schleswig-Holstein. Ein drittes Modul wollen die Gründer aus eigener Tasche stemmen. „Vor allem im Hinblick auf die US-Wahlen und unser Wahljahr 2025 wollen wir zum Thema Fake News und Verschwörungstheorien ein Paket anbieten. Zusammen mit allen weiteren Modulen haben wir dann ein umfassendes KI-Demokratiepaket.“

Dass die Angebote auch für Unternehmen jeglicher Größe relevant sind, insbesondere in Sicherheits- und Effizienzfragen, war schnell klar. „KI und der Umgang mit ihr wird im Arbeitsumfeld zu einem Grundlagenskill“, betont Benedikt Breitkopf. „Mitarbeitende müssen verstehen, was KI ist und wie sie adäquat mit ihr arbeiten.“ Ein prägnantes Beispiel aus China aus diesem Jahr belegt das. Ein Angestellter der Finanzabteilung fiel auf einen Deepfake-Videocall mit seinem Vorgesetzten herein und überwies 23 Millionen Euro auf ein Konto. „Das ist das neue Level von E-Mail-Scamming“, sagt Benedikt Breitkopf. Daher werden alle Module der Schüler-Workshops angepasst auf Unternehmen. Ausdifferenzieren werde man beispielsweise Themen wie Chatbots, Coding-Assistenzen oder effizienzsteigernde und ressourcenschonende KI-Tools, so die Gründer. Gleichzeitig wollen die techagogics für Unternehmen das Demokratiepaket als Hauptprogramm anbieten. „Wir alle neigen dazu, alles, was wir lesen oder sehen, für wahr zu halten“, sagt Olaf Krużycki. „Grundlegende Medienkompetenz bedeutet aber, sich bewusst zu machen, dass etwas womöglich nicht stimmt, obwohl es jemand behauptet. Verbunden ist diese Kompetenz mit Quellenreflektion. Woher kommt eine Information? Wer verbreitet sie? Die Gatekeeping-Funktion von Journalisten gibt es nicht mehr, denn jeder kann Inhalte im Internet verbreiten und es als Wahrheit vermarkten.“

Die Ergebnisse der Europawahl 2024 bestärkten die Zielsetzung des Teams zusätzlich: Jegliches Informationsformat sollte man kritisch hinterfragen. „Das gefährdete Publikum ist viel jünger. Wir müssen früher in der Bildungskette beginnen, diese Fähigkeiten auszubilden. Aber wir dürfen auch nicht vergessen, ältere Gruppen mitzunehmen“, sagt Olaf Krużycki. Er führt das Ergebnis einer aktuellen Studie an: Forscherteams verglichen die Bildverarbeitung von Kindern und Erwachsenen. Während die Kinder technische Aspekte von Fakes schnell erkannten, betrachteten Erwachsene Bilder im Kontext und hinterfragen, ob das Dargestellte wirklich so sein könnte. Da die technischen Entwicklungen rasant steigen und Deepfakes bald nur noch im Kontext erkennbar sein werden, spielt das kritische Hinterfragen des Gesehenen eine elementare Rolle – sodass schnell klar wird, welche Aussagen ein Bundeskanzler wirklich treffen würde und welche Videos nur eins sind: gefaked.