Deepfake von Kindern, was jetzt zu tun ist

Das Bild ist gefälscht. Die Scham, die Angst und der Schmerz sind echt.

Wenn Kinder durch sexualisierte KI-Deepfakes bloßgestellt werden, brauchen sie Erwachsene, die wissen, was zu tun ist. Und eine Gesellschaft, die endlich begreift, was diese neue Form digitaler Gewalt mit einem Kind anrichten kann.

Stell Dir vor, Deine Tochter kommt morgens in die Schule und merkt sofort, dass etwas nicht stimmt. Zwei Kinder schauen auf ihre Handys und fangen an zu lachen. Andere sehen sie an und wenden den Blick schnell wieder ab. Im Klassenchat kursiert ein Nacktbild von ihr. Es sieht täuschend echt aus. Ihr Gesicht ist eindeutig zu erkennen.

Nur: Dieses Bild hat es nie gegeben.

Jemand hat ein ganz normales Foto von ihr genommen und mithilfe Künstlicher Intelligenz daraus eine sexualisierte Darstellung gemacht. Vielleicht stammt das Ausgangsfoto aus einem öffentlichen Profil. Vielleicht aus einer Klassenfahrt, einem Sportverein oder einem Familienurlaub.  Vielleicht hat es ein Mitschüler aufgenommen. Das Bild wird weitergeleitet, kommentiert, womöglich in andere Gruppen geschickt. Und während Erwachsene noch versuchen zu verstehen, mit welcher App so etwas überhaupt möglich ist, muss dieses Mädchen durch einen Schultag, an dem sie nicht weiß, wer das Bild gesehen hat und wer es morgen noch sehen wird. Vielleicht trifft es einen Jungen. Vielleicht ist es kein Nacktbild, sondern ein manipuliertes Video. Vielleicht wird ein Kind damit bedroht, dass die Darstellung an seine Eltern oder die ganze Schule geschickt wird.

Das sind beispielhafte Situationen. Aber die dahinterliegende Gefahr ist real: Mithilfe von KI lassen sich Menschen in sexualisierte Bilder oder Videos versetzen, ohne dass sie jemals an einer solchen Aufnahme beteiligt waren. Gerade bei Kindern kann das eine Form massiver Bloßstellung und sexualisierter Gewalt sein.

Das Bild ist gefälscht. Was es im Leben eines Kindes auslösen kann, ist verdammt echt.

Mich beschäftigt daran besonders, wie schnell wir Erwachsenen versucht sein könnten, mit einem Satz zu beruhigen, der die Situation für das betroffene Kind überhaupt nicht besser macht: „Aber das bist Du doch gar nicht wirklich.“ Das Kind weiß das. Seine Mitschüler wissen es vielleicht sogar auch. Und trotzdem wird gelacht. Trotzdem wird das Bild herumgezeigt. Trotzdem muss das Kind befürchten, dass es jederzeit erneut auftauchen könnte. Was hilft ihm da die technische Erklärung, dass eine KI am Werk war, wenn wir nicht zugleich verstehen, was gerade mit diesem Menschen passiert? Ein ganz normaler Klassenchat kann innerhalb weniger Minuten zum Albtraum werden Ich habe viele Jahre in Schule gearbeitet. Ich weiß, wie sich ein Schultag anfühlen kann, wenn morgens ein Konflikt aus einem Klassenchat mit in den Unterricht gebracht wird.

Am Nachmittag hat jemand etwas gepostet. Andere haben reagiert, weitergeleitet oder geschwiegen. Abends schreiben Eltern Nachrichten. Morgens stehen Kinder auf dem Flur, die einander kaum noch ansehen können. Die Klassenleitung hat eigentlich Unterricht, die Schulsozialarbeit ist bereits mit anderen Fällen beschäftigt, und die Schulleitung versucht herauszufinden, was geschehen ist.

Oft höre ich dann den Satz: „Das ist doch zu Hause passiert.“ Ja, vielleicht. Nur sitzen die betroffenen Kinder jetzt gemeinsam in einem Klassenzimmer. Sie begegnen einander in der Pause, im Bus und auf dem Schulhof. Die Folgen machen selbstverständlich nicht am Schultor halt. Bei einem sexualisierten Deepfake kommt etwas hinzu, das die Situation besonders belastend machen kann. Ein Kind erlebt, dass über seinen Körper verfügt wurde, ohne dass es irgendetwas dagegen tun konnte. Das eigene Gesicht wird mit einer intimen Darstellung verbunden, die es nie gewollt hat. Andere Menschen können diese Darstellung besitzen, kommentieren und verbreiten.

Vielleicht sagt das Kind zunächst überhaupt nichts. Vielleicht lacht es mit, weil es hofft, die Sache dadurch kleiner zu machen. Vielleicht wird es wütend, zieht sich zurück oder weigert sich am nächsten Morgen, in die Schule zu gehen. Wir dürfen nicht erwarten, dass jedes betroffene Kind so reagiert, wie Erwachsene es sich vorstellen. Und wir sollten vor allem nicht darauf warten, dass es seine Not auf eine Weise zeigt, die wir endlich eindeutig erkennen. Wer sich schämt, erzählt häufig gerade das nicht, wobei er am dringendsten Hilfe braucht.

„Warum hast Du denn überhaupt ein Foto von Dir ins Netz gestellt?“

Ich möchte, dass wir diesen Satz aus unserem ersten Gespräch mit einem betroffenen Kind streichen. Ja, wir müssen über öffentliche Kinderfotos, Privatsphäre und den Umgang mit persönlichen Daten sprechen. Natürlich sollten Eltern prüfen, welche Bilder ihrer Kinder sie selbst veröffentlichen. Wir sollten Sicherheitseinstellungen kennen und Kindern erklären, dass auch ein harmloses Foto manipuliert werden kann. All das gehört zur Prävention und steht auch in meinem beigefügten Elternleitfaden.  Aber ein Kind, dessen Bild gerade missbraucht wurde, braucht zunächst etwas anderes. Es braucht einen Erwachsenen, der ihm zuhört, ohne nach dem Fehler zu suchen, den es womöglich selbst gemacht haben könnte.

Kein Vortrag über das zu kurze Oberteil auf dem ursprünglichen Foto. Keine Diskussion darüber, weshalb das Profil öffentlich war. Keine Frage, ob es vielleicht vorher mit jemandem geflirtet hat. Auch keine gut gemeinte Bemerkung, dass das Bild doch offensichtlich gefälscht sei und es deshalb keinen Grund gebe, sich so aufzuregen. Verantwortlich für die Herstellung und Verbreitung einer solchen Darstellung sind diejenigen, die sie erstellen und verbreiten.

Das sollte ein Kind von uns hören. Und zwar so, dass es uns glaubt.

Ich würde mich zu ihm setzen und erst einmal fragen, was passiert ist. Wer könnte das Bild gesehen haben? Wird es bedroht oder erpresst? Hat es Angst davor, jemandem in der Schule zu begegnen? Was braucht es jetzt, um sich sicherer zu fühlen? Vielleicht will es noch nicht alles erzählen. Dann darf es wissen, dass wir da sind und wiederkommen. Dass wir ihm erklären, welche Schritte wir unternehmen müssen und wen wir zu seinem Schutz hinzuziehen.

Wir sollten nichts versprechen, was wir nicht halten können. Ein „Ich erzähle das garantiert niemandem“ wäre beispielsweise falsch, wenn weitere Fachkräfte eingeschaltet werden müssen, um das Kind zu schützen. Aber wir können versprechen, sorgsam mit seiner Geschichte umzugehen und es so weit wie möglich einzubeziehen.

Das klingt selbstverständlich. Im Ernstfall ist es das leider nicht immer. Wir müssen schnell handeln. Und dabei verhindern, dass wir selbst Teil der Verbreitung werden.

Wenn eine sexualisierte Darstellung eines Kindes im Klassenchat auftaucht, wollen Erwachsene häufig sofort wissen, worum es geht. Also wird nach einem Screenshot gefragt. Jemand schickt das Bild an die Klassenleitung. Die Klassenleitung leitet es an die Schulleitung weiter. Vielleicht landet es schließlich noch bei mehreren Eltern, die zeigen möchten, was passiert ist. Plötzlich haben es noch mehr Menschen gesehen.

Ich verstehe den Impuls, Beweise sichern zu wollen. Gerade deshalb ist dieser Punkt so wichtig: Sexualisierte Darstellungen Minderjähriger dürfen nicht einfach weitergeleitet, heruntergeladen oder durch Screenshots vervielfältigt werden, auch nicht mit der gut gemeinten Begründung, man wolle den Vorfall dokumentieren. Je nach Inhalt können dadurch auch strafrechtliche Probleme entstehen. Das Landeskriminalamt empfiehlt, die örtliche Polizei einzuschalten und dort zu klären, wie vorhandene Beweise rechtssicher gesichert werden sollen.  Wir sollten zunächst ohne neue Bildkopien festhalten, was wir wissen: In welchem Chat ist die Darstellung aufgetaucht? Wann wurde sie bemerkt? Welche Accounts sind beteiligt? Gibt es Drohungen? Welche Personen können Auskunft geben? Dann müssen wir fachlichen Rat einholen und gemeinsam mit der Plattform und gegebenenfalls der Polizei klären, wie die Verbreitung gestoppt und der Vorfall dokumentiert werden kann. Auch das gehört zu den ersten Schritten meines Leitfadens: nichts weiterleiten, die Schule einbeziehen, rechtliche Fragen fachlich klären und das Kind schützen. 

Vor allem dürfen wir jetzt keine öffentliche Suche nach Schuldigen veranstalten. Kein Aufruf in der Elterngruppe, keine Namenslisten, keine Gerüchte über vermeintlich beteiligte Kinder.

 

Ein betroffener Mensch braucht Schutz und eine abgestimmte Reaktion. Er braucht keine zweite Welle der Aufmerksamkeit.

Und auch wenn Kinder oder Jugendliche das Bild erstellt oder weitergeleitet haben, müssen wir sorgfältig vorgehen. Ihr Verhalten muss aufgearbeitet werden. Dabei sind Alter, Einsichtsfähigkeit, Gruppendruck, die Umstände des Vorfalls und die rechtliche Einordnung zu berücksichtigen. Eine Schule darf weder wegsehen noch aus dem Fall ein öffentliches Tribunal machen. Wo bleibt eigentlich unsere Verantwortung als Schule? Eine Schule muss nicht jeden Vorfall allein lösen können. Sie muss aber wissen, an wen sie sich wenden kann. Ich wünsche mir, dass eine Lehrkraft bei einer solchen Situation nicht erst stundenlang im Internet nach Begriffen wie „Deepfake“, „Sextortion“ oder „KI-Nacktbild“ suchen muss. Dass sie nicht nebenbei herausfinden soll, welche strafrechtlichen Vorschriften greifen könnten, während vor ihr ein völlig aufgelöstes Kind sitzt.

Wir verlangen von Lehrkräften schon heute unglaublich viel. Sie sollen unterrichten, erziehen, Konflikte lösen, Eltern beraten, digitale Trends kennen und bei schwierigen Vorfällen möglichst sofort die richtige Entscheidung treffen. Deshalb brauchen Schulen klare Abläufe und verlässliche Unterstützung. Wer ist die erste Ansprechperson? Wann werden Schulsozialarbeit und Schulleitung hinzugezogen? Wer nimmt Kontakt zu einer Fachberatungsstelle auf? Wie stimmen wir uns mit den Eltern des betroffenen Kindes ab? Was braucht die Klasse, damit die Bloßstellung nicht im Schulalltag weitergeht? Und ganz wichtig: Wie sorgen wir dafür, dass das betroffene Kind auch in den Tagen und Wochen danach nicht allein bleibt?

Die erste Aufregung legt sich vielleicht schnell. Die Unsicherheit, ob irgendwo noch eine Kopie existiert, kann bleiben. Auch die Angst vor Blicken, Kommentaren oder neuen Nachrichten verschwindet nicht automatisch, sobald ein Chat gelöscht wurde.

Manchmal braucht es eine Vertrauensperson, die regelmäßig nachfragt. Manchmal Unterstützung durch eine spezialisierte Beratungsstelle. Manchmal müssen Schule und Eltern gemeinsam überlegen, wie der Schulbesuch für das Kind wieder sicher werden kann.

Die Aufgabe endet nicht mit der Meldung an eine Plattform. Es gibt Menschen, die wir anrufen können. Bitte nutzt diese Hilfe. Mir war wichtig, meinem Elternleitfaden konkrete Anlaufstellen hinzuzufügen. Denn in einem solchen Moment hilft es wenig, wenn wir nur sagen: „Holen Sie sich Unterstützung.“ Eltern und Lehrkräfte müssen wissen, wo.

Das Hilfe-Telefon Sexueller Missbrauch unter 0800 22 55 530 berät kostenlos und vertraulich auch Angehörige und Fachkräfte, die im beruflichen Alltag mit einem möglichen Fall sexualisierter Gewalt konfrontiert werden. Dort darf man ausdrücklich auch anrufen, wenn man zunächst unsicher ist oder einen Verdacht hat. Für Kinder und Jugendliche gibt es die Nummer gegen Kummer unter 116 111. Eltern können sich unter 0800 111 0 550 beraten lassen. Über JUUUPORT (https://www.juuuport.de/)

finden junge Menschen außerdem vertrauliche Online-Beratung bei Problemen im Netz. Bei einer akuten Bedrohung oder unmittelbaren Gefährdung gilt die 110.

Ich möchte ausdrücklich auch Lehrkräfte, Sozialpädagogen und Schulleitungen ermutigen, selbst zum Telefon zu greifen. Ihr müsst nicht erst alle Antworten haben, bevor Ihr Hilfe holen dürft.

Manchmal ist genau das der verantwortungsvollste erste Schritt.

Was müssen die anderen Kinder lernen?

Bei einem sexualisierten Deepfake denken wir zu Recht zuerst an das betroffene Kind. Aber wir müssen auch über diejenigen sprechen, die das Bild sehen.

Über den Jungen, der es weiterleitet und sagt, es sei doch nur Spaß. Über das Mädchen, das einen lachenden Emoji daruntersetzt, obwohl sie selbst ein ungutes Gefühl hat. Über die Kinder, die nichts tun, weil sie Angst haben, als Nächste bloßgestellt zu werden. Und über diejenigen, die merken, dass hier etwas völlig aus dem Ruder läuft, aber nicht wissen, wem sie es sagen können.

Ich wünsche mir, dass wir mit Kindern genau darüber sprechen, bevor etwas passiert. Darüber, was es mit einem Menschen macht, wenn sein Gesicht für eine sexualisierte Darstellung benutzt wird. Darüber, dass auch eine Fälschung verletzen kann. Dass jeder weitere Klick und jedes Weiterleiten die Situation verschlimmern kann.

 

Ein Fake ist kein Freifahrtschein.

Kinder müssen wissen, dass sie bei einer solchen Darstellung nicht mitmachen müssen. Sie dürfen widersprechen. Sie dürfen eine erwachsene Vertrauensperson einschalten. Und sie sollten darauf vertrauen können, dass wir ihnen dann helfen, statt ihnen vorzuhalten, weshalb sie überhaupt in diesem Chat waren. Diese Botschaft gehört in den Unterricht, in die Elternarbeit und in unsere Gespräche am Küchentisch. Sie gehört aber genauso in unser eigenes Verhalten. Wie sprechen wir Erwachsenen über bloßstellende Bilder von Menschen? Was leiten wir selbst weiter, weil es gerade alle teilen? Worüber lachen wir, obwohl wir wissen, dass auf der anderen Seite ein Mensch steht?

Kinder schauen sich sehr genau an, was wir tun. Das eigentliche Problem ist größer als eine neue KI-Funktion Wir müssen uns mit den technischen Möglichkeiten von Deepfakes beschäftigen. Wir müssen wissen, dass Bilder, Stimmen und Videos manipuliert werden können. Dass vermeintliche Beweise nicht immer welche sind. Dass die Grenze zwischen echt und künstlich erzeugt für uns immer schwerer zu erkennen sein kann. Aber ich möchte, dass wir bei der Technik nicht stehen bleiben. Eine KI erzeugt nicht von sich aus den Entschluss eines Mitschülers, ein bestimmtes Kind bloßzustellen. Ein Klassenchat entwickelt nicht von allein eine Kultur, in der alle zusehen und niemand eingreift. Und ein betroffenes Kind verliert nicht durch eine einzelne Softwarefunktion das Vertrauen in andere Menschen. Dahinter stehen Entscheidungen und ein gesellschaftlicher Umgang miteinander, über den wir viel ernster sprechen müssen.

Welchen Wert hat die Würde eines anderen Menschen, wenn wir nur noch einen Klick davon entfernt sind, ihn vorzuführen? Was bedeutet Einwilligung, wenn sich Bilder ohne Zustimmung verändern lassen? Und wie erklären wir einem Kind, dass es Grenzen achten soll, wenn Erwachsene selbst bedenkenlos intime, entwürdigende oder bloßstellende Inhalte verbreiten? Ich möchte ausdrücklich auch Lehrkräfte und Schulleitungen ermutigen, selbst zum Telefon zu greifen. Ihr müsst nicht erst alle Antworten haben, bevor Ihr Hilfe holen dürft.

Manchmal ist genau das der verantwortungsvollste erste Schritt. Was müssen die anderen Kinder lernen?

Bei einem sexualisierten Deepfake denken wir zu Recht zuerst an das betroffene Kind. Aber wir müssen auch über diejenigen sprechen, die das Bild sehen.

Über den Jungen, der es weiterleitet und sagt, es sei doch nur Spaß.

Über das Mädchen, das einen lachenden Emoji daruntersetzt, obwohl sie selbst ein ungutes Gefühl hat.

Über die Kinder, die nichts tun, weil sie Angst haben, als Nächste bloßgestellt zu werden.

Und über diejenigen, die merken, dass hier etwas völlig aus dem Ruder läuft, aber nicht wissen, wem sie es sagen können.

Ich wünsche mir, dass wir mit Kindern genau darüber sprechen, bevor etwas passiert. Darüber, was es mit einem Menschen macht, wenn sein Gesicht für eine sexualisierte Darstellung benutzt wird. Darüber, dass auch eine Fälschung verletzen kann. Dass jeder weitere Klick und jedes Weiterleiten die Situation verschlimmern kann.

Ein Fake ist kein Freifahrtschein.

Kinder müssen wissen, dass sie bei einer solchen Darstellung nicht mitmachen müssen. Sie dürfen widersprechen. Sie dürfen eine erwachsene Vertrauensperson einschalten. Und sie sollten darauf vertrauen können, dass wir ihnen dann helfen, statt ihnen vorzuhalten, weshalb sie überhaupt in diesem Chat waren. Diese Botschaft gehört in den Unterricht, in die Elternarbeit und in unsere Gespräche am Küchentisch. Sie gehört aber genauso in unser eigenes Verhalten. Wie sprechen wir Erwachsenen über bloßstellende Bilder von Menschen? Was leiten wir selbst weiter, weil es gerade alle teilen? Worüber lachen wir, obwohl wir wissen, dass auf der anderen Seite ein Mensch steht? Kinder schauen sich sehr genau an, was wir tun. 

Das eigentliche Problem ist größer als eine neue KI-Funktion

Wir müssen uns mit den technischen Möglichkeiten von Deepfakes beschäftigen. Wir müssen wissen, dass Bilder, Stimmen und Videos manipuliert werden können. Dass vermeintliche Beweise nicht immer welche sind. Dass die Grenze zwischen echt und künstlich erzeugt für uns immer schwerer zu erkennen sein kann.

Aber ich möchte, dass wir bei der Technik nicht stehen bleiben.

Eine KI erzeugt nicht von sich aus den Entschluss eines Mitschülers, ein bestimmtes Kind bloßzustellen. Ein Klassenchat entwickelt nicht von allein eine Kultur, in der alle zusehen und niemand eingreift. Und ein betroffenes Kind verliert nicht durch eine einzelne Softwarefunktion das Vertrauen in andere Menschen.

Dahinter stehen Entscheidungen und ein gesellschaftlicher Umgang miteinander, über den wir viel ernster sprechen müssen. Welchen Wert hat die Würde eines anderen Menschen, wenn wir nur noch einen Klick davon entfernt sind, ihn vorzuführen? Was bedeutet Einwilligung, wenn sich Bilder ohne Zustimmung verändern lassen? Und wie erklären wir einem Kind, dass es Grenzen achten soll, wenn Erwachsene selbst bedenkenlos intime, entwürdigende oder bloßstellende Inhalte verbreiten?

HINWEIS für Eltern und Schulen 

Mein kompakter Leitfaden „Wenn Kinder durch KI-generierte pornografische Inhalte betroffen sind“ fasst die ersten Schritte und wichtige Beratungsstellen zusammen. Gern herunterladen und verteilen.