Gefälschte Bilder von Kindern von Mordopfern, die auf TikTok ihre Todesmomente beschreiben, erschrecken ihre Familien.
Mit künstlicher Intelligenz animierte Bilder von echten Mordopfern sind auf TikTok in letzter Zeit weit verbreitet. Laut einer Untersuchung der BBC werden trotz des Verbots von TikTok immer noch ähnliche Inhalte auf der Plattform geteilt. Die Verantwortlichen von TikTok argumentieren, dass es nicht möglich sei, alle diese Bilder zu erkennen.
Die ohne Erlaubnis der Angehörigen der Kinder produzierten Bilder zeigen, wie Kinder und manchmal sogar Babys getötet werden.
TikTok hat im März das Teilen von durch künstliche Intelligenz generierten Bildern von Kindern auf seiner Plattform verboten. Doch seit April verbreiten sich auf TikTok weiterhin Bilder von Kindermorden.
Die Recherche der BBC ergab, dass sogar einige TikTok-Mitarbeiter über das Verbot verwirrt waren.
Im Gespräch mit der BBC sagte einer der Content-Moderatoren von TikTok, dass er seit Inkrafttreten des Verbots nicht über die Regeländerung informiert worden sei.
Einige dieser durch künstliche Intelligenz erzeugten Bilder kursierten monatelang auf der Plattform, andere wurden millionenfach angeschaut.
„Ein emotionaler Angriff“
Baroness Beeban Kidron, ein unabhängiges Mitglied des Oberhauses des britischen Parlaments, sagte, dass die Bilder insbesondere für trauernde Familien verstörend sein könnten, da sie Verwandte beim Reden zeigten.
„Wenn Sie diesem Kind nahe stehen, insbesondere wenn Sie ein Elternteil oder ein Familienmitglied sind, dann ist das ein Angriff, ein emotionaler Angriff“, sagte er.
„Es fühlte sich an, als wäre ich noch schlimmer geschlagen worden als der Schlimmste.“
Verwandte der Kinder begannen kurz nach dem Erscheinen dieser Bilder, ihre Beschwerden zu äußern. Die Kanadierin Amélie Lemieux ist eine der ersten Damen, die ihre Besorgnis zum Ausdruck brachte.
Lemieux‘ Frau beging Selbstmord, nachdem sie im Juli 2020 ihre 6- und 11-jährigen Töchter Romy und Norah getötet hatte.
Er war entsetzt, als er im April auf TikTok Aufnahmen sah, in denen Norah den Moment ihrer Ermordung beschrieb:
„Ich fühlte mich, als wäre ich schlimmer geschlagen worden als der schlimmste Schlag, den man sich vorstellen kann.“
„Weder ich noch mein Bruder konnten sich das Filmmaterial bis zum Ende ansehen. Er schrie, es solle aufhören.“
Lemieux war besonders besorgt darüber, dass seine jungen Neffen auf TikTok auf dieses Bild stoßen könnten.
Viele Menschen beschwerten sich bei TikTok über das Bild. Aber das Bild kursierte weiterhin auf der Plattform.
Letztendlich erregte die Situation von Lemieux die Aufmerksamkeit von Journalisten und der anonyme Account, der das Bild teilte, wurde gelöscht.
Lemieux konnte nicht herausfinden, wer das Bild gemacht hat, aber er sagte, er könne es ihm nie verzeihen:
„Es ist unglaublich schockierend, dass jemand etwas verwendet, das so verstörend ist und uns für den Rest unserer Tage das Gefühl geben wird, unvollständig zu sein. Alles, was sie wollen, sind Ansichten, Likes, Shares. Und Leute, die unten Kommentare hinterlassen. Ich persönlich kann das nicht verzeihen.“
Neue Technologien und der Wunsch, schnell Follower zu gewinnen
Software für künstliche Intelligenz wird immer zugänglicher und ermöglicht die Erstellung dieser Bilder.
Dank Software kann man schnell eine menschliche Figur erstellen und diese einen bestimmten Text sprechen lassen.
Einige der Opferbilder ähneln nicht denen im wirklichen Leben, andere basieren jedoch auf realen Menschen.
Obwohl die Personen, die die Videos erstellt hatten, anonym waren, stellte die BBC fest, dass einer der Produzenten ein in London lebender männlicher Student namens Ritul war.
Laut Ritul sind „Storytelling“-Videos auf YouTube eine schnelle Möglichkeit, Follower auf TikTok zu gewinnen:
„Ich habe Tausende und Abertausende von Followern allein mit Storytelling-Bildern gewonnen, bei denen wir künstliche Intelligenz eingesetzt haben. Ich habe 47.000 Follower in weniger als drei Wochen gewonnen.“
Ritul lehnte unsere Bitte um einen Kommentar ab und sein Konto wurde von TikTok gelöscht.
Auf einer Plattform wie TikTok, wo Bilder schnell konsumiert werden, müssen Bilder innerhalb von Sekunden Aufmerksamkeit erregen. Aus diesem Grund konzentrieren sich Künstler wie Ritul darauf, Bilder über die extremsten oder bemerkenswertesten Ereignisse zu erstellen.
Einige der Kindergeschichten wurden Gegenstand von Bildern, die in vielen Sprachen veröffentlicht wurden, darunter Portugiesisch, Spanisch, Französisch, Deutsch, Italienisch und Polnisch.
Im Laufe von zwei Monaten entdeckte die BBC 170 verschiedene TikTok-Bilder mit künstlicher Intelligenz-Versionen des zweijährigen britischen Jungen James Bulger, der 1993 in der Region Merseyside in England von zwei älteren Kindern getötet wurde.
Wie hat TikTok reagiert?
Der TikTok-Trend sorgte im Juli in Großbritannien für Schlagzeilen, als James‘ Mutter, Denise Fergus, einer Zeitung sagte, die Bilder mit ihrem Sohn seien „mehr als krank“.
TikTok sagte in einer Erklärung, nachdem es die Bilder massenhaft entfernt hatte: „Auf unserer Plattform gibt es keinen Platz für solch beunruhigende Inhalte. Wir entfernen solche Inhalte weiterhin, sobald wir sie entdecken.“
Unter den entfernten Bildern von James befanden sich zwei Bilder auf Vietnamesisch. Einer davon wurde 4 Millionen Mal angeschaut.
Die BBC sprach mit einem TikTok-Content-Moderator in Vietnam, der einem Interview unter der Bedingung zustimmte, dass sein Name anonym bleibt.
Er gab an, dass ihm das Unternehmen auch zwei Wochen nach der Entfernung der Videos nicht offiziell mitgeteilt habe, dass solche Inhalte verboten seien.
Laut dem Moderator, der mit der BBC sprach, war das Teilen der Bilder möglicherweise nach den TikTok-Regeln erlaubt, die es Überlebenden von Ausbeutung und Missbrauch ermöglichen, ihre Geschichten zu teilen.
Sind die Mitarbeiter von TikTok also verwirrt darüber, wie die Politik des Unternehmens tatsächlich aussieht? Die von uns um einen Kommentar gebetenen TikTok-Beamten antworteten nicht konkret auf diese Frage.
TikTok machte jedoch deutlich, dass der Vorschlag des Moderators, dass diese Bilder als Erfahrungsberichte von Überlebenden auf der Plattform veröffentlicht werden könnten, fehlerhaft sei. Denn es handelte sich eher um computergenerierte Ansichten toter Kinder als um die Erfahrungen echter Überlebender.
Auf TikTok sind solche Bilder immer noch leicht zu finden. Aber TikTok sagt, es sei ziemlich klar, dass es nicht in der Lage sein wird, alles zu erfassen, was auf seiner Plattform veröffentlicht wird.
T24
