Unter dem Namen „wissenschaftlicher Inhalt“ erstellte Bilder mit künstlicher Intelligenz richten sich an Kinder
Es wurden mehr als 50 Kanäle in mehr als 20 Sprachen entdeckt, die als MINT-Inhalte (Mathematik, Naturwissenschaften, Technik, Ingenieurwesen) aufbereitet waren und Desinformation verbreiteten. Neben irrealen wissenschaftlichen Erzählungen und Fehlinformationen enthalten diese Kanäle Inhalte wie Verschwörungstheorien, die Leugnung des vom Menschen verursachten Klimawandels und die Existenz von Außerirdischen.
Diese Analyse zeigt, dass YouTube Kindern ungültige wissenschaftliche Bilder sowie echte Bildungsinhalte empfiehlt.
Die Videos konzentrierten sich auf Argumente voller sensationeller Kommentare, eingängiger Schlagzeilen und dramatischer Bilder, um die Aufmerksamkeit der Zuschauer zu fesseln. Je mehr Zuschauer zusahen, desto mehr Einnahmen erzielten die Sender mit Bildschirmwerbung.
Davon profitiert auch YouTube. Rund 45 Prozent der Werbeeinnahmen erzielt die Plattform aus Bildern.
Die Videos wurden als „Bildungsinhalte“ gekennzeichnet. Dies erhöht die Möglichkeit, Kindern Bilder zu empfehlen.
„Als Wissenschaftler habe ich das persönlich genommen“, sagte Hill und fügte hinzu: „Diese Kanäle scheinen den realistischsten Weg gefunden zu haben, die Anzahl der Aufrufe mit dem geringsten Aufwand zu maximieren.“
Wie wird es überprüft?
YouTube empfiehlt Kindern diese ungültigen wissenschaftlichen Bilder neben echten wissenschaftlichen Inhalten.
Die BBC fand auf YouTube Dutzende Kanäle, die solche Inhalte in Sprachen wie Arabisch, Russisch und Spanisch produzierten. Viele dieser Kanäle haben über eine Million Abonnenten. Die Bilder werden oft millionenfach angeschaut.
Kanalbesitzer veröffentlichen Inhalte schnell, viele davon mehrfach pro Tag. Der BBC-Konzern vermutete, dass sie Programme der künstlichen Intelligenz nutzten, um so schnell Inhalte zu produzieren. In diesem Geschäft verwendete Programme wie Chat GPT und MidJourney können bei Bedarf neue Inhalte erstellen, anstatt im Internet suchen zu müssen.
Das Team überprüfte das Filmmaterial jedes Kanals, um seinen Verdacht zu bestätigen. Er nutzte Tools zur Erkennung künstlicher Intelligenz und analysierte sie mit Experten, um herauszufinden, ob die Bilder, die Erzählung und das Szenario mithilfe künstlicher Intelligenz erstellt wurden.
Als Ergebnis der Analyse zeigte sich, dass in vielen Bildern künstliche Intelligenz eingesetzt wurde, um Texte und Bilder zu erstellen und Inhalte aus echten wissenschaftlichen Bildern zu extrahieren und zu ersetzen.
Ergebnis: Inhalte, die echt aussehen, es aber oft nicht sind.
Wie erreicht es Kinder?
Kanalproduzenten veröffentlichen fast täglich mehrere Inhalte.
Das Team zeigte Kindern im Alter von 10 bis 12 Jahren aus Großbritannien und Thailand einige der empfohlenen Inhalte, um zu sehen, ob sie glauben würden, was sie sahen. Ein Bild konzentrierte sich auf UFOs und außerirdische Verschwörungen. Jemand anderes behauptete, dass die Pyramiden von Gizeh Strom erzeugten.
Die zuschauenden Kinder glaubten, was sie sahen. Ein Mädchen sagte, es habe ihr gefallen, was sie gesehen habe. „Zuerst war ich mir nicht sicher, ob es Außerirdische gibt, aber jetzt glaube ich, dass es sie gibt.“
Ein anderes Kind erzählte von Pyramiden zur Stromerzeugung: „Ich wusste vor so langer Zeit noch nicht, dass Menschen mit moderner Technologie Strom erzeugen können.“
Allerdings konnten einige Leute feststellen, dass in den Bildern künstliche Intelligenz zum Einsatz kam. „Es war komisch, dass sie nicht einmal eine menschliche Stimme benutzten, ich dachte, das sei nicht menschlich“, sagte ein Kind.
Sie waren überrascht, als er ihnen erklärte, dass diese Bilder durch künstliche Intelligenz erstellt wurden und falsche Informationen enthielten.
„Ich bin wirklich verwirrt. Ich dachte, das wäre echt“, sagte einer.
Ein anderes Kind fügte hinzu: „Wenn Sie nicht gesagt hätten, dass es eine Fälschung ist, hätte ich es wahrscheinlich geglaubt.“
Kinder glauben oft falschen Informationen
Pädagogen sagen, dass die Ausnutzung der Neugier von Kindern dazu führen kann, dass sie nicht wissen, was richtig ist.
Pädagogen sagen, dass die Nutzung der natürlichen Neugier von Kindern auf neue und faszinierende Ideen dazu führen kann, dass sie nicht wissen, was richtig ist.
Direktor des Oxford Internet Institute, Prof. „Diese Bilder funktionieren, weil sie verschwörerisch sind“, sagt Vicki Nash. „Wir alle werden von Dingen beeinflusst, die im Widerspruch zu dem stehen, was uns offiziell gesagt wird, und Kinder sind dafür anfälliger als Erwachsene.“
Claire Seeley, eine Grundschullehrerin in England, sagt: „Kinder akzeptieren oft, was sie als Realität sehen. Wenn sie etwas älter werden, beginnen sie vielleicht, dies in Frage zu stellen.“
Prof. „Die Vorstellung, dass YouTube und Google mit Anzeigen mit ungültigen wissenschaftlichen Nachrichten Geld verdienen, erscheint mir unethisch“, sagt Nash.
Der BBC-Konzern kontaktierte einige Unternehmen, die Inhalte mit künstlicher Intelligenz produzieren. Einer sagte, dass sie Inhalte für „Unterhaltungszwecke“ produzieren. Er wies die These zurück, dass sie auf Kinder abzielten und sagte, dass sie künstliche Intelligenz nicht für mehr als einen Inhalt nutzten.
YouTube gab an, die Nutzung der YouTube Kids-Plattform für Kinder unter 13 Jahren zu empfehlen. Sie fügten hinzu, dass sie Fehlinformationsinhalte von ihren Plattformen entfernen und Familien ein „vertrauenswürdiges und qualitativ hochwertiges Erlebnis“ bieten. Auf Fragen zu den Werbeeinnahmen, die sie mit diesen Bildern erzielen könnten, äußerte er sich nicht.
Werkzeuge der künstlichen Intelligenz entwickeln sich ständig weiter. Die Vorbereitung solcher Bilder wird einfacher. Mit zunehmender Qualität der Bilder wird es schwieriger, sie zu unterscheiden.
Seeley sagte, er sei besorgt und sagte, dass Lehrer und Eltern sich auf Drohungen vorbereiten sollten:
„Wir wissen noch nicht genau, welchen Effekt mit künstlicher Intelligenz aufbereitete Inhalte auf die Wahrnehmung von Kindern haben.“
T24
