Meta Board Deepfake Entfernung. Der Verwaltungsrat von Meta hat die Entfernung zweier mit künstlicher Intelligenz generierter Videos von Facebook angeordnet, die eine schottische Labour-Stadträtin und eine junge Freiwillige im Rahmen einer Kampagne zur Menstruationsgesundheit ins Visier nahmen. Das Oversight Board von Meta bewertete die bestehenden Regeln als „ständig und tiefgreifend unzureichend“, um der raschen Verbreitung synthetischer Inhalte auf den Plattformen zu begegnen.

In beiden Fällen hatte Meta die Videos zunächst online gelassen, Entscheidungen, die später vom Board aufgehoben wurden. Die zwei Verfahren verdeutlichen eine besorgniserregende Tendenz zur Nutzung von Deepfakes zur Belästigung von Frauen und zur Einschränkung ihrer Teilnahme an der öffentlichen Debatte, wie Pamela San Martin, Co-Vorsitzende des Boards, hervorhob.

Meta Board Deepfake Entfernung: Warum das wichtig ist

Das erste Video, im November 2025 auf Facebook veröffentlicht, schrieb der Stadträtin eine Aussage zu, die sie nie getätigt hatte: „Flüchtlinge sind hier willkommen, auch wenn sie unsere Frauen vergewaltigen, denn das tun Weiße auch“. Die Audioaufnahme wies eine ungenaue Synchronisation mit den Gesichtsbewegungen auf, was auf Manipulation hindeutete. Der Clip war Teil eines Albums mit Fotos verschiedener Frauen, die als Teilnehmerinnen einer Demonstration gegen die extreme Rechte identifiziert wurden, und hatte über fünftausend Aufrufe überschritten.

Zwei Personen, einschließlich der Stadträtin selbst, hatten den Inhalt gemeldet. Die automatischen Systeme von Meta haben das Video nicht an einen menschlichen Prüfer weitergeleitet und beide Einsprüche abgewiesen. Die Stadträtin berichtete, sie habe den Vorfall auch bei der Polizei angezeigt, ohne Ergebnisse zu erzielen, und beschrieb die Verwendung ihrer replizierten Stimme als „ziemlich traumatisch“.

Meta hatte argumentiert, dass das Video keine Regel verletze und kein Label für KI-generierte Inhalte benötige; diese Position wurde auch nach Eröffnung des Falls durch das Board beibehalten. Das Unternehmen erklärte, dass keine Organisation im Rahmen des Trusted-Partner-Programms den Clip gemeldet habe und der Inhalt keine verbotenen Aussagen zu Wahlen oder Volkszählungen enthalte.

Die Mehrheit des Boards kam zu einem anderen Schluss und stellte fest, dass das Video die Regeln gegen Hassverhalten verletze, da es „schwerwiegende Kriminalität und sexuell predätorisches Verhalten“ Flüchtlingen als Gruppe zuschrieb, anstatt einzelnen Individuen. Das Board empfahl die Anwendung des Labels „High Risk AI“. Eine Minderheit im Board war der Ansicht, dass das Hauptziel die der Politikerin zugeschriebenen Positionen seien, nicht die Flüchtlinge selbst; was Mobbing und Belästigung angeht, wurde kein Verstoß festgestellt, angesichts des Status der Stadträtin als öffentliche Person.

Das zweite Verfahren betraf eine junge muslimische Frau in Europa, die an einem Fernsehinterview im Rahmen einer Kampagne zur Menstruationsgesundheit für Frauen und Mädchen aus ethnischen Minderheiten teilgenommen hatte. Nach der Ausstrahlung haben Accounts auf verschiedenen Plattformen die Bilder des Interviews digital manipuliert, um sie zu verspotten, und generierten Videos, die Dutzende Millionen Aufrufe sammelten, auch auf den Plattformen von Meta.

Was sich ändert und welche Auswirkungen es hat

Das Board konzentrierte sich auf eines dieser Videos, das sie dabei zeigt, wie sie absurde Übungen ausführt und Junkfood isst, und bewertete es als Verstoß gegen die Regeln zu Mobbing und Belästigung. Die Meldung des Videos und der anschließende Einspruch wurden automatisch von den Systemen von Meta geschlossen, ohne dass ein Label bezüglich der synthetischen Herkunft angewendet wurde. Das Unternehmen entfernte die belästigenden Kommentare unter dem Beitrag erst nach Eingreifen des Boards.

Das Board formulierte neun Empfehlungen: sechs für den ersten Fall und drei für den zweiten. Darunter fallen das Absenken der Schwelle für die Aktivierung des Labels „High Risk AI“, das derzeit an Krisen und Wahlen geknüpft ist, sowie dessen Ergänzung oder Ersetzung durch eine Warnanzeige, die einen Klick vor der Wiedergabe erfordert. Das Board fordert außerdem, dass Algorithmen die Verbreitung von Inhalten mit hoher Risikoklassifizierung reduzieren, dass diese entmonetisiert werden, dass wiederholt verstoßende Accounts härtere Sanktionen erhalten und dass Meta jährlich Daten zur Anwendung der Labels veröffentlicht.

Weitere Empfehlungen betreffen die Prüfwarteschlange, mit Priorität für potenziell synthetische Inhalte nach Meldung, sowie die Erweiterung der Definition von „unerwünschten manipulierten Bildern“, um Deepfakes einzuschließen, die eine Privatperson dabei zeigen, Dinge zu sagen oder zu tun, die sie nicht gesagt oder getan hat. Die Entscheidungen zu einzelnen Inhalten sind für Meta bindend, das die Entfernung der beiden Videos mitgeteilt hat. Die Empfehlungen zu den Richtlinien sind es nicht: Das Unternehmen hat sechzig Tage Zeit, seine Absichten anzugeben, und in der Vergangenheit hat es nur wenige Vorschläge des Boards zur Kennzeichnung synthetischer Inhalte angenommen. Das derzeit verwendete Werkzeug ist das Banner „AI Info“.

Quelle und weiterführende Informationen zu Meta Board Deepfake Entfernung: Originalartikel.

Weitere Meldungen zu Meta Board Deepfake Entfernung finden Sie in den aktuellen Technik-News von HWReady.

* Inhalt erstellt mit Unterstützung von künstlichen Intelligenzsystemen.