Am Dienstag kündigte Meta seinen Plan an, mit der Kennzeichnung von KI-generierten Bildern anderer Unternehmen wie OpenAI und Google zu beginnen. Der Schritt zielt darauf ab, die Transparenz auf Plattformen wie zu erhöhen Facebook, Instagram und Threads, indem Benutzer darüber informiert werden, dass es sich bei den von ihnen angezeigten Inhalten um synthetisierte digitale Medien und nicht um authentische Fotos oder Videos handelt.
Die Lösung von Meta ist Teil einer umfassenderen Anstrengung der Technologiebranche, Standards für die Kennzeichnung von Inhalten festzulegen, die mit generativen KI-Modellen erstellt wurden, die in der Lage sind, auf der Grundlage schriftlicher Eingabeaufforderungen gefälschte, aber realistische Audio-, Bild- und Videodaten zu erstellen.
Nick Clegg, Präsident für globale Angelegenheiten bei Meta, gab dies in einem Blogbeitrag auf der Website von Meta bekannt. „Wir werden diesen Ansatz im nächsten Jahr weiter verfolgen, wenn weltweit eine Reihe wichtiger Wahlen stattfinden werden“, schrieb Clegg. „Wir hoffen, in dieser Zeit viel mehr darüber zu erfahren, wie Menschen Inhalte mit künstlicher Intelligenz erstellen und teilen, welche Transparenz Menschen am meisten schätzen und wie sich diese Technologien weiterentwickeln.“
Clegg wies darauf hin, dass Metas KI-generierte Content-Tagging-Initiative die bestehende Praxis des Markierens von Inhalten, die mit seinen eigenen KI-Tools erstellt wurden, um Bilder erweitern wird, die mit den Diensten anderer Unternehmen erstellt wurden.
„Wir entwickeln branchenführende Tools, die unsichtbare Markierungen in großem Maßstab identifizieren können – insbesondere die ‚KI-generierten‘ Informationen in den technischen Standards C2PA und IPTC –, damit wir Bilder von Google, OpenAI, Microsoft, Adobe, Midjourney und Shutterstock bei der Umsetzung ihrer Pläne, Metadaten zu Bildern hinzuzufügen, die mit ihren Tools erstellt wurden.“
Meta sagt, dass die KI-generierte Technologie zur Inhaltskennzeichnung auf unsichtbaren Wasserzeichen und in Dateien eingebetteten Metadaten basieren wird. Meta fügt Bildern, die mit seinem öffentlichen KI-Bildgenerator erstellt wurden, ein kleines „Imagined with AI“-Wasserzeichen hinzu.
In dem Beitrag äußerte Clegg sein Vertrauen in die Fähigkeit der Unternehmen, KI-generierte Bilder zuverlässig zu kennzeichnen, stellte jedoch fest, dass sich Tools zur Kennzeichnung von Audio- und Videoinhalten noch in der Entwicklung befinden. In der Zwischenzeit verlangt Meta von den Nutzern, geänderte Audio- und Videoinhalte mit Tags zu versehen, was bei Nichtbeachtung mit unbestimmten Geldstrafen einhergeht.
„Wir werden von den Menschen verlangen, dieses Offenlegungs- und Kennzeichnungstool zu verwenden, wenn sie organische Inhalte mit fotorealistischen Videos oder realistischem Ton veröffentlichen, die digital erstellt oder verändert wurden, und wir können Strafen verhängen, wenn sie dies nicht tun“, schrieb er.
Clegg stellte jedoch fest, dass es derzeit keine wirksame Möglichkeit gibt, KI-generierten Text zu kennzeichnen, was darauf hindeutet, dass es zu spät ist, solche Maßnahmen für schriftliche Inhalte umzusetzen. Dies steht im Einklang mit unseren Berichten, dass die KI-Textdetektoren nicht funktionieren.
Die Ankündigung erfolgte einen Tag, nachdem das unabhängige Aufsichtsgremium von Meta die Richtlinien des Unternehmens zu irreführend veränderten Videos als zu eng kritisiert und empfohlen hatte, solche Inhalte zu kennzeichnen, anstatt sie zu entfernen. Clegg stimmte der Kritik zu und räumte ein, dass die bestehenden Meta-Richtlinien nicht ausreichen, um das wachsende Volumen synthetischer und hybrider Inhalte im Internet zu bewältigen. Er betrachtet die neue Kennzeichnungsinitiative als einen Schritt zur Umsetzung der Empfehlungen der Aufsichtsbehörde und als Anstoß für branchenweite Impulse für ähnliche Maßnahmen.
Meta erkennt an, dass KI-generierte Inhalte, die ohne Wasserzeichen oder Metadaten erstellt wurden, wie beispielsweise Bilder, die mit einigen Open-Source-KI-Bildsynthesetools erstellt wurden, nicht erkannt werden können. Meta erforscht eine Bildwasserzeichentechnologie namens Stable Signature, die hoffentlich in Open-Source-Bildgeneratoren integriert werden kann. Aber solange Pixel Pixel sind, können sie auf eine Weise erstellt werden, die nicht von der Technologieindustrie kontrolliert wird, und dies bleibt eine Herausforderung für die Erkennung von KI-Inhalten, da Open-Source-KI-Tools immer ausgefeilter und realistischer werden.
Lesen Sie auch: