11/07/2026 04:20 - Tecnologia
Laut einer Analyse von Reuters, die am 10. Juli 2026 veröffentlicht wurde, weist das neue KI-Bilderkennungstool von Meta gewisse Einschränkungen bei der Identifizierung modifizierter Bilder auf. Dieser Befund unterstreicht die Herausforderungen bei der Inhaltsverifizierung in einem Jahr mit wichtigen Wahlen. Quelle: El Destape
Die Studie evaluierte 40 Bilder, die mit dem generativen Bildmodell Muse Image erstellt wurden, das diese Woche vom Unternehmen vorgestellt wurde. Obwohl das Tool 100 % der Originalbilder korrekt verifizierte, konnte es 55 % dieser Bilder nicht identifizieren, nachdem sie auf ein Drittel bis die Hälfte ihrer ursprünglichen Größe zugeschnitten worden waren.
Meta erklärte, dass sein vorläufiges Tool die eigenen Bilder durch ein unsichtbares Wasserzeichen namens Content Seal identifiziert, das in jedes generierte Bild integriert wird. Das Unternehmen räumte jedoch ein, dass dieses Signal verloren gehen kann, wenn ein Bild zu stark zugeschnitten wird.
Der Fortschritt der künstlichen Intelligenz bringt die Notwendigkeit mit sich, die Werkzeuge zur Identifizierung von Deepfakes zu verbessern. Unternehmen wie Google und OpenAI haben ebenfalls darauf hingewiesen, dass ihre Erkennungssysteme im Umgang mit Bildmanipulationstechniken noch nicht unfehlbar sind, was eine branchenweite Anstrengung zeigt.
In diesem Zusammenhang erklärte Siwei Lyu, Professor für Informatik an der State University of New York at Buffalo und Forscher für die forensische Bildanalyse mit KI, dass wasserzeichenbasierte Methoden sehr effektiv sein können, solange das Signal intakt bleibt. Modifikationen wie Zuschneiden oder starke Komprimierung könnten jedoch vorübergehend ihre Wirksamkeit beeinträchtigen.
Im März 2026 hatte der Aufsichtsrat von Meta das Unternehmen bereits dazu aufgerufen, seine Bemühungen gegen die Verbreitung irreführender Inhalte zu verdoppeln. Diese Art von Analyse ist entscheidend, damit Plattformen ihre Technologien weiter verbessern und anpassen können, um in Zukunft eine sicherere, transparentere und verlässlichere digitale Umgebung für alle Nutzer zu gewährleisten.
Alfredo S. Quiroga
