Feature

Missbrauchspotential: Zwei Bilder ein Hashwert

Eine Diskussion auf Github experimentiert mit dem Hashwert von Bildern. Es geht um Apples Neural Hash im Zusammenhang mit der Missbrauchserkennung von Bildern. Wir haben hier und hier schon darüber berichtet.

Die beiden Bilder oben haben denselben Hashwert auf einem zum Test genutzten iPhone. Daher stellt sich die Frage: Können durch die CSAM-Hashes Bilder als kinderpornografisch markiert werden, die gar keine derartigen Inhalte zeigen?

Hier geht es um eine andere Frage. Kann ein Dritter durch manipulierte Bilder einem anderen Bilder beispielsweise senden, damit auf dessen iPhone die Missbrauchsprüfung „anschlägt“? Bisher ist dieses Szenario noch theoretisch und es ist auch zu diesem Zeitpunkt nicht geklärt, ob es tatsächlich so funktioniert, wie auf Github beschrieben.

Die Datenbank auf dem iPhone

Zukünftig werden die CSAM-Hashes in einer von Apple bearbeiten Version lokal auf den Nutzergeräten gespeichert. Wer nun diese Datenbank ausliest und Bilder exakt mit diesen Hashes erstellt, könnte Bilder generieren, die den Prüfalgorithmus anschlagen lassen.

Nachdem es bereits legales, pornografisches Material gibt, das ausschließlich KI-generiert ist, erscheint es denkbar, dass dies auch mit KI-Kindern erstellt wird. Hätten diese Bilder dann die Hashwerte bekannten kinderpornografischen Materials, wäre es ein leichtes, dies zu missbrauchen. Denkbar sind hier von Erpressung bis Bloßstellung diverse unschöne und strafrechtlich relevante Szenarien.

Im Raum bleibt die Frage: Wie will Apple sicherstellen, dass genau solche Missbräuche verhindert werden?

Via Github

Unsere Haltung zu Gewalt
Apfeltalk und das ganze Team verurteilt Gewalt in jeder Form und insbesondere an Kindern. Diese abscheulichen Straftaten gehören verfolgt und die Täter mit der vollen Härte des Gesetzes bestraft. In unserer Berichterstattung geht es um die Verhältnismäßigkeit der Art wie hier ermittelt werden soll.
Andreas Vogel

Autor Apfeltalk

Neueste Artikel

Western Digital und Microsoft starten Recycling-Programm für Festplatten

Western Digital und Microsoft arbeiten zusammen an einem neuen Recycling-Programm. Das Ziel: Sie wollen Seltene Erden und andere wertvolle Materialien…

22. April 2025

iPhone 17e nähert sich der Testproduktion

Apple startet bald die Testproduktion für das iPhone 17e. Das kommende Mittelklassemodell zielt auf eine Markteinführung gegen Ende Mai 2026…

22. April 2025

Earth Day: 30 Minuten trainieren und Badge bekommen

Am 22. April 2025 haben Nutzer:innen der Apple Watch die Möglichkeit, eine exklusive Auszeichnung zum Tag der Erde zu erhalten.…

22. April 2025

Apple zeigt neue „Bereinigen“-Funktion von Apple Intelligence in Werbespot

Apple hat einen neuen Werbespot veröffentlicht, in dem die Funktion „Bereinigen“ aus der Fotos-App beworben wird. Diese gehört zu den…

22. April 2025

Apple veröffentlicht dritte Beta von macOS Sequoia 15.5 für Entwickler:innen

Am 21. April hat Apple die dritte Beta-Version des kommenden macOS Sequoia 15.5 für Entwickler:innen bereitgestellt. Die neue Testversion folgt…

22. April 2025

iOS 18.5: Apple veröffentlicht dritte Beta für Entwickler:innen

Am 21. April hat Apple die dritte Beta von iOS 18.5 und iPadOS 18.5 für Entwickler:innen freigegeben. Die Veröffentlichung erfolgt…

22. April 2025

Diese Website benutzt Cookies um Ihr Nutzererlebnis zu verbessern. Wenn Sie diese Website weiter nutzen, gehen wir von Ihrem Einverständnis aus.

Mehr lesen