Feature

Missbrauchspotential: Zwei Bilder ein Hashwert

Eine Diskussion auf Github experimentiert mit dem Hashwert von Bildern. Es geht um Apples Neural Hash im Zusammenhang mit der Missbrauchserkennung von Bildern. Wir haben hier und hier schon darüber berichtet.

Die beiden Bilder oben haben denselben Hashwert auf einem zum Test genutzten iPhone. Daher stellt sich die Frage: Können durch die CSAM-Hashes Bilder als kinderpornografisch markiert werden, die gar keine derartigen Inhalte zeigen?

Hier geht es um eine andere Frage. Kann ein Dritter durch manipulierte Bilder einem anderen Bilder beispielsweise senden, damit auf dessen iPhone die Missbrauchsprüfung „anschlägt“? Bisher ist dieses Szenario noch theoretisch und es ist auch zu diesem Zeitpunkt nicht geklärt, ob es tatsächlich so funktioniert, wie auf Github beschrieben.

Die Datenbank auf dem iPhone

Zukünftig werden die CSAM-Hashes in einer von Apple bearbeiten Version lokal auf den Nutzergeräten gespeichert. Wer nun diese Datenbank ausliest und Bilder exakt mit diesen Hashes erstellt, könnte Bilder generieren, die den Prüfalgorithmus anschlagen lassen.

Nachdem es bereits legales, pornografisches Material gibt, das ausschließlich KI-generiert ist, erscheint es denkbar, dass dies auch mit KI-Kindern erstellt wird. Hätten diese Bilder dann die Hashwerte bekannten kinderpornografischen Materials, wäre es ein leichtes, dies zu missbrauchen. Denkbar sind hier von Erpressung bis Bloßstellung diverse unschöne und strafrechtlich relevante Szenarien.

Im Raum bleibt die Frage: Wie will Apple sicherstellen, dass genau solche Missbräuche verhindert werden?

Via Github

Unsere Haltung zu Gewalt
Apfeltalk und das ganze Team verurteilt Gewalt in jeder Form und insbesondere an Kindern. Diese abscheulichen Straftaten gehören verfolgt und die Täter mit der vollen Härte des Gesetzes bestraft. In unserer Berichterstattung geht es um die Verhältnismäßigkeit der Art wie hier ermittelt werden soll.
Andreas Vogel

Autor Apfeltalk

Neueste Artikel

watchOS 11.4 offiziell veröffentlicht – das ist neu für die Apple Watch

Apple hat watchOS 11.4 nun offiziell für alle Nutzer:innen der Apple Watch freigegeben. Das Update bringt zwar keine großen Systemänderungen,…

1. April 2025

Google Nest Protect wird eingestellt: Smarter Rauchmelder ist nur noch begrenzt verfügbar

Google hat offiziell angekündigt, die Produktion seines smarten Rauchmelders Nest Protect einzustellen. (mehr …)

1. April 2025

Apple zieht watchOS 11.4 überraschend zurück

Apple hat seine neueste Version von watchOS, Version 11.4, nur wenige Stunden nach Veröffentlichung ohne Angabe von Gründen wieder zurückgezogen.…

31. März 2025

visionOS 2.4 bringt Apple Intelligence und neue immersive Inhalte auf die Apple Vision Pro

Apple hat heute visionOS 2.4 veröffentlicht – ein umfassendes Update für die Apple Vision Pro, das erstmals Apple Intelligence Funktionen,…

31. März 2025

iOS 18.4, iPadOS 18.4, macOS Sequoia 15.4 und watchOS 11.4: Apple bringt KI, neue Funktionen und Systemoptimierungen

Apple hat mit der Veröffentlichung von iOS 18.4, iPadOS 18.4, macOS Sequoia 15.4 und watchOS 11.4 ein umfangreiches Softwarepaket ausgeliefert.…

31. März 2025

Apple erhält ungewöhnliche Geldstrafe von 162 Millionen Dollar wegen App-Tracking-Transparenz

Apple wurde von der französischen Wettbewerbsbehörde wegen seiner App-Tracking-Transparenz (ATT) zu einer Geldstrafe von 162 Millionen Dollar verurteilt. (mehr …)

31. März 2025

Diese Website benutzt Cookies um Ihr Nutzererlebnis zu verbessern. Wenn Sie diese Website weiter nutzen, gehen wir von Ihrem Einverständnis aus.

Mehr lesen