Eine Diskussion auf Github experimentiert mit dem Hashwert von Bildern. Es geht um Apples Neural Hash im Zusammenhang mit der Missbrauchserkennung von Bildern. Wir haben hier und hier schon darüber berichtet.
Die beiden Bilder oben haben denselben Hashwert auf einem zum Test genutzten iPhone. Daher stellt sich die Frage: Können durch die CSAM-Hashes Bilder als kinderpornografisch markiert werden, die gar keine derartigen Inhalte zeigen?
Hier geht es um eine andere Frage. Kann ein Dritter durch manipulierte Bilder einem anderen Bilder beispielsweise senden, damit auf dessen iPhone die Missbrauchsprüfung „anschlägt“? Bisher ist dieses Szenario noch theoretisch und es ist auch zu diesem Zeitpunkt nicht geklärt, ob es tatsächlich so funktioniert, wie auf Github beschrieben.
Zukünftig werden die CSAM-Hashes in einer von Apple bearbeiten Version lokal auf den Nutzergeräten gespeichert. Wer nun diese Datenbank ausliest und Bilder exakt mit diesen Hashes erstellt, könnte Bilder generieren, die den Prüfalgorithmus anschlagen lassen.
Nachdem es bereits legales, pornografisches Material gibt, das ausschließlich KI-generiert ist, erscheint es denkbar, dass dies auch mit KI-Kindern erstellt wird. Hätten diese Bilder dann die Hashwerte bekannten kinderpornografischen Materials, wäre es ein leichtes, dies zu missbrauchen. Denkbar sind hier von Erpressung bis Bloßstellung diverse unschöne und strafrechtlich relevante Szenarien.
Im Raum bleibt die Frage: Wie will Apple sicherstellen, dass genau solche Missbräuche verhindert werden?
Via Github
Apple hat watchOS 11.4 nun offiziell für alle Nutzer:innen der Apple Watch freigegeben. Das Update bringt zwar keine großen Systemänderungen,…
Google hat offiziell angekündigt, die Produktion seines smarten Rauchmelders Nest Protect einzustellen. (mehr …)
Apple hat seine neueste Version von watchOS, Version 11.4, nur wenige Stunden nach Veröffentlichung ohne Angabe von Gründen wieder zurückgezogen.…
Apple hat heute visionOS 2.4 veröffentlicht – ein umfassendes Update für die Apple Vision Pro, das erstmals Apple Intelligence Funktionen,…
Apple hat mit der Veröffentlichung von iOS 18.4, iPadOS 18.4, macOS Sequoia 15.4 und watchOS 11.4 ein umfangreiches Softwarepaket ausgeliefert.…
Apple wurde von der französischen Wettbewerbsbehörde wegen seiner App-Tracking-Transparenz (ATT) zu einer Geldstrafe von 162 Millionen Dollar verurteilt. (mehr …)
Diese Website benutzt Cookies um Ihr Nutzererlebnis zu verbessern. Wenn Sie diese Website weiter nutzen, gehen wir von Ihrem Einverständnis aus.
Mehr lesen