Apple prüft Fotos künftig auf Kinderpornographie

[Martin Wendel]

Weiß man denn, welches Design-Merkmal das sein soll, dass es grundsätzlich unmöglich macht die Bilder zu scannen, wenn iCloud-Fotos nicht aktiviert ist?

Apple’s CSAM detection is a hybrid on-device/server pipeline. While the first phase of the NeuralHash matching process runs on device, its output – a set of safety vouchers – can only be interpreted by the second phase running on Apple's iCloud Photos servers, and only if a given account exceeds the threshold of matches. The local device does not know which images, if any, positively matched the encrypted CSAM database.

https://www.apple.com/child-safety/pdf/Security_Threat_Model_Review_of_Apple_Child_Safety_Features.pdf

Will jetzt niemandem zu nahe treten. Aber viele der Fragen, die hier durch den Thread geistern, lassen sich in diesem Dokument beantworten…

 

[Mitglied 246615]

Die Kritik an der vorgestellten Technologie ist nicht, dass sich Apple zur Stasti aufschwingt.

Stimmt! Was Apple macht ist noch schlimmer. Die Stasi hat die Privatsphäre nur bei Verdacht überwacht. Aber nur, weil der Stasi diese Technik noch nicht zur Verfügung stand.

Hier gilt das gleiche. Apple greift keine Moralvorstellungen an. Apple implementiert eine Technik, welche die gesellschaftlichen Werte der "westlichen Hemisphäre" aushebeln kann.

Ich gehe noch einen Schritt weiter:
Apple mißbraucht die Moral, um gesellschaftlichen Werte auszuhebeln.

Mit Verlaub, das ist ein ausgesprochener Blödsinn.

Das ist kein ausgesprochener Blödsinn! Vielmehr ist es ziemlich vermessen, ein gerechtigtes Argument so einfach abzutun.

Staatliche Organe dürfen nur unter bestimmten Voraussetzungen die Privatsphäre durchsuchen. Privatleute, die sich das Recht vertraglich einholen wollten, sind regelmässig vor Gericht damit gescheitert.

Apple versucht es jetzt auch auf vertraglicher Basis und es ist aus der Erfahung in der Vergangenheit schon vorgekommen, dass Geheimdienste Privatfirmen dazu mißbraucht haben, an Informationen zu kommen, die sie innerhalb der ihnen zugestandenen Mittel nicht bekommen würden.

Keiner zwingt Sie, das Apple Angebot iCloud zu nutzen.

Das stimmt, aber dann habe ich nicht nur die Durchsuchung vermieden, sondern mir steht auch gleich eine ganze Reihe weiterer Vorteile nicht mehr zur Verfügung. Soetwas haben Gerichte auch schon reihenweise kassiert.

 

[allans1976]

Diese Aussage ist mindestens irreführend, wenn nicht gar einfach nur Quatsch ohne den erneuten Einschub, dass das aktuell nur gilt, wenn man iCloud-Fotos nicht nutzt.

Wenn man nur den letzten Satz liest vielleicht ja. Zum Design-Merkmal hat Dir @Martin Wendel einen Link spendiert.

Ich gehe noch einen Schritt weiter:
Apple mißbraucht die Moral, um gesellschaftlichen Werte auszuhebeln.

Nein.

Mit Verlaub, das ist ein ausgesprochener Blödsinn. Keiner zwingt Sie, das Apple Angebot iCloud zu nutzen. Es besteht, wie wir bereits im vorangegangenen Diskussionsverlauf feststellen durften, absolut kein Kontrahierungszwang. Wie Sie daraus einen Angriff ableiten, vermag ich nicht nachzuvollziehen.

.. Apple mißbraucht die Moral, um gesellschaftlichen Werte auszuhebeln. Das ist kein ausgesprochener Blödsinn! ..

Doch – ein spektakulärer sogar.

Apple versucht es jetzt auch auf vertraglicher Basis ..

Apple versucht es nicht, sondern macht das im Rahmen seiner juristischen Möglichkeiten. Und nachdem kein Kontrahierungszwang besteht, kannst du es jederzeit ablehnen.

Das stimmt, aber dann habe ich nicht nur die Durchsuchung vermieden, sondern mir steht auch gleich eine ganze Reihe weiterer Vorteile nicht mehr zur Verfügung. Soetwas haben Gerichte auch schon reihenweise kassiert.

Alles hat seinen Preis, alles hat seine Opportunitätkosten, alles hat seine Konsequenz. Und das Recht, dagegen bis zur letzten Instanz zu klagen, hast du ja. Du musst es nur anstoßen, mit allen Konsequenzen und Verfahrensrisiken. Vielleicht bestehen aber auch Chancen, das Verfahren für dich und andere zu entscheiden.

Schau, du kannst nackt in das Meer springen und der Preis dafür kann sein, dass dich eine Feuerqualle an der falschen Stelle touchiert. Und der Bürgermeister der Hafenstadt kann nichts dafür. Du kannst dich anstelle der Straßenbahn für den Bus entscheiden, und der hat dann eine Panne. Der Nahverkehrsbetrieb kann nichts dafür. Du kannst dir eine Pizza mit Oliven bestellen und da ist leider ein Kern drin, so dass du zum Zahnarzt musst, weil du du dir deinen Backenzahn zerschmettert hast. Das Restaurant kann nichts dafür.

Das Schöne ist: Du hast eine absolute Wahlfreiheit, solange du dich als Individuum im definierten Ordnungsrahmen bewegst. Wie auch das Unternehmen Apple. Jedoch hat alles seinen Preis. Du magst CSAM in iCloud Fotos nicht? Gut, du kannst es ohne Probleme ablehnen und dich ausdrücklich dagegen entscheiden. Apple zwingt Dir rein gar nichts auf. Dafür kommst du nicht mehr in den Genuss der Vorteile, die ansonsten damit verbunden sind. Entscheidung – Preis bzw. Konsequenz. Dann musst du dir halt einen andere Lösung suchen.

Als Anhänger des 'Mehr Mut zur Eigenverantwortung' bin ich der Meinung, dass in diesem Land die Eigenverantwortung viel zu kurz kommt. Meiner Meinung nach sollten die Bürger viel mehr selbst entscheiden, aber auch -wenn es schief läuft- nicht immer nach den Anderen oder den Staat rufen, sondern die Verantwortung 100%ig dafür selbst übernehmen.

Deswegen verstehe ich die ganze Aufregung und das Mimimi nicht. Entscheidet Euch und tragt die Opportunitätskosten mit erhobenen Hauptes. Ganz im Sinne von 'Accept it, change it or leave it.'

 

[AndiEh]

Es ist mühsam zu diskutieren, wenn faktisch falsche Behauptungen, trotz entsprechender Hinweise, wiederholt werden.

Wenn ich irgendetwas überlesen haben sollte, dann bitte ich um Entschuldigung. Hast du mal einen Link, der deine Aussage stützt, dass keine Kinderaccounts nach Nacktbildern gescannt werden soll und dies den Eltern mitgeteilt werden soll? Wäre ja super, wenn ich da etwas falsches gelesen haben sollte.

Hier ein Zitat plus Link:
" Die Nachrichten-App auf dem iPhone, iPad und Mac wird eine neue Kommunikations-Sicherheitsfunktion erhalten, die Kinder und ihre Eltern warnt, wenn sie eindeutige Fotos mit sexuellen Darstellungen erhalten oder versenden. "
Apple kündigt neue Schutzmaßnahmen für die Sicherheit von Kindern an

Gruß
Andi

 

[Martin Wendel]

Hast du mal einen Link, der deine Aussage stützt, dass keine Kinderaccounts nach Nacktbildern gescannt werden soll und dies den Eltern mitgeteilt werden soll?

Hast du mal einen Link mit dieser Aussage von mir oder legst du mir einfach so beliebige Worte in den Mund?

 

[AndiEh]

Hast du mal einen Link mit dieser Aussage von mir oder legst du mir einfach so beliebige Worte in den Mund?

Aber klar doch: https://www.apfeltalk.de/community/...ig-auf-kinderpornographie.562367/post-5628833

Du hast mich zitiert mit dem Text:
" Aber da sie ja noch ein Zusatzprogramm laufen haben, dass Messenger Photos bei Familien Accounts scannt, ist diese Scanning Funktion wohl sehr weit gefasst."

Worauf du geschrieben hast:
"Es ist mühsam zu diskutieren, wenn faktisch falsche Behauptungen, trotz entsprechender Hinweise, wiederholt werden."

Das habe ich so interpretiert, dass du mir sagen willst, dass es die Software, die ich gemeint habe, gar nicht gibt.
Dem bin ich nur entgegengetreten.

Ich hätte übrigens auf die FAQ von Apple zitieren können, da beschreiben sie die Funktion. OK, sie stellen da, das beides getrennte Funktionen/Programme sind

Zitat:
"What are the differences between communication safety in
Messages and CSAM detection in iCloud Photos?

These two features are not the same and do not use the same technology. "

Dann hat man eben zwei Schnüffelprogramme auf seinem iPhone, die bei Bedarf aktiviert werden. Das macht es nicht besser.

Gruß
Andi

 

[allans1976]

@AndiEh

Ich meine das wirklich nicht böse.

Schau, es wäre doch mal ein interessanter Ansatz, wenn Du Dir die Apple FAQ ihn Ruhe genau und vollständig durchlesen würdest. Dann als Ergänzung das, was @Martin Wendel zuletzt verlinkt hat. Und dann lasse es doch mal entspannt sacken und versuche, die Kinderschutzfunktion von iMessage, welche die Eltern zunächst aktiv aktivieren müssen und welche in Abhängigkeit vom Alter auch unterschiedlich funktioniert, und die CSAM Detection voneinander inhaltlich abzugrenzen.

Steht doch alles in den Dokumentationen. Beispiel 'sollte ich irgendetwas überlesen haben' – schauste hier:

Who can use communication safety in Messages?
Communication safety in Messages is only available for accounts set up as families in iCloud. Parent/guardian accounts must opt in to turn on the feature for their family group. Parental notifications can only be enabled by parents/guardians for child accounts age 12 or younger.

Quelle: https://www.apple.com/child-safety/...s_for_Children_Frequently_Asked_Questions.pdf

Da steht doch eindeutig und klar (übersetzt):
Nur für Nutzer der 'Familienfreigabe' verfügbar. Eltern- / Betreuer- (respektive Vormundschafts-)konten müssen die Funktion aktivieren. Es ist also eine Option, welche diese aktiv ziehen können (könnte auch 'buchen' sagen). Aber nicht müssen.

Schau, seit Tagen wird mal der Link und mal der Vorwurf gepostet. Gut, kannste (und andere) machen. Ich habe jedoch den Eindruck, dass sich kaum bis Null Mühen gemacht werden, sich die Sache mal genauer durchzulesen bzw. die Details zu erkunden. Hauptsache, irgendetwas gesagt, was in das eigene Weltbild passt. Würde manch einer mal genauer lesen, was da in den Dokumentationen konkret steht, dann würde er die Unterschiede zwischen den zwei Technologien und den Rahmenbedingungen klarer erkennen.

Und genau das ist meine Manöverkritik. Diskutieren gerne. Wenn man jedoch den Eindruck hat, dass die gegenläufige Meinung gar nicht auf einen ähnlichen Informationsstand ist, wird es sehr schwierig, Argumente auszutauschen. Wenn das Ganze gleichzeitig noch mit spekulativen Zukunftsannahmen oder 'Stammtischparolen' garniert wird.

 

[Martin Wendel]

These two features are not the same and do not use the same technology.

Ah, na schau. Selbst draufgekommen.

 

[Butterfinger]

Das Thema wird irgendwie immer unübersichtlicher...

"Große Gefahr": CSAM-Scanning auf iPhones stößt auf Kritik aus dem Bundestag

Der Vorsitzende des Ausschusses Digitale Agenda hat Apple aufgerufen, die geplante Scan-Funktion einzustampfen. Sie untergrabe vertrauliche Kommunikation.

www.heise.de

Apple's Plan to "Think Different" About Encryption Opens a Backdoor to Your Private Life

Apple has announced impending changes to its operating systems that include new “protections for children” features in iCloud and iMessage. If you’ve spent any time following the Crypto Wars, you know what this means: Apple is planning to build a backdoor into its data storage system and its...

www.eff.org

 

[FuAn]

Das Thema wird irgendwie immer unübersichtlicher...

"Große Gefahr": CSAM-Scanning auf iPhones stößt auf Kritik aus dem Bundestag

Der Vorsitzende des Ausschusses Digitale Agenda hat Apple aufgerufen, die geplante Scan-Funktion einzustampfen. Sie untergrabe vertrauliche Kommunikation.

www.heise.de

Apple's Plan to "Think Different" About Encryption Opens a Backdoor to Your Private Life

Apple has announced impending changes to its operating systems that include new “protections for children” features in iCloud and iMessage. If you’ve spent any time following the Crypto Wars, you know what this means: Apple is planning to build a backdoor into its data storage system and its...

www.eff.org

Aber wenn Apple sagt sie werden das nie tun, dann werden sie es auch nie tun…
Apple hatte auch noch nie irgendwelche exploits oder ist gegenüber authoritaere Regime auch noch nie eingeknickt…
Wenn Apple sagt, den anderen darf man nicht trauen, aber traut uns, dass wir schon das auf deinem Gerät tun, was wir dir erzählen, dann muss man schon apple vertrauen. So wie auch niemals Siri Befehle von 3. mitgehört wurden…. Uuupsss

 

[allans1976]

Man könnte glatt meinen, es seien Wahlen.

Und was CSAM mit Kommunikation zu tun haben soll, sollte der Bundestagsabgeordnete nochmal ausführlicher darlegen.

Und falls ihm das gelingen sollte, ich bin hier lediglich vorsichtig optimistisch, kann er den nachfolgenden Sachverhalt gerne noch mit einfließen lassen – der Vollständigkeit halber:

Parlament billigt Regelung zur Bekämpfung des sexuellen Missbrauchs von Kindern im Internet | Themen | Europäisches Parlament

Mit den Regelungen können Anbieter von Online-Diensten weiterhin freiwillig Material über sexuellen Missbrauch von Kindern im Internet erkennen, entfernen und melden.

www.europarl.europa.eu

Ich habe Verständnis dafür, dass es für einen Bundestagsabgeordneten aus Mainz-Bingen derzeit schwierig ist, angesichts der aktuellen medialen Schwerpunktthemen so kurz vor der Bundestagswahl Aufmerksamkeitspunkte zu erringen.

 

[ottomane]

Interessantes Detail am Rande: Man hat möglicherweise eine Hashkollision bzw. einen Preimage-Attack gefunden. Dabei sucht (oder generiert) man ein Bild, das den selben Hash erzeugt wie ein CP-Bild.

Working Collision? · Issue #1 · AsuharietYgvar/AppleNeuralHash2ONNX

Can you verify that these two images collide? Here's what I see from following your directions: $ python3 nnhash.py NeuralHash/model.onnx neuralhash_128x96_seed1.dat beagle360.png 59a34eabe31910abf...

github.com

Falls man irgendwie an die HashDB kommt, kann man über den Angriff jemandem harmlose Bilder unterjubeln, die dann als CP klassifiziert werden.

 

[MichaNbg]

Kryptografische Verfahren, bei denen man bewusst Kollisionen verursachen kann, müssen instant als broken betrachtet werden. Sofern sich der Bericht bestätigen lässt.

Man könnte glatt meinen, es seien Wahlen.

Und was CSAM mit Kommunikation zu tun haben soll, sollte der Bundestagsabgeordnete nochmal ausführlicher darlegen.

Und falls ihm das gelingen sollte, ich bin hier lediglich vorsichtig optimistisch, kann er den nachfolgenden Sachverhalt gerne noch mit einfließen lassen – der Vollständigkeit halber:

Parlament billigt Regelung zur Bekämpfung des sexuellen Missbrauchs von Kindern im Internet | Themen | Europäisches Parlament

Mit den Regelungen können Anbieter von Online-Diensten weiterhin freiwillig Material über sexuellen Missbrauch von Kindern im Internet erkennen, entfernen und melden.

www.europarl.europa.eu

Ich habe Verständnis dafür, dass es für einen Bundestagsabgeordneten aus Mainz-Bingen derzeit schwierig ist, angesichts der aktuellen medialen Schwerpunktthemen so kurz vor der Bundestagswahl Aufmerksamkeitspunkte zu erringen.

Also wie oft hat man jetzt versucht zu erklären, dass es nicht nur um den Abgleich gegen CSAM geht sondern darum, dass jetzt Technologie implementiert und ausgerollt wird, welche Daten direkt auf dem Endgerät scannen, klassifizieren und ggf. melden kann? Was mit Bildern funktioniert, funktioniert auch mit Dokumenten. Nachrichten. Jedem beliebigen anderen Datum.

 

[allans1976]

Vermutlich genauso oft, wie man jetzt versucht hat zu erklären, dass Phantasien, Zukunfts- und Verschwörungsängste nichts mit gegenwärtigen Fakten zu tun haben, @MichaNbg.

 

[nierensieb]

Falls man irgendwie an die HashDB kommt, kann man über den Angriff jemandem harmlose Bilder unterjubeln, die dann als CP klassifiziert werden.

Aber, aber, aber... wer nichts zu verbergen hat, hat doch nichts zu befürchten??!

Vermutlich genauso oft, wie man jetzt versucht hat zu erklären, dass Phantasien, Zukunfts- und Verschwörungsängste nichts mit gegenwärtigen Fakten zu tun haben, @MichaNbg.

Völlig ohne Ironie hätte ich auch gern dieses Vertrauen, dass in Zukunft alles gut ist/wird/bleibt wie du offensichtlich.

 

[FuAn]

Vermutlich genauso oft, wie man jetzt versucht hat zu erklären, dass Phantasien, Zukunfts- und Verschwörungsängste nichts mit gegenwärtigen Fakten zu tun haben, @MichaNbg.

Nur ist halt Apple auch kein unbeschriebenes Blatt…

 

[MichaNbg]

Vermutlich genauso oft, wie man jetzt versucht hat zu erklären, dass Phantasien, Zukunfts- und Verschwörungsängste nichts mit gegenwärtigen Fakten zu tun haben, @MichaNbg.

Mehr als Diskreditierung und den Versuch, alles ins Absurde "Verschwörungsängste" abzutun, kam nicht und wird also auch nicht kommen.

Debatte auf technischer Ebene bezüglich der potentiellen Gefahren nicht möglich. /plonk

 

[allans1976]

Völlig ohne Ironie hätte ich auch gern dieses Vertrauen, dass in Zukunft alles gut ist/wird/bleibt wie du offensichtlich

Im Grunde genommen erleben sowohl die Pessimisten als auch die Optimisten im Leben die gleiche Scheiße. Die Optimisten leben dabei nur etwas entspannter.

 

[AndiEh]

Hier mal ein interessanter Kommentar zur Privatisierung der Strafverfolgung. Big Brother ist bald Privatmann

Gruß
Andi

 

[FuAn]

Im Grunde genommen erleben sowohl die Pessimisten als auch die Optimisten im Leben die gleiche Scheiße. Die Optimisten leben dabei nur etwas entspannter.

Oder naiver, könnte man auch so sagen… aber fällt uns wirklich nix besseres mehr ein?