Apple prüft Fotos künftig auf Kinderpornographie

[SomeUser]

Moin!

Den Sachverhalt muss man im Hinblick auf den Nutzen und den Risiken (eines Ökosystems) individuell bewerten. Und wie man letztlich mit den verbundenen möglichen Risiken umgeht: Risikovermeidung, Risikoreduzierung und den weiteren Abstufungen bis hin zur vollständigen Risikoübernahme. Das sind eigenverantwortliche Entscheidungen.

Man sollte mal kritisch hinterfragen, ob ausschließlich eigenverantwortliche Entscheidungen auch immer gesamtgesellschaftlich zur besten Entwicklung führt. Das kann man durchaus in Zweifel ziehen. Und dann ist die automatisch folgende Frage: Welche Entwicklung, welche Zielsetzung hat man in Bezug auf Thema XY?

Gesellschaftliche Fragen kann man -wenn man sich besser fühlt- ja einfließen lassen, im Hinblick auf die individuelle Risikoentscheidung sind sie jedoch zweitrangig. Der berühmte Sack Reis in China spielt für die persönliche Risikoeinwertung eine stark untergeordnete Rolle. So wie der eigene Sack Reis wohl für China und für die Gesellschaft eine nur marginale Rolle spielt.

Und was hat der Sack Reis mit der Frage zu tun? Es mag sein, dass deine individuelle Entscheidung für die Gesellschaft insgesamt keine wichtige Rolle spielt - aber die Summe der Einzelentscheidungen, kann durchaus zu einer Bewegung der Gesellschaft in eine bestimmte Richtung führen.
Dazu gilt das o.g. zu beachten: Die individuell "beste" bzw. vorteilhafteste Entscheidung kann für die Gesamtheit durchaus zu einem schlechten Ergebnis führen.

Für das gute Gefühl rennen heute Abertausende in Bioläden, zahlen gerne Aufpreise für Hefeextrakte als gesunde Alternative zu Glutamat, kaufen sich Solaranlagen, Elektroautos usw.. Es hat schon ein wenig den Anschein eines modernen 'Ablasshandels'. Das gute Gefühl sei jedem gegönnt.

... und gleichzeitig schadet es wohl auch niemanden, oder? Und wenn die Summe der Individuen, durch diese Form des "Ablasshandels" insgesamt (z.B.) 25 % weniger Tiere töten muss - ist das wirklich schlecht?

Der Ruf nach (Bürger-)Rechten ist stets laut. Das Anspruchsdenken läuft heutzutage ja fast auf Vollkaskoniveau (im Sinne von 'bevor man sich die Hände schmutzig macht, klingelt man schnell die Feuerwehr an, weil ein kleiner Ast auf der Straße liegt, den man selbst auf die Seite legen könnte und empört sich dann darüber, weshalb die erst nach einer Stunde kommt oder hinterher nicht sauber macht').

Die Lust nach Eigenverantwortung ist dagegen kaum ausgeprägt. Wenn der Eigenverantwortliche jedoch für eingegangene Risiken einen höheren Nutzen oder eine höhere Rendite einfährt, dann ist der laute Ruf nach Gerechtigkeit schnell wieder da. Denn die Gesellschaft verträgt es nicht, wenn jemand für eingegangene Risiken einen Mehrertrag oder Mehrnutzen einfährt. Weil das wieder 'ungerecht ggü. der Gesellschaft sei'. Da tilgt man gerne das eingegangene höhere Risiko, die höhere Mitteleinsätze usw.. Oder man appelliert dann an den Gerechtigkeitsinn und/oder an das schlechte Gewissen.
Off-topic off

Ich habe ja weiter oben schon selbst zwei Dinge kritisiert:
1. Dass bei einigen das Denken bzw. das Verantwortungsbewusstsein an der eigenen Grenze (egal, ob nun persönliche Grenze, Landesgrenze, ...) aufhört.
2. Dass gerne die Verantwortung bei anderen gesehen bzw. bitte von anderen übernommen werden soll.
Insofern sehe ich diese Kritik als durchaus gerechtfertigt an. Allerdings musst du dann nun mal doch die Brücke schlagen, zwischen der zunächst für sich kaum entscheidenden Entscheidung des Einzelnen und der Summe der Entscheidungen durch eine Vielzahl der Menschen.

Mich würde mal interessieren, wer denn nun zukünftig mit Apple brechen wird und ob es überhaupt adäquate Alternativen gibt? Du hast ja Google und MS als Beispiele erwähnt. Aber ist das nicht ein wenig 'vom Regen in die Traufe'? Es gibt doch heute gar keine europäische Alternative mehr.

Ich habe Google und MS nicht als bessere Alternativen erwähnt, sondern als Unternehmen, die das gleiche Vorgehen an den Tag legen - insofern ist das natürlich "vom Regen in die Traufe", aber nichts anderes habe ich gesagt. Es spielt allerdings keine Rolle, ob es eine europäische Alternative ist. Ob das "Tool" nun US-amerikanische, europäische, deutsche oder spanische Wurzeln hat, ist egal - nichts davon ist per se besser, als irgendeine andere.

Das Zeug kommt fast ausschließlich aus China und Indien, die für die US-dominierte IT-Industrie zuliefern und produzieren. Die GAFA-Industrie hat heute einen Anteil von rd. 85% des weltweiten Internet-Traffics und beherrscht damit nebenbei auch die Medienlandschaften; denn sie bestimmt, was in der individuellen 'Informations-Bubble' Aufmerksamkeit bekommen darf und was nicht.

Übrigens ist auch das ein gutes Beispiel, für die notwendige Brücke: Der individuelle Nutzen von Informationsblasen ist ohne Frage gegeben: Man sieht nur noch das, was für einen interessant ist bzw. sein soll. Dem schließen sich gesellschaftliche Implikationen aber unmittelbar an: Jeder schmort nur noch in seinem eigenen Saft, hat keine anders"artigen" Einflüsse mehr, keine konträren Gedanken, Meinungen, Richtungen mehr, die einem automatisch unterkommen. Man fühlt sich, selbst mit immer radikal werdenden Meinungen im Recht, da diese ja von eigenen (Bubble-)Umfeld geteilt werden.

Es gibt zwar theoretisch (als Jurist würdest Du ggf. auf 'faktisch' bestehen) keinen Kontrahierungszwang, spielt man das jedoch gedanklich weiter, kommt man doch kaum dran vorbei (sowohl privat als auch beruflich). Denn jede Alternative würde früher oder später das gleiche 'Problem' mit sich bringen. Weil die Struktur der IT- und GAFA-Industrie doch sehr homogen, dominant und einflussreich ist. Es sei denn, man übt sich im Komplettverzicht. Damit würde man in unserer heutigen Zeit nicht weit kommen.

Ich unterscheide da auch durchaus zwischen Unternehmen, die eine marktdominierende Stellung haben und übrigen Unternehmen. In Bezug auf Apple und die Nutzung der iCloud sehe ich nur weder eine monopolistische, noch eine marktdominierende Stellung im Markt.
Durchaus ist der Hinweis natürlich korrekt: Unternehmen mit beherrschender Stellung bedürfen diesbzgl. einer anderen, kritischeren Steuerung, Möglichkeiten zum Zugang etc. pp. Bei Geschäften der lebensnotwendigen Versorgung ist das ja sogar geregelt.

 

[Janelle]

Für mich sind, in der Abwägung möglicher Auswirkungen, die (möglichen) Risiken zu groß. [...] Das Risiko, dass damit Begehrlichkeiten geweckt werden, insbesondere in, sagen wir mal, "weniger liberalen Staaten" ist mir zu hoch. Und selbst in DE gibt es genügend denkbare "Erweiterungen", die, politisch motiviert, irgendwann auf die "Ergänzungsliste" kommen könnten.

Sind dir die Risiken "nur" zu hoch, als dass du das Ganze noch moralisch mittragen könntest? Oder sogar zu hoch, um für dich selbst noch weiter iPhones zu nutzen?

Mich würde mal interessieren, wer denn nun zukünftig mit Apple brechen wird und ob es überhaupt adäquate Alternativen gibt?
[...] jede Alternative würde früher oder später das gleiche 'Problem' mit sich bringen. Weil die Struktur der IT- und GAFA-Industrie doch sehr homogen, dominant und einflussreich ist.

Zusammengenommen haben sie dann doch eine Art Monopolstellung? Das würde ja "spezielle Einschränkungen / Regeln für Unternehmen mit besonderer Marktmacht" rechtfertigen, die @SomeUser in #313 erwähnte.

 

[allans1976]

Den Sachverhalt muss man im Hinblick auf den Nutzen und den Risiken (eines Ökosystems) individuell bewerten. Und wie man letztlich mit den verbundenen möglichen Risiken umgeht: Risikovermeidung, Risikoreduzierung und den weiteren Abstufungen bis hin zur vollständigen Risikoübernahme. Das sind eigenverantwortliche Entscheidungen.

Gesellschaftliche Fragen kann man -wenn man sich besser fühlt- ja einfließen lassen, im Hinblick auf die individuelle Risikoentscheidung sind sie jedoch zweitrangig. Der berühmte Sack Reis in China spielt für die persönliche Risikoeinwertung eine stark untergeordnete Rolle. So wie der eigene Sack Reis wohl für China und für die Gesellschaft eine nur marginale Rolle spielt.

Off-topic on
Für das gute Gefühl rennen heute Abertausende in Bioläden, zahlen gerne Aufpreise für Hefeextrakte als gesunde Alternative zu Glutamat, kaufen sich Solaranlagen, Elektroautos usw.. Es hat schon ein wenig den Anschein eines modernen 'Ablasshandels'. Das gute Gefühl sei jedem gegönnt ...

... und gleichzeitig schadet es wohl auch niemanden, oder? Und wenn die Summe der Individuen, durch diese Form des "Ablasshandels" insgesamt (z.B.) 25 % weniger Tiere töten muss - ist das wirklich schlecht?

Ist es denn wirklich schlecht, wenn durch die CSAM-Technologie die Chance besteht, Missbrauchsfälle schneller aufdecken zu können?

Auf Basis meiner individuellen Risikobewertung komme ich zu der Einwertung, dass sich bei mir das Risiko nicht signifikant erhöhen wird, es aber von hohem gesellschaftlichen Nutzen sein kann, wenn es nach Europa kommen sollte, was ich persönlich höher werten würde als die Sache mit den Tieren.

Merkst was?
Dialektische Rabulistik funktioniert auf beiden Seiten. Verstehe es aber nur als kleine 'nicht bösartig gemeinte Spitze'. So weit liegen wir inhaltlich nicht entfernt, auch wenn es vielleicht den Eindruck erwecken mag.

Zusammengenommen haben sie dann doch eine Art Monopolstellung? Das würde ja "spezielle Einschränkungen / Regeln für Unternehmen mit besonderer Marktmacht" rechtfertigen, die @SomeUser in #313 erwähnte.

Diskussionen darüber finden seit einiger Zeit in den Vereinigten Staaten und Europa statt. Es gab bereits diverse Anhörungen. Deswegen vermuten ja einige eine gefällige Vorwegnahme einer Anscheinskooperation von Seiten Apples, um mögliche staatliche Durchgriffe (in den Vereinigten Staaten gibt es Gedankenspiele zur Zerschlagung großer Adressen) abzuschwächen oder zu vermeiden. Auch die Diskussionen zum App Store, der Konflikt mit Facebook respektive der Werbeindustrie, Epic usw. bezielen vergleichbare Fragestellungen zu Marktmarkt und Co..

 

[jensche]

Apples angekündigtes Maßnahmenpaket zur Bekämpfung von Kindesmissbrauch schlägt hohe Wellen: So meldeten sich unter anderem der Whistleblower Edward Snowden sowie die Electronic Frontier Foundation (EFF) in dieser Sache zu Wort und kritisierten die Absichten Cupertinos aufs Schärfste (siehe hier). Besonders viel Unverständnis erntet der Konzern für die automatisierte Analyse von Bildern, bevor diese in der iCloud-Fotomediathek gespeichert werden. Auch unternehmensintern lösen Apples Pläne durchaus Kontroversen aus: Ein neuer Bericht von Reuters verweist auf einige Mitarbeiter, die ihre Besorgnis mit anderen teilten.

Exclusive: Apple's child protection features spark concern within its own ranks -sources

A backlash over Apple's move to scan U.S. customer phones and computers for child sex abuse images has grown to include employees speaking out internally, a notable turn in a company famed for its secretive culture, as well as provoking intensified protests from leading technology policy groups.

www.reuters.com

Guter Kommentar:

Und wer sagt, dass Apple es dann dabei belässt?
Die brauchen doch dann nur noch ein Flag von "false" auf "true" umsetzen und das scanning läuft auch ohne iCloud lokal. Der Rest ist ja schon da. Ein paar kilobyte der gesendeten erkannten hashes werden dann in den Datenmengen der "Systemdienste" versteckt und niemand bekommt das mit.

Und dann kann - je nach Meinung eines mehr oder weniger totalitären Staates - der Inhalt der Hashes-Datei von Apple entspannt aus der Ferne per Systemupdate geändert werden. Heute Nacktbilder, morgen technische Anleitungen, übermorgen Regenbogen.

Ich verstehe nicht, warum Apple diesen krassen Schritt weg von "Your device, your data" macht. Und die Diskussion über das für und wieder bekommen die doch nie wieder zurückgedreht.

 

[Cohni]

Mal abgesehen davon, dass man die potentiellen Möglichkeiten des Missbrauchs dieser Technologie nicht leugnen kann, aber andererseits sich durchaus auch die Frage stellen, welche der modernen Technologien dieses Potential heutzutage nicht hat, sehe ich ein konkretes Problem aus kriminalistischer Sicht.

Welchen Nutzen hat diese Funktion tatsächlich für die Strafverfolgung?

Das führt weiter zu mehreren konkreten Fragen, wie z.B. zu jener, ob dieses Mittel geeignet ist, das Kriminalitäts-Phänomen der sexualisierten Gewalt zum Nachteil von Kindern nachhaltig und an den Wurzeln zu bekämpfen?

Daran sollte man auch die Diskussion über den Risiko/Nutzen-Faktor ausrichten. Lohnt sich das einzugehende Risiko einer Nutzung dieser Technologie durch undemokratische Strukturen im Vergleich zum zu erwartenden Effekt?

Ein klares theoretisches Ja meinerseits, wenn man denn den Erfolg einer effektiven Bekämpfung dieser Kriminalität gewährleisten und ein Höchstmaß an Schutz vor dem "unsauberen" Technologiegebrauch sicherstellen könnte.

Beides ist aber meiner Meinung nach praktisch nicht gegeben. Während ich bezüglich des Schutzes vor dem Missbrauch der Technologie wenig Ahnung habe, aber die fachlichen Stimmen durchaus kritisch und sehr laut sind, kann ich halbwegs einschätzen, dass ich wenig Nutzen für die nachhaltige Strafverfolgung sehe.

Nachhaltig heißt, dass ich vorrangig an die Quellen der Bilder herankommen muss. Natürlich muss ich auch den Nutzer und Verteiler vor den Richtertisch bekommen, aber Ziel einer durchgreifenden und nicht risikolosen Maßnahme sollte doch schon der dicke Fisch sein.

Wen bekomme ich denn durch Apples Initiative? Den letzten verblödeten Konsumenten von kinderpornografischen Inhalten, der keine Ahnung vom Darknet und anderen verdeckten Netzwerken hat. Klar, dem muss auch heftig auf seine dreckigen Hände gehauen werden, aber mit einer solchen Methode?

Die großen "Dreckfüße" bekommt man nur mit deren Mitteln der Konspiration. Die nutzen keine iPhones...

Aber einen Nutzen hat diese Geschichte für Apple. Man bekommt sein Ökosystem "sauber" und kann immer behaupten, bei uns spielt diese Art von Kriminalität keine Rolle mehr. Also mehr als einen möglichen erfolgreichen Verdrängungseffekt des letzten technikblinden Idioten sehe ich nicht.

Wie schon weiter oben geschrieben, gegen die Intention von Apple kann keiner was haben. Die Art und Weise ist sehr fraglich, die Kommunikation dazu mal wieder eine PR-Katastrophe. Als ob die da im Silikon Valley in ihrer eigenen schönen bunten Welt leben und denken, es ist überall so wie dort. Ist das Naivität oder Kalkül? Nicht das erste Mal und ein anderes Thema. Und ein bisschen verschwörungstheoretisch, muss ich zugeben.

 

[doc_holleday]

Wen bekomme ich denn durch Apples Initiative? Den letzten verblödeten Konsumenten von kinderpornografischen Inhalten, der keine Ahnung vom Darknet und anderen verdeckten Netzwerken hat. Klar, dem muss auch heftig auf seine dreckigen Hände gehauen werden, aber mit einer solchen Methode?

Genau.

Bedenken und daraus folgende Aufschreie hätten vermutlich nicht mal ein Zehntel der Intensität, wenn sich die Scans "irgendwo in der iCloud" und nicht auf dem eigenen Gerät abspielen würden.

Genau genommen empfinde ich es schon als Frechheit, dass Apple ungefragt seine Arbeitslast auf mein Endgerät auslagert. (Das wird nicht ins Gewicht fallen, aber am Ende zahle ich auch noch den Strom dafür, dass meine Bilder gescannt werden.)

 

[Cohni]

Bedenken und daraus folgende Aufschreie hätten vermutlich nicht mal ein Zehntel der Intensität, wenn sich die Scans "irgendwo in der iCloud" und nicht auf dem eigenen Gerät abspielen würden.

So, wie es eben die anderen Großen schon länger praktizieren. Habe ich zumindest gelesen. Gefährliches Halbwissen.

Und Apple hing diesbezüglich hinterher. Nun wollten sie es offenbar besonders gut machen...

 

[paul.mbp]

@jensche @Cohni

DANKE für eure Beiträge

 

[Martin Wendel]

So, wie es eben die anderen Großen schon länger praktizieren. Habe ich zumindest gelesen. Gefährliches Halbwissen.

Und Apple hing diesbezüglich hinterher. Nun wollten sie es offenbar besonders gut machen...

Ich glaube auch Apple hat (zumindest in den USA) iCloud Photos schon jetzt auf CSAM geprüft.

 

[Cohni]

Ah okay, wusste ich nicht.

 

[Martin Wendel]

Das ist ein Thema, über das die Tech-Konzerne nicht so gerne öffentlich sprechen. Insofern ist das auch ein interessanter Schritt, dass Apple da so nach vor prescht.

 

[ottomane]

Bitte entschuldigt, wenn die Frage hier schon längst diskutiert wurde. Ich habe eine ganz naive, vermutlich auch dumme Frage:

Warum werden die Bilder im iPhone nur dann gescannt, wenn iCloud Fotos angeschaltet ist?
- Apple könnte die Bilder auch in iCloud scannen. (EDIT: @Martin Wendel hat mglw. gerade oben die Antwort gegeben)
- Apple könnte die Fotos auch im iPhone scannen, wenn iCloud Foto nicht aktiviert ist.

Worin besteht der Zusammenhang Scannen -- iCloud Fotos?

 

[doc_holleday]

Insofern ist das auch ein interessanter Schritt, dass Apple da so nach vor prescht.

In der Tat. Kam mir auch schon in den Sinn. Dieser Umstand spricht tatsächlich dafür, dass wir jetzt noch nicht das ganze Bild kennen.

(gefallen müssen einem die lokalen Scans deswegen ja trotzdem nicht)

 

[Wuchtbrumme]

Bitte entschuldigt, wenn die Frage hier schon längst diskutiert wurde. Ich habe eine ganz naive, vermutlich auch dumme Frage:

Warum werden die Bilder im iPhone nur dann gescannt, wenn iCloud Fotos angeschaltet ist?
- Apple könnte die Bilder auch in iCloud scannen. (EDIT: @Martin Wendel hat mglw. gerade oben die Antwort gegeben)
- Apple könnte die Fotos auch im iPhone scannen, wenn iCloud Foto nicht aktiviert ist.

Worin besteht der Zusammenhang Scannen -- iCloud Fotos?

das ist eine Behauptung, die Apple aufgestellt hat. Hier ging es u.a. darum, dass das kein technischer Zwang sein muss, genauso gut könnte man die Technik, wenn sie eh lokal vorhanden ist, auch anders „anschalten“

 

[doc_holleday]

Worin besteht der Zusammenhang Scannen -- iCloud Fotos?

Für mein Verständnis ist das eine Entscheidung, die nicht aufgrund von technischen Limitierungen gefällt wurde. Es ist so, weil Apple das gerade so machen will (aus welchen Gründen auch immer).

 

[ottomane]

Aber es ist völlig unsinnig. Wenn ich den Schalter anschalte, landen die Fotos automatisch vor Apples Füßen und sie hätten sich das ganze Gezeter sparen können (sofern sie dort ohnehin scannen).

 

[Martin Wendel]

Aber es ist völlig unsinnig. Wenn ich den Schalter anschalte, landen die Fotos automatisch vor Apples Füßen und sie hätten sich das ganze Gezeter sparen können (sofern sie dort ohnehin scannen).

Vielleicht plant ja Apple in einem weiteren Schritt tatsächlich eine bessere Verschlüsselung in der iCloud, dann würde es schon Sinn ergeben am Gerät zu scannen. Aber das ist jetzt nur mal reine Spekulation.

 

[Wuchtbrumme]

Aber es ist völlig unsinnig. Wenn ich den Schalter anschalte, landen die Fotos automatisch vor Apples Füßen und sie hätten sich das ganze Gezeter sparen können (sofern sie dort ohnehin scannen).

Apple scannt ohnehin in der Cloud nach Duplikaten bekannter Bilder. Ich habe mglws. nicht mehr die ganze Diskussion hier mitbekommen und ich habe auch nichts dagegen, die Gefahr, die von Pädophilen ausgeht, möglichst wirksam zu bekämpfen.

Mir geht es um das Potential einer lokal arbeitenden Technik wie von Apple angedeutet und mittlerweile um die üblichen Totschlagargumente zum Gehirnausschalten wie Kinderschänder, Terroristen u.ä., derer sich mittlerweile nicht nur diktatorisch-autokratische Regierungen, sondern auch unsere und jetzt auch Apple bedient.

Das Potential der Technik ist jedenfalls ein Dammbruch, eine Büchse der Pandora, ausgerechnet von den selbsterklärten Hütern der Privacy.

 

[Janelle]

Genau genommen empfinde ich es schon als Frechheit, dass Apple ungefragt seine Arbeitslast auf mein Endgerät auslagert. (Das wird nicht ins Gewicht fallen, aber am Ende zahle ich auch noch den Strom dafür, dass meine Bilder gescannt werden.)

Danke fürs Kleingedruckte. Das hatte ich gerade fragen wollen: Wieviel Akku geht da eigentlich pro Scan drauf... ich habe ein Mini und bin daher so akkuschonend wie nur irgend möglich unterwegs. Nicht, dass es ein von Apple nicht unerwünschter Nebeneffekt ist, dass die Lebensdauer der Geräte (bzw. zumindest des Akkus) ein wenig verkürzt wird.

Aber einen Nutzen hat diese Geschichte für Apple. Man bekommt sein Ökosystem "sauber" und kann immer behaupten, bei uns spielt diese Art von Kriminalität keine Rolle mehr.

Glaube auch, dass dies ein wichtiger Beweggrund war.

Vielleicht plant ja Apple in einem weiteren Schritt tatsächlich eine bessere Verschlüsselung in der iCloud, dann würde es schon Sinn ergeben am Gerät zu scannen. Aber das ist jetzt nur mal reine Spekulation.

Dasselbe dachte ich auch schon. Erst wird das neuartige Scannen publik gemacht, aber noch rechtzeitig vor Release der 13'er iPhones versöhnt Apple vergrätzte Käufer wieder durch die Ankündigung, dass die iCloud nun doch e2e verschlüsselt wird. (Was allerdings den Verdacht befeuern würde, dass der Grund nun weggefallen ist, weshalb Apple nach Ansicht Einiger von der offenbar schon angedachten e2e-Verschlüsselung wieder Abstand genommen hat.)

 

[MichaNbg]

Das ist ein Thema, über das die Tech-Konzerne nicht so gerne öffentlich sprechen. Insofern ist das auch ein interessanter Schritt, dass Apple da so nach vor prescht.

Öhm. Nö. Die anderen gehen damit seit Jahren sehr offen um und dokumentieren das umfänglich.

Die einzigen die darum bislang ein Geheimnis gemacht haben und erst 2019/2020 bekannt gaben, dass sie das auch tun, war Apple.