Apple prüft Fotos künftig auf Kinderpornographie

[Martin Wendel]

Ein paar versuchen euch drei seit Tagen zu erklären, wo die Unterschiede zwischen den Verfahren liegen und weshalb das potentiell gefährlich ist, wie die Technik missbraucht werden kann.

Du brauchst keine Unterschiede der Verfahren zu erklären, sie sind mir mehr als bewusst. Und dass diese ein Missbrauchspotential haben, steht denke ich auch nicht zur Debatte.

 

[allans1976]

Du brauchst keine Unterschiede der Verfahren zu erklären, sie sind mir mehr als bewusst. Und dass diese ein Missbrauchspotential haben, steht denke ich auch nicht zur Debatte.

Es geht vielmehr darum, dass einige so tun, als wäre dieses Potenzial schon ein gesicherter Fakt. Dem ist jedoch nicht so.

Welche prophezeiten Weltuntergänge wir schon alle erlebt und überlebt haben. Da schaute man aus dem Fenster, es liefen noch immer Menschen auf den Gehsteigen, die Autos fuhren wie gewohnt und die Erde drehte sich seltsamerweise wie immer. Dann hieß es, der Weltuntergang bleibt aus, auf ein Neues.

 

[AndiEh]

Es geht vielmehr darum, dass einige so tun, als wäre dieses Potenzial schon ein gesicherter Fakt. Dem ist jedoch nicht so.

Es ist Fakt. Es gibt auch in den USA genug Gesetze, welche den Geheimdiensten ermöglicht, vorhandene Techniken ausnutzen zu dürfen. (Patriot Act). In der EU wird daran gearbeitet die Verchlüsselung der Messenger per Gesetz auszuhebeln.

Bis jetzt konnte sich Apple immer noch darauf zurückziehen, dass sie technisch nicht in der Lage sind, ein iPhone auszuschnüffeln.
Das fällt mit der in das Betriebssystem eingebundenen Schnüffelsoftware jetzt weg.

Bis jetzt lief auf ihren Servern ein Programm, dass die Bilder nach dem hochladen gescannt hat. Jetzt läuft die Software betriebssystemintern auf dem iPhone. Da sie die "Nacktbildererkennunng" auch anderen anbieten wollen, ist klar, dass die Schnüffelsoftware nicht nur auf den eigenen iMessenger oder die Bilder beschränkt ist, sondern systemweit funktioniert.

Ergo: nein, es könnte nicht so kommen, es kommt so.

Gruß
Andi

 

[allans1976]

Wenn doch alles schon Fakt ist, dann erlaube ich mir nachstehend konkrete Fragen:

Welches konkrete Gesetz bildet dazu die Grundlage?
Wann wurde es beschlossen?
Alternativ: Wann tritt es in Kraft?
Zu welchem konkreten Zeitpunkt geht es in Europa und Deutschland in den 'Go Live' Betrieb?
Muss Apple bereits jetzt innerhalb und/oder außerhalb seiner Clouddienste Straftaten (bzw. Verdachtsfälle) scannen und an die Behörden in Europa melden?
Ab wann muss Apple innerhalb und/oder außerhalb von Clouddiensten Straftaten (bzw. Verdachtsfälle) scannen und an die Behörden in Europa melden?
Welche konkreten Straftaten (bzw. Verdachtsfälle) muss Apple denn aktuell und/oder bald für die Behörden in Europa abgleichen?

Ich meine, viele reden hier über 'Fakten'. Auf den Tisch werden sie jedoch in der Diskussion nie gelegt. Legt doch bitte mal Wertaufhellendes und Belastbares dazu offen, damit wir diese 'Fakten' auch mal valide nachlesen bzw. prüfen können. Besten Dank schon mal vorab.

 

[paul.mbp]

Mal eine Frage. Stelle ein Blitzer auf der Straße nicht auch alle Autofahrer unter Generalverdacht?

Das war / ist die Sektioncontrol die pauschal die Kennzeichen aller einfahrenden Fahrzeuge aufzeichnet und am Ende der Sektion wieder aufnimmt. Daraus ermittelt man dann Zeit und Geschwindigkeit…

Der Blitzer hingegen nimmt Dein Kennzeichen erst bei Überschreitung auf

 

[AndiEh]

Welches konkrete Gesetz bildet dazu die Grundlage?

EU-Parlament segnet umstrittene Chatkontrolle ab

EU-Parlament segnet umstrittene Chatkontrolle ab

Die Übergangsregelung soll den Schutz vor Kindesmissbrauch mittels automatischer Kommunikationsanalyse verstärken. Sie wird von Datenschützern massiv kritisiert

www.derstandard.de

Bis jetzt können sie das noch nicht durchsetzen, da sie nicht auf alle Messenger Dienste Zugriff haben. Mit Apples Vorstoß bräuchten sie das auch nicht, sie müssten nur noch Apple zwingen, das auf alle Messenger auszuweiten. Technisch wäre das ja dann keine Problem mehr.

Für die USA empfehle ich den Wiki Beitrag über den Patriot Act.

Bei dem Gesetz zur Onlinedurchsuchung braucht man dann noch nicht einmal mehr Zugriff auf die Smartphones, man geht einfach zu Apple und sagt, mach mal, technisch gehts ja.

Online-Durchsuchung in Deutschland – Wikipedia

de.wikipedia.org

Man hat zwar gesagt nur für schwere Straftaten, aber was interessiert mich mein Geschwätz von gestern.

Staatstrojaner im Gesetzentwurf: Mehr Befugnisse zur heimlichen „Online-Durchsuchung“

Verdecktes staatliches Hacking in Form der „Online-Durchsuchung“ soll künftig in noch mehr Fällen erlaubt sein. Die Bundesregierung begründet die Erweiterung der hochumstrittenen Durchsuchung von Computern oder Smartphones mit Hilfe von Spionagesoftware damit, dass es einfach praktisch sei. Ein...

netzpolitik.org

Das sind je nur ein paar schon existierende Gesetze. Andere Wünsche sind aber schon längst formuliert. Oftmals scheitern aber solche Überwachungsvorhaben einfach an der Technik. Nun, Apple hilft doch gerne.

Gruß
Andi

 

[FuAn]

Es ist Fakt. Es gibt auch in den USA genug Gesetze, welche den Geheimdiensten ermöglicht, vorhandene Techniken ausnutzen zu dürfen. (Patriot Act). In der EU wird daran gearbeitet die Verchlüsselung der Messenger per Gesetz auszuhebeln.

Vorsicht, zumindest der Patriot Act / Freedom Act / Sec 215 bedarf einer richterlichen Anordnung und hat recht enge Grenzen gesetzt. Der allg. Telefonueberwachung, lone wolve Überwachung etc. der NSA wurde ein riegel vorgeschoben, es ist kein abhören oder mitlesen ohne richterliche Anordnung mehr moeglich, Verbindungsdaten muessen von den Kommunikationsgesellschaften gespeichert und für einen gewissen Zeitraum vorgehalten werden und dürfen von den Ermittlungsbehörden ebenfalls nur mit Beschluss angefordert werden.
Nicht einmal hier gibt es die proactive pauschalueberwachung die Apple hier durchführt, genauso wie das Facebook und Skype auch schon tun. Und zwar sogar in nachrichten. Und mit Segen der Europäischen Union.

 

[allans1976]

EU-Parlament segnet umstrittene Chatkontrolle ab

EU-Parlament segnet umstrittene Chatkontrolle ab

Die Übergangsregelung soll den Schutz vor Kindesmissbrauch mittels automatischer Kommunikationsanalyse verstärken. Sie wird von Datenschützern massiv kritisiert

www.derstandard.de

Nur, was hat das mit der CSAM-Technologie zu tun? Die von Apple vorgestellten Technologien zu iMessage und CSAM sind völlig unterschiedliche.

Bis jetzt können sie das noch nicht durchsetzen, da sie nicht auf alle Messenger Dienste Zugriff haben. Mit Apples Vorstoß bräuchten sie das auch nicht, sie müssten nur noch Apple zwingen, das auf alle Messenger auszuweiten. Technisch wäre das ja dann keine Problem mehr.

Demnach kein Fakt, da nicht durchgesetzt. CSAM hat mit iMessage nichts zu tun.

Für die USA empfehle ich den Wiki Beitrag über den Patriot Act.

Inwieweit betrifft es den europäischen Rechtsraum?

Bei dem Gesetz zur Onlinedurchsuchung braucht man dann noch nicht einmal mehr Zugriff auf die Smartphones, man geht einfach zu Apple und sagt, mach mal, technisch gehts ja.

Online-Durchsuchung in Deutschland – Wikipedia

de.wikipedia.org

Das bedeutet, die CSAM-Technologie steht damit nicht im Zusammenhang. Denn es ging ja in der Diskussion um die Richtung 'Apple scannt und muss melden' und nicht, dass ein 'richterlicher Beschluss den Zugriff auf ein Smartphone gestattet'.

Man hat zwar gesagt nur für schwere Straftaten, aber was interessiert mich mein Geschwätz von gestern.

Staatstrojaner im Gesetzentwurf: Mehr Befugnisse zur heimlichen „Online-Durchsuchung“

Verdecktes staatliches Hacking in Form der „Online-Durchsuchung“ soll künftig in noch mehr Fällen erlaubt sein. Die Bundesregierung begründet die Erweiterung der hochumstrittenen Durchsuchung von Computern oder Smartphones mit Hilfe von Spionagesoftware damit, dass es einfach praktisch sei. Ein...

netzpolitik.org

Bedeutet also im Umkehrschluss, aktuell kein Fakt. Sondern lediglich eine Annahme, dass die Schwere der Straftat perspektivisch herabgesetzt werden würde.

Das sind je nur ein paar schon existierende Gesetze. Andere Wünsche sind aber schon längst formuliert. Oftmals scheitern aber solche Überwachungsvorhaben einfach an der Technik. Nun, Apple hilft doch gerne.

Wünsche sind Träume wie Schäume. Aber eben kein Fakt.

Über Begehrlichkeiten zu diskutieren ist das eine, aber ich finde, wir sollten in der Diskussion Befürchtungen nicht mit Fakten gleichsetzen. Es kann in die Richtung oder in eine abgeschwächte Form gehen – das 'Gefahrenspotenzial' tilge ich ja nicht. Es kann aber eben auch nicht in diese Richtung gehen, weil z.B. nationale und/oder europäische Verfassungsorgane klare Grenzen aufzeigen.

Genau darum geht es mir bei der Diskussion. Also bitte nicht falsch verstehen oder missinterpretieren.

 

[FuAn]

Bleibt die Frage weshalb gesteht man Apple, Facebook, Microsoft und potentiell anderen, Massnahmen zu, fuer die man den staatlichen Organen die üblichen Hürden der Rechtsstaatlichkeit auferlegt.
Ich verstehe nach wie vor nicht, weshalb, und auch nicht weshalb man sie gewähren lässt dies beliebig zu erweitern, jetzt auf device, Funktionalität fuer 3. apps…
Und fuer mich ist schon nochmal ein unterschied, ob etwas gescannt wird, das auf facebook zumindest mit einer gewissen Öffentlichkeit bereits geteilt ist oder ob Daten schon auf meinem Gerät gescannt wird, auch wenns nur Bilder sind.

 

[Mitglied 246615]

Bis anhin wurden sie in Serverfarmen überprüft.
Neu ist: sie werden auf dem Gerät schon geprüft.

Bis hier hin gibt es keinen Unterschied.

Das ist für mich ein ganz entscheidender Unterschied. Das ist, als würde mein Vermieter regelmässig meine Wohnung auf Kinderporno durchsuchen. Sowohl Wohnung wie auch Smartphone sind sehr persönliche Dinge.

Als die Unternehmen angefangen haben, die Clouds zu durchsuchen, wurde das ebenso kritisiert, hat aber offenbar nicht so weit in der Öffentlichkeit angekommen. Das beweist mir das Risiko der Salamitaktik. Das was früher schon fraglich war, ist plötzlich akzeptiert. Bevor man sich umsieht, hat sich das Vorgehen aus alle möglichen Lebensbereiche ausgeweitet und immer mehr Leute argumentieren mit, "Was ist daran jetzt neu?"

Ansatzlose Massenüberwachung will ich nicht von staatlichen Stellen und schon gar nicht von Unternehmen und absolut nicht, wenn diese nicht in meinem Rechtsraum heimisch sind.

 

[Blurryface]

Es wird zwangsläufig zu false positive Meldungen kommen.
Oder mal angenommen, jemand möchte mir eins auswischen und schickt mir solche Bilder per Nachricht oder WhatsApp, die dann automatisch in Fotos gespeichert werden.
Was passiert da?
Meldung an die Behörden!?
Und dann? Steht die Polizei vor der Tür, durchsucht das ganze Haus und nimmt alle Computer, Festplatten etc. mit und es wird gegen mich wegen des Verdachts auf Besitz und Verbreitung kinderpornografischer Inhalte ermittelt.
Wenn sich am Ende alles in Luft auflöst, den Stempel, dass man unter dem Verdacht stand, bekommt man nie mehr los.

 

[micki]

Dazu heute auf Heise Online ab 12 Uhr:

#heiseshow: Kindesmissbrauch-Scanning auf iPhones – warum das so gefährlich ist

Künftig soll direkt auf den iPhones (und auf iPads) nach Abbildungen von Kindesmissbrauch gesucht werden. Warum die Kritik daran so laut ist, klären wir.

www.heise.de

 

[SomeUser]

Bleibt die Frage weshalb gesteht man Apple, Facebook, Microsoft und potentiell anderen, Massnahmen zu, fuer die man den staatlichen Organen die üblichen Hürden der Rechtsstaatlichkeit auferlegt.
Ich verstehe nach wie vor nicht, weshalb, und auch nicht weshalb man sie gewähren lässt dies beliebig zu erweitern, jetzt auf device, Funktionalität fuer 3. apps…
Und fuer mich ist schon nochmal ein unterschied, ob etwas gescannt wird, das auf facebook zumindest mit einer gewissen Öffentlichkeit bereits geteilt ist oder ob Daten schon auf meinem Gerät gescannt wird, auch wenns nur Bilder sind.

Ohne darauf einzugehen, ob das jetzt gut oder schlecht ist, nur als Antwort auf deine Frage:
Weil es ein unterschiedliches Verhältnis ist. Zwischen dir und dem Staat gibt es ein Unterordnungsverhältnis. Du kannst dich dem Staat nicht entziehen, er übt über dich Hoheitsrechte und andere nur ihm zustehende Rechte aus (z.B. das Gewaltmonopol, er darf Steuern erheben, deine Rechte durch oder aufgrund Gesetz einschränken, ...).
Einem Unternehmen stehst du als gleichberechtigter Partner gegenüber. Du kannst dir überlegen, ob du mit diesem Unternehmen Geschäfte machen willst, die Konditionen die mit der Nutzung einher gehen akzeptieren willst oder nicht. Wenn du da keine Lust zu hast, lässt du es bleiben und suchst dir eine Alternative.
Beim Staat kannst du nicht sagen: "Steuern finde ich doof, deswegen lasse ich das jetzt mal und das Konzept der Ersatzhaft finde ich jetzt auch nicht so prickelnd, daher lehne ich Gefängnis für mich ab".

Hier schimmert jetzt übrigens auch schon ein wenig durch, warum es spezielle Einschränkungen / Regeln für Unternehmen mit besonderer Marktmacht (u.a. Monopole) gibt, aber das ist dann noch mal ein anderes Thema.

 

[jensche]

Diskussion hin umd her…

Wer is CSAM und wer ist die unabhängige Kontrollinstanz?
Was ist in der hash-datenbank?

Es gibt nämglich Keine kontrollinstanz…
Csam ist eine absolute Blackbox.

Wer sagt dass dort nur kinderpornohashes drin sind? Oder noch andere sachen?

Genau da liegt das problem…

 

[Mitglied 241048]

Nur mal so. Den Zwinker-Smilie hinter meinem Blitzer-Vergleich habt ihr aber schon gesehen, oder?

 

[Mitglied 246615]

Es geht nicht um Steuern. Es geht um Daten! Daten werden interpretiert und dadurch zu Informationen. Wenn ein Staat gegenüber Privarpersonen etwas durchsetzen kann, kann er das auch gegenüber Unternehmen. Apple zeigt doch in China, dass sie lieber dort Geschäfte machen, als Menschenrechte zu beachten.

Außerdem leitet Apple die Ergebnisse aus der ansatzlosen Massenüberwachung an eine Privatorganisation im Verdachtsfall weiter, die die Behörden informiert. Wieviele Stellen zwischengeschaltet sind, ist am Ende egal. Der Staat darf nicht überwachen. Apple will gegenüber seinen Kundeneine weiße Weste vorweisen. Also wird jemand zwischengeschaltet.

Ein ganz anderer Punkt ist die Datensicherheit. Daten, die öffentlich verteilt werden, gelangen früher oder später in falsche Hände. Die Frage ist nicht "ob", sondern immer nur "wann". Beispiel dafür gibt es inzwischen genug. Deswegen ist es so wichtig, dass jeder einzelne von uns darauf achten muss, was mit seinen Daten passiert. Ich will nicht, dass irgendjemand auf meinen Geräten rumsucht. Egal nach was!

Wenn der Verdacht besteht, dass ich Kinderpornos besitze, bedarf es eines richtierlichen Durchsuchungsbeschlußes für meine Wohnung. Das gleiche soll bitte auch für meine technischen Geräte gelten!

 

[jensche]

Und diese Privatorganisation und deren hash datenbank ist eine Blackbox.

Niemant kennt die, niemant weiss was in der Datenbank ist.

Einfach unter dem denkmäntelchen Kinderpornos und wir bringen alles durch.

 

[Mitglied 241048]

Ich will nicht, dass irgendjemand auf meinen Geräten rumsucht. Egal nach was!

Machen aber viele Arbeitgeber mit den Rechnern ihrer Angestellten. Aber da hat es in der Regel andere Hintergründe.

Niemant kennt die, niemant weiss was in der Datenbank ist.

Du meinst also, die Datenbanken werden ungeprüft von einer KI erstellt? Sind wir technologisch schon so weit?

 

[Mitglied 246615]

Machen aber viele Arbeitgeber mit den Rechnern ihrer Angestellten. Aber da hat es in der Regel andere Hintergründe.

Das sind zum einen nicht meine Geräte und ist auch nicht so einfach erlaubt. Abgesehen davon, gehört das auch in den Bereich Whatsaboutism. Meine Aussage gilt auch für neugierige Arbeitgeber.

 

[jensche]

Du meinst also, die Datenbanken werden ungeprüft von einer KI erstellt? Sind wir technologisch schon so weit?

Nein. Niemand prüft das niemand hat einsicht… es gibt keine Kontrollinstanzen.

Genau da liegt das Hauptproblem