Apple scannt Geräte bei Upload nach Bildern mit Verdacht auf Missbrauch

[TNF Apex]

Die Meldung dazu bei Tagesspiegel. Soweit so gut.

Wenn sie damit fertig sind, nach was wird dann gescannt? Waffen, Drogen? Auch super, aber was wenn Sie beginnen nach euren Gewohnheiten zu scannen? Was wenn es Staaten zur Unterdrückung ausnutzen?

Aber wer erinnert sich noch an dieses Video? Oder an What´s on your iPhone stays on your iPhone. Apple selber wohl nicht.

 

[HerrDoctorPhone]

So ganz stimmt die Überschrift auch nicht.
Ich habe mir die Mühe gemacht den Link teilweise zu lesen, um zu Wissen um was es überhaupt geht, das geht weder aus der Überschrift, noch aus dem Text hier hervor (Sorry, man könnte etwas mehr dazu schreiben)

Die suggerierte Technik ist nicht gegeben auf dem Smartphone (wurde mit Pegasus schon seit Jahren implementiert, andere Geschichte)
Zitat:

Eine neue Technologie ermöglicht es demnach der Software von Apple-Mobilgeräten, missbräuchliche Fotos auf dem Telefon eines Nutzers mit einer Datenbank bekannter Missbrauchsbilder abzugleichen, die von Kinderschutzorganisationen zur Verfügung gestellt werden, und die Bilder dann zu markieren, wenn sie in den Online-Speicher iCloud von Apple hochgeladen werden. Solche Bilder würden dann an das Nationale Zentrum für vermisste und ausgebeutete Kinder gemeldet, das mit der Polizei zusammenarbeitet.

Das bedeutet NICHT, das auf dem Handy geschnüffelt wird, das wäre gegen den Datenschutz und das Briefgeheimnis, ebenso gegen die Unverletzlichkeit des Wortes.

Das ist auch gut so, gerade wegen dem hier:
Zitat:

nach was wird dann gescannt? Waffen, Drogen? Auch super, aber was wenn Sie beginnen nach euren Gewohnheiten zu scannen? Was wenn es Staaten zur Unterdrückung ausnutzen?

Bitte etwas Text dazu,, weil ich will nicht immer erst extern lesen, um was es sich genau handelt.
Es gibt Foren, da wird nur ein Link reingeschmissen, ich und der Chef hier finden das eine Unart.

VG
DOC

 

[TNF Apex]

Ganz simpel:
Apple scannt zunächst mal nach Kindesmissbrauch. Damit sind wohl alle einverstanden. Die Technik, ich denke mal es geht um Maschine Learning, kann aber auch für andere Zwecke genutzt werden. Das ist zwar hypothetisch, aber denkbar. Man könnte somit Bilder von Demonstrationen scannen um Oppositionelle zu überwachen etc. pp.
Es ist höchst bedenklich wenn sich Firmen zu einer Art Überwachungsmacht aufspielen.

 

[copy&paste]

Ganz simpel

Ist es das: "ganz simpel"? Ich denke nicht.

Apple scannt zunächst mal nach Kindesmissbrauch. Damit sind wohl alle einverstanden.

Öhm, nein. Zumindest nicht in dieser vereinfacht dargestellten Argumentation. Da schwingt mir (juristisch laienhaft) zu sehr ein Generalverdacht mit. "Sorry, lassen Sie uns mal bitte an ihrem Smartphone, Hinterteil, Laptop ... schnuppern, es geht immerhin um die nationale Sicherheit, Terrorismus, Schwerstkriminalität ... oder eben Kindesmissbrauch." Wer kann dazu schon nein sagen

Es ist höchst bedenklich wenn sich Firmen zu einer Art Überwachungsmacht aufspielen.

Mmmh, imho sind Firmen wie (google, facebook, amazon, apple ...) auf Überwachung ihrer Klientel aus. Apple z.B. sogar so sehr das sie die Überwachung ihrer Kundschaft mit zunehmender Vehemenz gegen die Überwachung von Firmen außerhalb ihres "walled garden" verteidigen (hier ein lausig rausgesuchter Link dazu). Und DAS läuft dann heute unter dem Deckmantel des Datenschutzes weil apple ja Kunden "schützt"
Es sind private Unternehmen die sich nur bedingt für staatliche Sanktionen oder Versuche der Sanktionierung oder Reglementierung interessieren müssen. Die spielen sich nicht zu einer Art Überwachungsmacht auf, die stellen, jeder für sich, eine Überwachungsmacht dar. Und wir in Europa im Allgemeinen und in "Neuland" im Besonderen haben als Speerspitze der Verteidigung digitaler Bürgerrechte gegenüber sehr mächtiger ausländischer (und dann jetzt gern auch nichtamerikanische Unternehmen die auch ich gern mal nicht auf dem Schirm habe) Unternehmen so Autoritäten wie die Doro Bär und den Andy Scheuer die uns auf unterschiedlichen Ebenen vor den Unbilden der Halunken dieser Welt heldenhaft besch.....

 

[HerrDoctorPhone]

Apple scannt zunächst mal nach Kindesmissbrauch.

Scannt, aber vergleicht NUR Bilder von der Cloud, mit denen die sie in einer Datenbank gespeichert haben.
Da wird NUR der Inhalt der Cloud mit der Datenbank abgeglichen.

Auf dem IPhone wird nicht gescannt.

Man könnte somit Bilder von Demonstrationen scannen um Oppositionelle zu überwachen etc. pp.

Ja und? Ist doch schon lange gang und gäbe

Es ist höchst bedenklich wenn sich Firmen zu einer Art Überwachungsmacht aufspielen.

Sgibt ja schon welche die das machen, CIA, FBI, Homeland.....

VG

 

[Wattsolls]

Da wird NUR der Inhalt der Cloud mit der Datenbank abgeglichen.
Auf dem IPhone wird nicht gescannt.

Na das stimmt wohl nicht so ganz.
Apple plant iPhone-Scanning auf Kinderpornos – Sicherheitsforscher alarmiert

 

[chk142]

Apple sollte es der Justiz leicht machen Nachforschungen anzustellen, bei begründetem Verdacht. Generelles Scanning zu betreiben ist weder deren Aufgabe, noch macht es für mich irgendeinen Sinn. Besonders wenn dann Familienväter oder -mütter eventuell belangt werden, wenn sie Bilder ihrer Kinder im Sandkasten oder Pool hochladen...

Ich sehe da auch keinen großen Handlungsbedarf. Wenn z.B. Kinderpornoringe gesprengt werden, dann sind das weitreichende Untersuchungen, und es werden auch weitreichend Leute dafür belangt. Warum muss man da jetzt jedes Smartphone, oder jeden Cloudspeicher scannen? Das leuchtet mir nicht ein. Ist ja schön, wenn Apple hier tolles Marketing mit so einer Maßnahme betreiben möchte (daum geht es ihnen wohl vor allem), aber, das geht einfach in die falsche Richtung. Wenn dann sollten sie, wiederum bei begründetem Verdacht, schauen, wer gegen ihre Nutzungsbestimmungen verstößt, aber nicht so eine allgemeine und generelle Überwachung betreiben.

 

[HerrDoctorPhone]

Na das stimmt wohl nicht so ganz.

Stimmt .
Bevor es hochgeladen wird in der Cloud, sorry.

VG

 

[Patman75]

Na den Gedanken dahinter finde ich schon löblich, doch muss Apple hier aufpassen um nicht Polizei zu spielen.
Wie weit darf man als Techanbieter im Namen der Gerechtigkeit in die Privatsphäre der Konsumenten eingreifen?
Ich denke das könnte eventuell zu weit gehen, Apple sollte eher den Zugang für Ermittlungsbehörden erleichtern und unterstützen anstatt selbst Polizei zu spielen.
Die Gewohnheiten der Nutzer werden schon lange protokolliert, darum dreht sich ja der ganze Datenschutzzirkus; die Nutzer von Applegeräten haben hoffentlich gelesen was da bei den Trackingoptionen dabei steht…

 

[TNF Apex]

Ich glaube nicht das KI dafür geeignet ist Bilder zu scannen. Ich wette darauf das es viele Fehler bei harmlosen Kinderbildern z.B.am Strand oder privaten Pool gibt. Es gibt pädophile Netzwerke die sich an den harmlosesten Videos und Bildern auf Facebook bedienen und aufgeilen (Fernsehreport).
Ich glaube auch nicht das es die Aufgabe von Apple ist Polizei zu spielen.
Und generelles scannen von Daten ohne Verdacht, sorry aber das ist schon bei der Vorratsdatenspeicherung von Gerichten untersagt worden.

 

[chk142]

Ich glaube nicht das KI dafür geeignet ist Bilder zu scannen. Ich wette darauf das es viele Fehler bei harmlosen Kinderbildern z.B.am Strand oder privaten Pool gibt.

Genau das kann ich mir halt auch nicht vorstellen: Dass die KI das unterscheiden kann. Von daher kommt mir das einfach witzlos vor. Und, deshalb vermute ich auch, dass es einfach nur eine Marketinggeschichte ist, nach dem Motto: "Schaut mal, was wir Gutes tun.".

 

[Patman75]

Na ich weiß nicht ob die unbedingt bewusst die Datenschützer provozieren wollen…

Hier wird das genauer erklärt:

Pro und Contra: Apples Kontrollen zum Kinderschutz

"Contra: Apple soll kein Richter werden (Halyna Kubiv)"

Die strafrechtliche Verfolgung solch furchtbarer Dinge obliegt nunmal nicht dem Anbieter eines Telefons, sondern den Behörden.
Zudem wäre eine Studie aussagekräftig über das Verhältnis derartiger moralischer Verwerflichkeiten von den USA, der Heimat von Apple, zu Europa...

Mit böser Zunge könnte man nun behaupten, Apple will sich aus der Affäre ziehen, verständlicherweise, denn schliesslich sind die Bilder auf deren Hoheitsgebiet quasi gespeichert...man will sich selbst nicht in die Karten kucken lassen,, und stattdessen den Nutzer vorschieben...dessen Karten aufdecken anstatt der eigenen...

 

[mblaster4711]

für einen Konzern für den die Sicherheit der Daten der Kunden beworben wurde, ist das was jetzt geschieht ein Tritt in den Hintern

 

[Patman75]

Dennoch würde es für mich bei der Frage der weiteren Nutzung von Apple Produkten keine Rolle spielen; erstens gingen die Anbieter nach Google und Apple aus, und zweitens, was ich für wichtiger erachte, ich kann Apple nicht anprangern für eine gute, edle Sache, ob da jetzt Marketing dahinter steckt oder nicht…alleine die Tatsache dass man dieses Tabuthema auf den Tisch legt, finde ich bemerkenswert.
Die häusliche Gewalt ist während der Pandemie nachweislich gestiegen, daraus ergibt sich ebenfalls ein Anstieg der Gewalt gegen Kinder; und wer weiß wie lange die Pandemie noch den Schuh der Menschen drückt…

Übrigens war mir die Photographie am Handy sowieso noch nie koscher…ne halbe Million Bilder im Handy, vieles davon privater oder gar familiärer Natur, und gleichzeitig soll man mit dem Teil am besten 24h online sein und ja schön brav alles hochladen tonnenweise…nenene, ohne mich!

 

[Observer]

Man kann hochladen, man(n)/frau muss es nicht.

Wo Licht ist (Entdechem/Zerschlagen/Ergreifen von Personen, die solche Bilder besitzen), ist auch Schatten - denn wenn die Software anschlägt, eine Reihe von offiziellen Aktivitäten in Gang gesetzt werden, und es sich dann rausstellt . . . . Fehlalarm . . . . . dann kann sich die Person in der heutigen (und besonders zukünftig schnell vorverurteilenden) Welt eher gleich von dieser selbigen verabschieden.

Ein sehr sehr zweischneidiges Schwert.

 

[Patman75]

Natürlich, man kann und sollte sich über die Methodik Gedanken machen, die vermutlich noch nicht das ist wie es den Vorstellungen der Entwicklung nach sein soll.
Aber, ist es nicht so dass wir uns alle ein sicheres, sauberes Internet wünschen? Damit meine ich nicht die nach allgemeinen und recht weitläufigen sozialen und moralischen Normen anerkannte Pornografie.
Was wenn Apple nun nen Anfang macht, indem man vor der eigenen Haustüre damit beginnt?
Die Methode wie gesagt, sollte ja hinterfragt und gegebenenfalls lautstark kritisiert werden…
Und ob die in Europa damit überhaupt durchkommen…

edit
Scan = Hintertür: Offener Brief soll Apple zum Umdenken bewegen

Der Brief in Auszügen:
"Ein offener Brief gegen Apples in die Privatsphäre eingreifende Technologie zum Scannen von Inhalten. Sicherheits- und Datenschutzexperten, Kryptographen, Forscher, Professoren, Rechtsexperten und Apple-Konsumenten kritisieren Apples geplanten Schritt, die Privatsphäre der Nutzer und die End-to-End-Verschlüsselung zu untergraben.

Liebe Apple-Leute,
am 5. August 2021 kündigte Apple Inc. neue technologische Maßnahmen an, die unter dem Namen "Erweiterter Schutz für Kinder" für praktisch alle Geräte gelten sollen. Auch wenn die Ausbeutung von Kindern ein ernstes Problem ist und die Bemühungen, es zu bekämpfen, zweifellos gut gemeint sind, führt der Vorschlag von Apple eine Hintertür ein, die den grundlegenden Schutz der Privatsphäre für alle Nutzer von Apple-Produkten zu untergraben droht.
Die von Apple vorgeschlagene Technologie funktioniert durch die kontinuierliche Überwachung von Fotos, die auf dem iPhone, iPad oder Mac des Nutzers gespeichert oder freigegeben werden. Ein System erkennt, wenn eine bestimmte Anzahl anstößiger Fotos im iCloud-Speicher entdeckt wird und alarmiert die Behörden. Ein anderes System benachrichtigt die Eltern eines Kindes, wenn über iMessage Fotos gesendet oder empfangen werden, die nach Ansicht eines maschinellen Lernalgorithmus Nacktheit enthalten.
Da beide Überprüfungen auf dem Gerät des Nutzers durchgeführt werden, haben sie das Potenzial, jede Ende-zu-Ende-Verschlüsselung zu umgehen, die ansonsten die Privatsphäre des Nutzers schützen würde.
Unmittelbar nach der Ankündigung von Apple schlugen Experten auf der ganzen Welt Alarm darüber, wie die von Apple vorgeschlagenen Maßnahmen jedes iPhone in ein Gerät verwandeln könnten, das kontinuierlich alle Fotos und Nachrichten, die es durchläuft, scannt, um etwaige anstößige Inhalte an die Strafverfolgungsbehörden zu melden und so einen Präzedenzfall zu schaffen, bei dem unsere persönlichen Geräte zu einem radikalen neuen Werkzeug für eine invasive Überwachung werden, ohne dass es eine Kontrolle gibt, die einen möglichen Missbrauch und eine unangemessene Ausweitung des Umfangs der Überwachung verhindert.

Wir, die Unterzeichnenden, fordern, dass:
Der Einsatz der von Apple Inc. vorgeschlagenen Technologie zur Überwachung von Inhalten sofort gestoppt wird.
Apple Inc. eine Erklärung herausgibt, in der sie ihr Engagement für eine Ende-zu-Ende-Verschlüsselung und den Schutz der Privatsphäre der Nutzer bekräftigen."

 

[Patman75]

Apple veröffentlicht FAQs zu neuen Kindersicherheits-Tools › Macerkopf

 

[TheMissingLink]

*Info*
Titel etwas umgestellt

 

[HerrDoctorPhone]

Nicht ganz richtig, beschränkt sich bisher nur auf die ICloud

 

[TheMissingLink]

@HerrDoctorPhone
Daher "bei Upload"