Vor rund einem Jahr äußerte Apple Pläne, Fotos auf iGeräten zu scannen. Ganz im Sinne des Kinder- und Jugendschutzes sollen Fotos mit Algorithmen analysiert werden. Was letztes Jahr noch aufgrund massiver Kritik verzögert wurde, debütiert nun mit den kommenden Softwaregenerationen für iPhone, iPad und Mac Computer.
Scann ist auf dem lokalen Gerät
Doch anders als ursprünglich angekündigt, findet der Scan auf dem lokalen Gerät statt und nicht beim Hochladen in die iCloud. Fotos, die jedoch via iMessage ausgetauscht werden, werden ebenfalls analysiert. Apple erklärt auf einer Hilfeseite leider nicht, was genau unter Nacktheit definiert ist.
Wie der Spiegel berichtet, gab Apple auf Nachfrage an, dass die Sichtbarkeit von Genitalien ausreicht, um die Hinweise auszulösen. Apple sammele auf verschiedenen Kanälen Feedback, sodass die Erkennung verbessert wird.
Teil der Familienfreigabe
Im Rahmen der Familienfreigabe können Eltern oder Erziehungsberechtigte die Funktion für Kinder-Konten aktivieren. Bei aktivierter Funktion werden an das Kind gesendete und als Nacktbilder erkannte Fotos verwaschen dargestellt. Die Erkennung ist bei Empfang und Versand aktiv. Beim Versand dieser Fotos werden Warnungen und Hilfsoptionen angeboten. Apple und die Eltern sollen keine Kenntnis darüber erhalten, dass Fotos erkannt wurden. Die Funktion ist nicht im Sinne der Erkennung von CSAM-Inhalten (Child Sexual Abuse Material).
Hintergrund: Bei aktivierter Funktion werden dem Kind mehrere Optionen angeboten. Darunter eine Unterhaltung zu beenden, den Kontakt zu blockieren, eine Gruppennachricht zu hinterlassen oder auf Online-Sicherheitsressourcen zuzugreifen. Weiter kann das Kind das Foto an eine vertrauenswürde erwachsene Person (z.B. Eltern) weiterleiten. Ab einem Kindesalter von 13 schlägt die Nachrichten App vor ein Gespräch mit den Erziehungsberechtigten / Eltern zu führen.
Entscheidet sich ein Kind ein verwaschenes Foto anzusehen oder zu versenden, lässt die Nachrichten App sich dies ausdrücklich bestätigen, damit das Kind sicher ist, dass es das auch will. Das ganze aber nicht ohne Alternativen vorzuschlagen, die dem Kind mitteilen, dass es in Ordnung ist, da nicht mitzumachen und dass es Hilfeoptionen gibt.
Eine sicherlich sinnvolle Schutzfunktion. Doch kann dies technisch auch in eine nicht wünschenswerte Richtung der Aushebelung der Verschlüsselung der vertraulichen Kommunikation führen. Apple muss dringend ganz viel Transparenz mit dieser Funktion einhergehen lassen, da es ein heikles Thema ist. Eltern dürften die Funktion grundsätzlich begrüßen, doch auch nur dann, wenn weiterhin eine Vertraulichkeit, zumindest innerhalb der Familie, sichergestellt ist.
0 Comments