Apple: Nacktheitsscanner in der Nachrichten-App soll für Kinderschutz sorgen
:format(webp)/cloudfront-eu-central-1.images.arcpublishing.com/madsack/GGDSFXJSZVHKFBMD5QLTC7ZVTM.jpg)
Eltern sollten ihre Kinder vor Nachrichten und dem Weltgeschehen schützen.
© Quelle: imago images / Westend61
Cupertino. Die Nachrichten-App von Apple enthält jetzt in einigen Ländern ein neues Tool, das Kinder und Jugendliche vor ungewolltem Empfang von Nacktbildern schützen soll. Wenn die Communication Safety in Messages auf dem Smartphone aktiviert ist, soll der Messenger sowohl ein- als auch ausgehende Bilder auf Nacktheit untersuchen und die Abbildungen automatisch unscharf machen.
Zudem erhält das Kind eine Warnmeldung. Es kann dann den Absender des Bildes blockieren oder „Anleitungen und altersgerechte Ressourcen“ erhalten, so Apple. Etwa kann es sich an eine Kinderschutzorganisation wenden oder eine vertraute Person kontaktieren. Wenn Nacktheit auf einem Foto erkannt und unscharf gemacht wird, kann sich die Nutzerin oder der Nutzer aber auch dazu entscheiden, das Bild trotzdem anzeigen zu lassen.
Laut Apple verwendet die Communication Safety maschinelles Lernen auf dem Gerät, um Bildanhänge zu analysieren. Die Funktion sei aber so konzipiert, dass Apple keinen Zugriff auf die Fotos erhält. Damit greift die Funktion in deutlich geringerem Maß auf die Daten der Nutzerinnen und Nutzer zu als zunächst geplant, wie das Portal „Netzpolitik“ berichtet.
Demnach sollte das Tool ursprünglich auch die Fotodatenbanken der Handys durchsuchen und mit Darstellungen von Missbrauch abgleichen. Die Warnmeldung beim Empfang eines Bildes sollte zudem nicht nur an das Kind, sondern auch an die Eltern gehen. Nach massiven Protesten legte Apple die Pläne vorerst auf Eis.
In Deutschland wird die Funktion vorerst aber nicht erhältlich sein. Laut dem Magazin „The Verge“ wird die Funktion zunächst nur in Großbritannien, Kanada, Australien und Neuseeland zur Verfügung gestellt.
RND/kau