Apple har meddelt, at den næste version af iOS fra version 15 automatisk vil gennemgå beskeder, der sendes af børn, og vil også scanne brugernes billeder i iCloud for at søge efter børneporno og forhindre distribution af sådanne filer. Initiativet blev mødt med masseprotester i den vestlige verden. Tabloids bebrejder selskabet for at ville bryde ind i brugernes telefoner og personlige billeder under plausible påskud.
Sergey Kuzmenko, seniorekspert fra Roskatchestvo Digital Expertise Centre til test af digitale produkter:
“Problemet med seksuel udnyttelse af børn, som Apple forsøger at løse, er meget alvorligt og akut, både i USA og i resten af verden. “Desuden forudsætter implementeringen af billedanalyseteknologien – i det mindste som virksomheden beskriver den i øjeblikket – maksimal beskyttelse af privatlivets fred og sikkerhed for Apple-enhedsejere.”.
Så vidt jeg kan forstå, vil det fungere på denne måde:
1 Virksomheden kontrollerer i meddelelsesfasen, om et barn sender et ærligt billede til nogen, og viser derefter en række advarsler og underretter forældrene. Børnebeskyttelse i iMessage fungerer kun på familiekonti med børn på 12 år eller derunder og skal aktiveres manuelt. Ingen oplysninger vil blive videregivet til myndighederne.
2 Siri og Search vil forsyne søgetjenester med lister over kodeord og forespørgsler vedrørende børnepornografi, hvorefter brugere, der udfører sådanne forespørgsler, vil modtage en advarsel om farerne ved sådanne interesser og links til partnerwebsteder, hvor de kan få hjælp. Det er endnu uvist, om oplysninger om sådanne anmodninger vil blive videregivet til myndighederne.
3 Den mest kontroversielle del: Når du uploader billeder til iCloud hvis funktionen er aktiveret, sker det automatisk , vil virksomhedens neuronet scanne billederne før upload og sammenligne dem med eksisterende database over børneporno. Samtidig vil billederne blive hashet dvs. omdannet til en sekvens af tegn, som en udenforstående ikke kan tyde , og algoritmen vil sammenligne dem med databasen, som også består af lignende kæder af tegn. Processen er automatisk, og kun hvis der er et match med kendte prøver, vil en menneskelig moderator blive involveret.
4 I tilfælde af at en bruger viser sig at have kendte billeder i flertal, eller hvis hændelsen gentages, forbeholder Apple sig ret til at videregive oplysningerne til de relevante myndigheder. Virksomheden understreger, at hvis en bruger har deaktiveret upload, vil systemet ikke fungere, og funktionen tjekker ikke det private fotobibliotek på enheden.
Der er naturligvis stadig spørgsmål om, hvorvidt virksomheden vil følge de erklærede regler om beskyttelse af personlige oplysninger, om genkendelsesteknologien faktisk er idiotsikker, og om den vil blive brugt til andre formål i fremtiden. I sin nuværende form betragtes systemets potentielle genkendelse af pædofile konti imidlertid som et plus.
Det skal også bemærkes, at funktionen kun er lanceret i USA, og at den vil blive indført gradvist i andre lande under hensyntagen til de lokale juridiske rammer.
Hvordan påvirker Apple-skandalen forbrugernes tillid til virksomheden? Er der nogen konsekvenser for prisfastsættelsen af deres produkter?