Selitetty: Kuinka Apple etsii lasten hyväksikäyttökuvia laitteista ja miksi se nostaa kulmakarvoja

Ominaisuuksiin kuuluu alun perin julkaistava Yhdysvalloissa, ja se sisältää uuden teknologian käytön rajoittamaan CSAM:n leviämistä verkossa, erityisesti Apple-alustan kautta.

Blogiviestissä Apple selitti, että se käyttää salaussovelluksia iOS:n ja iPadOS:n kautta sovittaakseen iCloud Photo -palveluun tallennettuja tunnettuja CSAM-kuvia.

Apple on ilmoittanut asiasta ohjelmistopäivitykset myöhemmin tänä vuonna tuovat uusia ominaisuuksia joka auttaa suojelemaan lapsia saalistajilta, jotka käyttävät viestintävälineitä värvätäkseen ja hyödyntääkseen heitä, ja rajoittaa lasten seksuaalisen hyväksikäytön materiaalin (CSAM) leviämistä.

Ominaisuuksiin kuuluu alun perin julkaistava Yhdysvalloissa, ja se sisältää uuden teknologian käytön rajoittamaan CSAM:n leviämistä verkossa, erityisesti Apple-alustan kautta.

Sen jälkeen lapsia suojataan laitteessa arkaluontoisen sisällön lähettämiseltä tai vastaanottamiselta ja mekanismeja, jotka varoittavat vanhemmat, jos käyttäjä on alle 13-vuotias. Apple puuttuu myös, kun Siriä tai hakua käytetään CSAM-aiheiden etsimiseen. .

Mitä tekniikkaa Apple tekee estääkseen CSAM:n leviämisen verkossa?

Blogiviestissä Apple selitti, että se käyttää salaussovelluksia iOS:n ja iPadOS:n kautta sovittaakseen iCloud Photo -palveluun tallennettuja tunnettuja CSAM-kuvia. Tekniikka yhdistää käyttäjän iCloudissa olevat kuvat lastensuojeluorganisaatioiden toimittamiin tunnettuihin kuviin. Ja tämä tehdään näkemättä kuvaa ja vain etsimällä sormenjälkivastinetta. Jos kynnyksen ylittäviä osumia löytyy, Apple raportoi näistä tapauksista National Center for Missing and Exploited Children (NCMEC) -keskukselle.

Apple selvensi, että sen tekniikka pitää käyttäjien yksityisyyden mielessä, ja näin ollen tietokanta muunnetaan lukukelvottomaksi tiivistejoukoksi, joka tallennetaan turvallisesti käyttäjien laitteisiin. Se lisäsi, että ennen kuin mikään kuva ladataan iCloudiin, käyttöjärjestelmä vertaa sen tunnettuihin CSAM-tiivisteisiin käyttämällä salaustekniikkaa, jota kutsutaan yksityisen joukon risteykseksi. Tämä tekniikka määrittää myös ottelun paljastamatta tulosta.

Tässä vaiheessa laite luo kryptografisen turvakupongin, joka sisältää ottelutuloksen ja lisäsalatut tiedot, ja tallentaa sen kuvan mukana iCloudiin. Threshold-salainen jakamistekniikka varmistaa, että Apple ei voi tulkita näitä kuponkeja, ellei iCloud Photos -tili ylitä tunnetun CSAM-sisällön kynnystä. Tämä kynnys, blogi väitti, on otettu käyttöön tarjoamaan erittäin korkea tarkkuustaso ja takaamaan vähemmän kuin yksi biljoonasta todennäköisyyttä vuodessa, että tietty tili merkitään väärin. Joten yksittäinen kuva ei todennäköisesti laukaise hälytystä.

Mutta jos kynnys ylittyy, Apple voi tulkita turvakuponkien sisällön ja tarkistaa manuaalisesti jokaisen raportin osuman varalta, poistaa käyttäjän tilin käytöstä ja lähettää raportin NCMEC:lle. Apple sanoi, että käyttäjät voivat valittaa, jos he katsovat, että heidät on merkitty väärin.

Miten muut ominaisuudet toimivat?

Applen uusi viestintäturvallisuus Messagesille hämärtää herkän kuvan ja varoittaa lasta sisällön luonteesta. Jos taustaohjelma on käytössä, lapselle voitaisiin myös kertoa, että hänen vanhempansa ovat saaneet ilmoituksen näkemästään viestistä. Sama pätee, jos lapsi päättää lähettää arkaluonteisen viestin. Apple sanoi, että Messages käyttää laitteessa olevaa koneoppimista analysoidakseen kuvaliitteitä ja määrittääkseen, onko valokuva seksuaalisesti avoin ja että Apple ei pääse käsiksi viesteihin. Ominaisuus tulee päivityksenä tileille, jotka on määritetty perheiksi iCloudissa uusimpien käyttöjärjestelmäversioiden osalta.
Lisäksi päivityksen myötä, kun käyttäjä yrittää etsiä mahdollisia CSAM-aiheita, Siri ja Search selittävät, miksi tämä voi olla haitallista ja ongelmallista. Käyttäjät saavat myös opastusta lasten hyväksikäytön ilmoituksen tekemiseen, jos he sitä pyytävät.

Miksi Apple tekee tämän ja mitä huolenaiheita on esitetty?

Suuret teknologiayritykset ovat jo vuosia olleet paineen alla hillitä alustansa käyttöä lasten hyväksikäyttöön. Monissa raporteissa on vuosien varrella korostettu, ettei tekniikkaa ole tehty tarpeeksi estämään CSAM-sisällön saatavuutta laajemmin.

Applen ilmoitusta on kuitenkin kritisoitu, ja monet ovat korostaneet, että tämä on juuri sellainen valvontatekniikka, jota monet hallitukset haluaisivat käyttää ja joita monet hallitukset haluaisivat väärinkäyttää. Se, että tämä on tullut Applelta, joka on pitkään ollut yksityisyyden kannalla, on yllättänyt monet.

Myös kryptografian asiantuntijat, kuten Matthew Green Johns Hopkins -yliopistosta, ovat ilmaisseet pelkonsa, että järjestelmää voitaisiin käyttää kehystämään viattomia ihmisiä, jotka lähettävät heille kuvia, joiden tarkoituksena on laukaista CSAM-ottelu. Tutkijat ovat pystyneet tekemään tämän melko helposti, hän kertoi NPR:lle ja lisäsi, että tällaisia ​​algoritmeja on mahdollista huijata.

Mutta The New York Times lainasi Applen tietosuojavastaavaa Erik Neuenschwanderia sanoneen, että nämä ominaisuudet eivät tarkoita mitään erilaista tavallisille käyttäjille.

Jos tallennat kokoelmaa CSAM-materiaalia, kyllä, tämä on huono sinulle, hän kertoi julkaisulle.

Uutiskirje| Napsauta saadaksesi päivän parhaat selitykset postilaatikkoosi

Onko muilla suurilla teknologiayrityksillä samanlaista teknologiaa?

Joo. Itse asiassa Apple on suhteellisen myöhäinen tulokas paikalle, kun Microsoft, Google ja Facebook ovat varoittaneet lainvalvontaviranomaisia ​​CSAM-kuvista. Apple on jäänyt jälkeen, koska mikä tahansa tällainen tekniikka olisi ollut vastoin sen paljon mainostettua sitoutumista käyttäjien yksityisyyteen. Tämän seurauksena vuonna 2020, kun Facebook ilmoitti NCMEC:lle 20,3 miljoonasta CSAM-rikkomuksesta, Apple pystyi raportoimaan vain 265 tapauksesta, The New York Times raportoi.

Vasta nyt se on onnistunut löytämään teknologian sweetspotin tähän vaikuttamatta tavallisiin käyttäjiin tai ainakin pelottamaan heitä. Kuitenkin, kuten alkuperäinen vastareaktio on osoittanut, kyseessä on edelleen köysikävely.

Jaa Ystäviesi Kanssa: