Apple plánuje skenovať fotky aj správy v telefónoch. Vraj z dôvodu detskej pornografie

Americká spoločnosť Apple, ktorá je najhodnotnejšou firmou v USA, bude skenovať fotografie aj správy na telefónoch. Toto kontrolovanie obsahu sa bude (zatiaľ) dotýkať len amerických občanov. Apple na to využije nástroj zvaný NeuralMatch, ktorý bude skenovať fotografie užívateľov nahrané na úložisku iCloud.

Následne zachytené fotografie porovná s databázou, ktorá obsahuje známe problematické zábery. Pokiaľ systém určí, že je medzi fotkami vážna podobnosť, zamestnanci Applu môžu dané fotografie overiť individuálne. Následne môžu potvrdiť že ide o detskú pornografiu, na čo bude užívateľovi zablokovaný profil a bude nahlásený príslušným úradom.

Okrem technológie NeuralMatch chce korporácia skenovať šifrované správy, ktoré užívatelia posielajú cez službu iMessage. Využije na to umelú inteligenciu, ktorá bude podobne ako v prípade fotografií sledovať obsah správ a hľadať v ňom nevhodné súbory.

To má podľa spoločnosti slúžiť hlavne pre rodičov, ktorých systém upozorní, keď ich deti posielajú alebo dostávajú nevhodné správy. Podľa spoločnosti nebude obsah zaslaný ani úradom, ani do pracovísk Apple.

Apple a Peking k sebe nemajú ďaleko

Prirodzene, tieto plány okamžite vyvolali vlnu kritiky a obáv. Mnohí ľudia sa obávajú ohrozenia súkromia, zatiaľ čo iní varujú pred možným zneužitím zo strany vlády či samotnej spoločnosti. Ďalším problémom je podľa niektorých aj možnosť, že spomenutá umelá inteligencia niekoho falošne označí za pedofila.

Korporácia sa voči skepse vyjadrila v tom zmysle, že šanca na nesprávne identifikovanie je jedna k biliónu. Kryptológ Matthew Green však poukázal na to, že systém je relatívne jednoducho zneužiteľný – niektorí užívatelia môžu zaslať iným osobám také fotografie, ktoré sú síce navonok nevinné, ale budú zachytené systémom ako nevhodné.

„Výskumníkom sa to podarilo vcelku jednoducho,“ vysvetlil Green k možnému oklamaniu systému.

I’ve had independent confirmation from multiple people that Apple is releasing a client-side tool for CSAM scanning tomorrow. This is a really bad idea.

— Matthew Green (@matthew_d_green) August 4, 2021

Na stole aj aj strach z toho, ako bude nový softvér využitý napríklad v zahraničí. „Čo sa stane, keď čínska vláda zadá Applu zoznam vecí, ktoré majú skenovať? Povie Apple nie? Dúfam, ale ich technológia istotne nepovie nie,“ dodal kryptológ.

Americké korporácie pritom už majú históriu spolupráce s autoritatívnym čínskym režimom. Apple napríklad odstraňoval rôzne aplikácie zo svojho obchodu na základe žiadostí Pekingu.

Zlepšenie súkromia?

Nejde však o úplné softvérové novinky. Podobný systém už roky využíva spoločnosť Facebook. Zásadný rozdiel je však v tom, že sociálna sieť skenuje príspevky až po tom, ako boli vložené na jej sieť. Apple sa bude vŕtať priamo v zariadeniach svojich používateľov.

Korporácia argumentuje, že nedôjde k obmedzeniu súkromia užívateľov ich produktov. Práve naopak, nový softvér vraj dokonca chráni súkromie. „V spoločnosti Apple je náš cieľ vytvoriť technológie ktoré posilňujú ľudí a zároveň im obohacujú život – pričom ich tiež chránia,“ uviedol Apple vo vyhlásení.

Spoločnosť taktiež zdôraznila, že ide o snahu zameranú na ochranu detí. „Tieto aktivity sa budú vyvíjať a budú časom rozšírené,“ dodala korporácia.

Kroky Applu pochválilo americké Národné centrum pre stratené a zneužité deti. Riaditeľ John Clark uviedol, že nový softvér má potenciál zachraňovať životy, vzhľadom na to, že obrovské množstvo ľudí používa produkty od spoločnosti Apple.

Jasný odkaz Číne i vám

S vyhláseniami o zlepšovaní bezpečnosti nesúhlasí Nadácia elektronických hraníc (EFF), ktorá varuje práve pred možným budúcim zneužitím tohto systému. „Je nemožné vystavať skenovací systém na strane klientov, ktorý bude použitý len pre hľadanie detského pornografického obsahu,“ argumentuje organizácia.

Podľa EEF bude každá dobre myslená snaha o vytvorenie takéhoto systému využitá na otvorenie zadných dvierok do zariadení. A to so sebou prinesie ich nevyhnutné zneužitie v budúcnosti.

„Nezáleží na tom, aké sú dlhodobé plány Applu, vyslali veľmi jasný signál. Ich (veľmi vplyvný) názor je taký, že je bezpečné vytvoriť systém, ktorý hľadá v telefónoch užívateľov zakázaný obsah. To je odkaz, ktorý vyslali vládam, konkurentom, Číne, vám,“ komentoval situáciu Green.

Regardless of what Apple’s long term plans are, they’ve sent a very clear signal. In their (very influential) opinion, it is safe to build systems that scan users’ phones for prohibited content.

That’s the message they’re sending to governments, competing services, China, you.

— Matthew Green (@matthew_d_green) August 5, 2021