[ Zavřít ] 


 

RSS Kanál

 

Když tě znají, navždy tě již rozpoznají

Výzkumníci z Texaské univerzity v Austinu a Cornellovy univerzity zjistili, že bez ohledu na to, nakolik pixelizujete či rozmazáváte svůj obličej či text na obrázku, nástroje umělé inteligence ho s největší pravděpodobností rozpoznají. Tedy pokud ho už ve své databázi. Máme se čeho bát?

 

Myslíte si, že když se stanete skvrnou, tak už vás nepoznají? Omyl...

Richard McPherson, Reza Shokri a Vitaly Shmatikov se ve své práci Defeating Image Obfuscation with Deep Learning zabývají způsoby, jakými lze naučit nástroje umělé inteligence rozpoznat obrázky a ručně psané znaky, i když pozměněny tak, aby byly k nepoznání. Sami říkají: „Demonstrujeme fakt, že moderní metody rozpoznávání založené na umělých neuronových sítích dokáží extrahovat z obrázků informace ukryté nejrůznějšími způsoby. Konkrétně se ve své studii zabýváme způsoby ukrytí známými jako mozaika (aka pixelizace), rozmazání (v podobě, v jaké se užívá na YouTube) a P3 (nedávno navržený systém pro zachování soukromí, který šifruje JPEG tak, aby nebyl rozpoznatelný pro lidské jedince). Empiricky ukazujeme, jak trénovat umělou neuronovou síť, aby byla schopna rozpoznat tváře, ručně psané znaky a objekty, i když jsou chráněny některou ze zmíněných technik.“

S narůstající agresivitou obfuskační metody se lidské oko ztrácí - umělá neuronová síť nikoliv

V rámci experimentu použili databáze fotografií pro strojové učení MNIST, CIFAR-10, AT&T a FaceScrub. Každá fotka byla pozměněna sedmi způsoby (i poslední tři sloupce na obrázku reprezentují originální fotku pozměněnou systémem šifrování P3). Umělá inteligence se pak učila, jak se produkovaný obraz mění v závislosti na použití obfuskační metody (způsobu znepřístupnění). Posléze byly neuronové síti prezentovány stejně pozměněné fotografie. Šlo o jiné fotografie než v učebním vzorku, jejichž originál ovšem měla síť k dispozici v podobě databáze. A zjišťovala se úspěšnost takového rozpoznání. 

Pixelizace tváří zasahujících policistů by už napříště nemusela stačit k zachování jejich soukromí a bezpečí

Tam, kde lidé dosahovali lidé úspěšnosti rozpoznání 0,19 %, dokázala umělá inteligence úspěšně skórovat v 71 % případů na poprvé a v 83 % případů, pokud měla na tip pět pokusů. Naučený algoritmus se přitom nesnažil obnovit původní fotku, prostě jen obfuskací deformované objekty přiřazoval k fotkám, kterými disponoval. I když právě tato dispozice fotografií nechává mnohé v klidu, každý správný paranoik ví, že stroje hromadné ho sběru dat dokáží naplnit neuvěřitelně obsáhlé databáze. Další nástroje umí spárovat fotky ze sociálních sítí s reálnou identitou člověka (viz kauza FindFace a ruské sítě VK.com), záběry kamer relativně neškodných i těch, které asistují při autentizaci procházejících (jako například na letišti) a mnohé další data. Tak snadno nejen identifikují konkrétního jedince, ale i jeho pohyb v dosahu elektronických technologii. Jediné, co je potřeba, je dostatečný výpočetní výkon.

Shmatikov uzavírá: „V oblasti bezpečnosti a ochrany soukromí lidé plně nedoceňují sílu strojového učení. A dokud jim někdo neukáže, že i relativně běžně dostupná technologie se dá použít k narušování soukromí, nebudou schopni si to uvědomit.“

Zdroje: MCPHERSON, R.; SHOKRI, R.; SHMATIKOV, V. Defeating Image Obfuscation with Deep Learning [PDF], Quartz

 

 

 

 

 

ČTÚ spouští NetTest, certifikovaný test internetu

Kvalita připojení k internetu se liší nejen mezi jednotlivými poskytovateli - co hůř - kolísá v čase u téhož. Navíc zákazníci jsou typicky v nevýhodné pozici: mohou sice rychlost připojení reklamovat, ale o tom, jak jejich reklamace dopadne či...

Vivaldi 4.2 přináší nové volby ochrany soukromí

Vivaldi stále válčí především customizovatelností prohlížeče, maximální svobodou výběru používaných služeb a snahou o ochranu uživatelského soukromí. Ve verzi 4.2 se to rovná implementací nového překladače Lingvanex...

LibreOffice 7.2: neustálé zlepšování podpory formátů MS Office

LibreOffice je sice open-source software, nicméně jeho vývojáři ví, že pro masivní rozšíření v komunitě a především mezi firemními zákazníky musí bezchybně pracovat i s proprietárními formáty. Jako jsou například ty...

NortonLifeLock akvíruje Avast

Bývalý Symantec Corp. alias NortonLifeLock a Avast se dohodli na fúzi, při níž Avast skončí pod křídly NortonLifeLock. Akvizice přijde americkou společnost na něco mezi 8,1 - 8,6 miliard dolarů. A akcionáři Avastu budou mít nárok na kombinaci peněžního...


 
© 2005-2021 PS Media s.r.o. - digital world
 

reklama