[ Zavřít ] 


 

RSS Kanál

 

Když tě znají, navždy tě již rozpoznají

Výzkumníci z Texaské univerzity v Austinu a Cornellovy univerzity zjistili, že bez ohledu na to, nakolik pixelizujete či rozmazáváte svůj obličej či text na obrázku, nástroje umělé inteligence ho s největší pravděpodobností rozpoznají. Tedy pokud ho už ve své databázi. Máme se čeho bát?

 

Myslíte si, že když se stanete skvrnou, tak už vás nepoznají? Omyl...

Richard McPherson, Reza Shokri a Vitaly Shmatikov se ve své práci Defeating Image Obfuscation with Deep Learning zabývají způsoby, jakými lze naučit nástroje umělé inteligence rozpoznat obrázky a ručně psané znaky, i když pozměněny tak, aby byly k nepoznání. Sami říkají: „Demonstrujeme fakt, že moderní metody rozpoznávání založené na umělých neuronových sítích dokáží extrahovat z obrázků informace ukryté nejrůznějšími způsoby. Konkrétně se ve své studii zabýváme způsoby ukrytí známými jako mozaika (aka pixelizace), rozmazání (v podobě, v jaké se užívá na YouTube) a P3 (nedávno navržený systém pro zachování soukromí, který šifruje JPEG tak, aby nebyl rozpoznatelný pro lidské jedince). Empiricky ukazujeme, jak trénovat umělou neuronovou síť, aby byla schopna rozpoznat tváře, ručně psané znaky a objekty, i když jsou chráněny některou ze zmíněných technik.“

S narůstající agresivitou obfuskační metody se lidské oko ztrácí - umělá neuronová síť nikoliv

V rámci experimentu použili databáze fotografií pro strojové učení MNIST, CIFAR-10, AT&T a FaceScrub. Každá fotka byla pozměněna sedmi způsoby (i poslední tři sloupce na obrázku reprezentují originální fotku pozměněnou systémem šifrování P3). Umělá inteligence se pak učila, jak se produkovaný obraz mění v závislosti na použití obfuskační metody (způsobu znepřístupnění). Posléze byly neuronové síti prezentovány stejně pozměněné fotografie. Šlo o jiné fotografie než v učebním vzorku, jejichž originál ovšem měla síť k dispozici v podobě databáze. A zjišťovala se úspěšnost takového rozpoznání. 

Pixelizace tváří zasahujících policistů by už napříště nemusela stačit k zachování jejich soukromí a bezpečí

Tam, kde lidé dosahovali lidé úspěšnosti rozpoznání 0,19 %, dokázala umělá inteligence úspěšně skórovat v 71 % případů na poprvé a v 83 % případů, pokud měla na tip pět pokusů. Naučený algoritmus se přitom nesnažil obnovit původní fotku, prostě jen obfuskací deformované objekty přiřazoval k fotkám, kterými disponoval. I když právě tato dispozice fotografií nechává mnohé v klidu, každý správný paranoik ví, že stroje hromadné ho sběru dat dokáží naplnit neuvěřitelně obsáhlé databáze. Další nástroje umí spárovat fotky ze sociálních sítí s reálnou identitou člověka (viz kauza FindFace a ruské sítě VK.com), záběry kamer relativně neškodných i těch, které asistují při autentizaci procházejících (jako například na letišti) a mnohé další data. Tak snadno nejen identifikují konkrétního jedince, ale i jeho pohyb v dosahu elektronických technologii. Jediné, co je potřeba, je dostatečný výpočetní výkon.

Shmatikov uzavírá: „V oblasti bezpečnosti a ochrany soukromí lidé plně nedoceňují sílu strojového učení. A dokud jim někdo neukáže, že i relativně běžně dostupná technologie se dá použít k narušování soukromí, nebudou schopni si to uvědomit.“

Zdroje: MCPHERSON, R.; SHOKRI, R.; SHMATIKOV, V. Defeating Image Obfuscation with Deep Learning [PDF], Quartz

 

 

 

 

 

CERN opouští software Microsoftu

CERN aneb Evropská organizace pro jaderný výzkum alias jedna z nejvýznamnějších vědeckých institucí světa a provozovatel velkého hadronového urychlovače ve Švýcarsku migruje z kódu prodávaného Microsoftem na open-source. Microsoft...

Mapy.cz implementují Booking.com pro zahraniční destinace

Seznam do mapové aplikace Mapy.cz implementuje Booking.com - zatím jen pro zahraniční destinace. Slibuje si od toho více informací pro své uživatele a výhody plynoucí ze spolupráce s Booking pro příjmy Seznamu. Potěší, či jen potvrdí hegemonii Booking.com? ...

Mozilla rebranduje a redesignuje Firefox

Firefox, pojetí prohlížeče, značky a navázaných služeb - to vše projde změnou. Firefox se pro Mozillu stává značkou samou o sobě, pod kterou jsou sdruženy prohlížeč Firefox a služby Firefox Send, Firefox Monitor a Firefox Lockwise. Co zůstalo z původních návrhů a čeho se drželi...

Opera GX pro hráče už je venku

Opera GX je rekoncepcí prohlížeče Opera pro náruživé hráče her. Prohlížeč postavený na Chromiu a rozšířený o funkce typické pro Operu doplňuje dalšími fičurami, možnostmi konfigurace a drobnostmi orientovanými na zvláštní potřeby...


 
© 2005-2019 PS Media s.r.o. - digital world