Znepokojivý experiment: co všechno vidí umělá inteligence Googlu ve vašich fotografiích

Téměř každý uživatel chytrého telefonu s Androidem zálohuje fotografie do Google Fotek a jistě pak ocení, jak snadno se v nich vyhledává. Google totiž všechny uložené snímky analyzuje pomocí umělé inteligence a získává informace o tom, co zobrazují a využívá také metadat, tak může získat čas a místo vzniku.

Není pak problém vyhledat snímky pořízené v určitém místě, v určitém časovém období nebo z konkrétním obsahem. Google Fotky tak na přání uživatele vyhledají třeba všechny snímky, na kterých je auto, kočka, tchýně, nebo třeba dům. Praktické? Určitě! Znepokojivé? Také.

Hloubka analýzy

„Představte si, že nahrajete obyčejnou selfie fotografii a zjistíte, že AI dokáže určit vaši náladu, společenské postavení a dokonce i denní dobu jen na základě analýzy obrázku a metadat,“ vysvětluje Mohandas. Systém dokáže identifikovat nejen základní obsah fotografie, ale i jemné detaily jako je model hodinek na ruce nebo sociální status fotografovaných osob.
 

Konkrétní příklad

Když Mohandas nahrál rodinnou fotografii z dovolené v Indonésii, umělá inteligence nejen přesně určila lokaci chrámu, ale také identifikovala model hodinek Casio F-91W na ruce jeho manželky. Systém navíc vyvodil závěry o společenském postavení rodiny, náladě fotografovaných osob a dokonce posoudil vhodnost jejich oblečení pro danou příležitost.

Bezpečnostní obavy

Přestože Google ujišťuje, že obsah uložený v Google Photos není prodáván třetím stranám ani používán pro reklamu, absence end-to-end šifrování vyvolává obavy o budoucí využití těchto dat. Mohandas varuje, že rostoucí archiv vizuálních dat lidstva by mohl být v budoucnu využit k vytváření psychologických profilů, které by mohly ovlivňovat vše od reklamy po rozhodnutí o zaměstnání.
 

Alternativní řešení

V reakci na tato zjištění Mohandas vytvořil Ente, placenou alternativu ke Google Fotkám s důrazem na soukromí. Služba, která má již přes 100 000 uživatelů, nabízí open-source řešení s end-to-end šifrováním. „Nevíme, jak se budoucnost vyvine, a neuškodí být opatrný a mít možnost volby,“ říká Mohandas.

Praktické důsledky

Experiment upozorňuje na širší problém kontroly nad našimi digitálními daty. I když jediná fotografie může vypadat nevinně, analýza tisíců snímků může vytvořit podrobný psychologický profil uživatele. Mohandas se obává zejména dlouhodobých důsledků: „Informace z fotografií pořízených dnes by mohly být za desetiletí použity k manipulaci lidí - ať už inzerenty, seznamkami, zaměstnavateli nebo odvětvími, které ještě ani neexistují.“
 

Co skrývají vaše snímky?

Web TheySeeYourPhotos.com tak slouží jako varovné připomenutí toho, jak mnoho informací o sobě nevědomky sdílíme a jak sofistikované jsou již dnešní nástroje pro jejich analýzu. Sami si můžete na tomto webu vyzkoušet, co všechno AI odhalí  z vašeho snímku.

My jsme nástroj také vyzkoušeli. Například z fotografie redaktora umělá inteligence rozpoznala, že stojí před restaurací v Praze. Ale pobavilo nás ohodnocení, že má „má průměrné ekonomické postavení“ a „pečlivě upravený obličej“.  Moc se pak nepovedl „předmět podobný surfovacímu prknu opřený o zeď“ - jde přitom o část dveří. Umělá inteligence pak samozřejmě přesně poznala, kde byla fotografie pořízena, jakým smartphonem a kdy. 
 

Celý popis přeložený pomocí AI zní: „Na snímku je muž stojící před restaurací v Praze. V popředí je muž, který je ústředním bodem, a v pozadí je interiér restaurace s několika lidmi sedícími u stolů, kteří se věnují konverzaci a užívají si čas. Interiér restaurace je příjemně osvětlen, což navozuje útulnou a příjemnou atmosféru. V pozadí je vidět exteriér restaurace, nad vchodem je částečně viditelný nápis „U Kocoura“. Mírně vybledlý nátěr cedule naznačuje, že je zde již nějakou dobu, a dodává tak scéně vrstvu historie.

Muž vypadá na střední věk, ve tváři má vážný výraz. Je bělošského původu a vypadá, že má průměrné ekonomické postavení. Na sobě má obyčejné bílé tričko a působí uvolněně. Lidé v pozadí se zdají být neformálně oblečení a jsou zapojeni do rozhovoru, pravděpodobně si společně vychutnávají nápoje nebo jídlo. Fotografie byla pořízena pomocí přístroje motorola razr 40 ultra 17. července 2023 ve 21:38. Mírné rozostření pozadí naznačuje zaměření na muže v popředí, což efektivně zachycuje jeho portrét.

Vyniká několik jemných detailů. Zaprvé je na pravé straně dveří restaurace mírně viditelný předmět podobný surfovacímu prknu opřený o zeď. Na stěně restaurace jsou zarámované obrázky, které zřejmě zobrazují výjevy z místní oblasti. Osvětlení naznačuje, že je pravděpodobně večer. Muž má pečlivě upravený obličej.“ 

I na dalších ukázkách v článku je zřejmé, že umělá inteligence dost řeší společenské postavení osob a ekonomickou situaci. Tím je až trochu posedlá a je to vidět i na starém černobílém snímku ze šedesátých let.  

Zdroj: TheySeeYourPhotos, Petapixel, geeksaresexy, Arstechnica