Přichází armáda robotických hlídačů – budou o vás vědět vše a my se budeme měnit

Co se stane, když na záběry z bezpečnostních kamer použijeme výkonné analytické nástroje? Jsme připraveni na bezpečnostní kamery s vlastní umělou inteligencí? Budeme se neustále cítí jako řidič, za kterým jede policejní vůz?

V některých zemích světa vás již nyní sleduje bdělé oko kamerového systému prakticky pořád. Například v Číně visí kamery téměř všude, na ulicích, v restauracích a barech, systém komunistické velmoci je jedním z nejpropracovanějších ve světě a stát kontroluje své občany již na více než 200 milionech kamer, z nichž mnoho disponuje rozpoznáváním tváří.

Jay Stanley, vedoucí bezpečnostní analytik American Civil Liberty Union’s speech, privacy, and technology project, prozkoumal tento problém ve své padesátistránkové zprávě z roku 2019 a tvrdí, že inteligentní kamery představují hlavní hrozbu pro naše soukromí. Stanleyho výhled do budoucnosti je hrozivý. ,,Přichází armáda robotických bezpečnostních hlídačů,“ varoval článek na blogu ACLU ,,Free Future“.

Dnešní kamery mohou zachytit video ve vysokém rozlišením a poté jej přenést do cloudu, kde ho uloží a následně analyzují, upozorňuje zpráva, která zkoumá problémy v nově vznikajícím odvětví „video analýzy“ ve výši 3,2 miliardy dolarů. Nyní se blížíme k okamžiku rozšíření kamer o AI, tedy umělou inteligenci. „Je to, jako by kolem nás vyrůstal velký hlídací a sledovací stroj, do značné míry němý a inertní, a ten se nyní probouzí. “ napsal Jay Stanley.

ACLU se snaží předpovědět, jaké technologie mohou přijít. ,,Zjistili jsme, že schopnosti, které se počítačoví vědci snaží rozvinout, pokud by byly aplikovány na dohled a marketing, by vytvořily svět děsivě vnímavých a bystrých hlídačů sledujících naše životy.“ Umělá inteligence již dokáže rozpoznat činnosti, které lidé provádějí, jako je např. nasazení klobouku nebo sundání brýlí. Zpráva však také varuje, že umělá inteligence již dokáže rozpoznat emoce, chování a „vzorce našich pohybů“.

Zpráva ACLU zdůrazňuje, že dnešní nejmodernější kamery nabízejí senzory s velmi vysokým rozlišením a noční vidění, a že AI se nyní používá pro zpětné zvýšení rozlišení záběrů. Mezi další formy výpočtů nad záběry patří možnost zaostření poté, co byl snímek pořízen, a to nejen zachycením intenzity světla, ale také směrem paprsků světla.

Zpráva pak uvádí studii, která v roce 2014 zjistila, že Amerika má jednu sledovací kameru na každých 8,1 lidí, tedy v té době více než kterýkoli jiný národ na Zemi. I když zde se dá o platnosti tohoto výzkumu pochybovat, kamery a jejich využití v Číně patrně již překročily počet 200 miliónů.

Policie v Chicagu má přístup k 20 000 kamerám a řada dalších měst pracuje na integraci soukromých kamer do policejních sítí.

Zpráva rovněž uvádí sofistikovaný kamerový systém v New Yorku, který byl vyvinut ve spolupráci se společností Microsoft a který zahrnuje jak videokamery, tak čtení registračních značek automobilů. V roce 2012 policejní komisař Ray Kelly uvedl, že systém již může sledovat, kde se nachází auto spojené s podezřelým, a kde bylo v minulých dnech, týdnech nebo měsících. A pokud je objeven podezřelý balíček, NYPD se může okamžitě ohlédnout zpět v čase a zjistit, kdo ho tam nechal a pak také určit, kam tato osoba šla.

Ale proč se zastavit jen u čtení značek a podobných maličkostí? Při pohledu na budoucnost se zpráva ACLU ptá, zda bude tato technologie použita preventivně. Dalším cílem výzkumu v oblasti dohledu je provádět analýzu chování/života na subjektech a odhalit zákonitosti jejich pohybů a činností, aby se dalo předpovídat, kde budou, nebo spustily varování v případě, když se objeví anomálie v chování sledovaných subjektů.

A co všechny videozáznamy, které již byly zachyceny v průběhu let? ,,Stejné analytické schopnosti, které umožňují kontrolu v reálném čase, umožňují také analýzu již existujících záznamů,“ uvádí zpráva ACLU.

Zpráva poskytuje více příkladů toho, kde se již používají tyto technologie. Byl nainstalován software pro video analýzu, která detekuje podezřelé nebo neobvyklé chování ve školách v okolí Parklandu na Floridě, kde došlo v roce 2018 k masové vraždě, když bývalý student zabil na škole 17 osob a dalších 14 zranil. Komerční železnice je začaly používat pro sledování bezpečnosti již v roce 2007. Prý tak mohou odhalit zloděje ještě před tím, než něco ukradnou díky rozpoznávání příznaků, jako je neklid či jiná potenciálně podezřelá řeč těla. Stejně tak je možné využít hlasovou analýzu ukazující emoce odposlouchávané osoby.

Aktuálně v době Covidu-19 se nejen čínské, ale vlastně všechny světové společnosti předhánějí ve schopnostech odhalit potencionálně nakažené jedince díky schopnosti snímat infrakamerami teplotu lidí.

Cloudové služby společností Amazon nebo Microsoft umožňují provádět analýzu nad sebranými záznamy, a to již začaly využívat například bankovní společnosti na svých pobočkách, kdy kamery zde umístěné nahrávají osoby pohybující se po prostorách banky a vyhodnocují anomálie v chování osob, aby bylo možné předejít již tipování zabezpečení pobočky, či rovnou přepadení banky. Kamery s vlastním AI data vyhodnocují a do cloudu k další analýze přenášejí záznamy až v případě, kdy mají dojem, že dochází k anomálii a chování subjektu si vyžaduje hlubší analýzu. Tím se samozřejmě nepřetěžují datové linky a přenáší se opravdu až data důležitá pro další rozhodování.

Další velká změna v dohledu může přijít ruku v ruce s bádáním na zcela jiných projektech, jako je například výzkum autonomních vozidel či bojových prostředků, tedy analýza video dohledu bude čím dál tím více sofistikovaná a inteligentnější. Pokud počítač dokáže rozumět tomu, co vidí skrze své kamerové oči natolik dobře, aby umožnil robotovi pohybovat se po celém světě a interagovat s lidmi, může pochopit mnoho z toho, co se děje v streamu dohledové kamery.

A s rychlým tempem změn se může sledování našich životů neustále rozšiřovat a konstantně utvářet a formovat naše chování, které se díky inteligentnímu dohledu změní. Vzpomeňte si na vaše pocity a chování, když se za vámi na silnici objeví policejní auto. Chceme se tak cítit za všech okolností?

A co se stane, když budou kamerové systémy skutečně znát naše jména a identity? Pamatujete si scénu, jak v slavném sci-fi filmu Pátý element auto identifikuje a následně informuje Korbena Dallase v podání skvělého Bruce Willise o všech jeho prohřešcích?

Využití rozpoznání tváře je obrovská hrozba v oblasti soukromí, která má potenciál proměnit každou sledovací kameru v digitální kontrolní bod, uzel v komplexní distribuované sledovací síti zachycující totožnost, asociace a umístění lidí ve velkém měřítku.

Co se stane, když kamery dokážou správně odhadnout podrobnosti naší sociální interakce s ostatními?

Zpráva ACLU nakonec varuje před všudypřítomnými kamerami poháněnými umělou inteligencí a jejich možným dopadem na společnost, která když bude vědět, že je neustále sledována, změní se na chvějící se neurotické bytosti žijící v psychologicky utlačovatelském světě, ve kterém si neustále uvědomujeme, že každý náš nejmenší tah je mapován, měřen a hodnocen proti podobným jednáním milionů dalších lidí a potom nás soudí nepředvídatelným způsobem.

V závěru zprávy se říká, že tvůrci bezpečnostních politik se musí vypořádat s obrovskou silou této technologie. Měli by zakázat jeho využití pro hromadný dohled, omezit jeho nasazení a vytvořit pravidla pro minimalizaci zneužití.

Všichni si asi vzpomeneme, jak v říjnu loňského roku správkyně Hongkongu Carrie Lamová vydala zákaz zakrývání tváře během protičínských demonstrací právě z důvodu, že pokud se po ulicích pohybují maskovaní lidé, je pro dohledové centrum inteligentního města složité, nebo vlastně téměř nemožné využít již zmíněnou video analýzu, která by umožnila předvídat kroky davu a jednotlivých demonstrantů a jednoznačně určit, kdo se na demonstracích podílel.

V listopadu 2019 Hongkongský nejvyšší soud označil tento zákaz za neústavní.

Nejdůležitějším poselstvím zprávy ACLU z roku 2019 ale je, že videoanalytika je jen jedním z příkladů vznikající infrastruktury dohledu.

Zdroj: www.aclu.org, thenewstack.io