Chyba kamery spravila z neho kriminálnika. Nevinný vodič skončil s pištoľou pri hlave
Moderné technológie v doprave majú zvyšovať bezpečnosť a pomáhať polícii pri odhaľovaní kriminálnikov. Čo sa však stane, keď algoritmus urobí chybu a policajná hliadka mu slepo uverí? Presne túto nočnú moru zažil na vlastnej koži vodič a známy automobilový novinár Joel Feder z portálu The Drive. Incident sa odohral v jeho domovskom meste Plymouth v americkom štáte Minnesota. Jeho desivá skúsenosť so sledovacím systémom Flock Safety obletela svet.
4 policajné autá za chrbtom
Celý prípad sa začal úplne nevinne počas bežného pracovného týždňa. Joel Feder mal v redakčnom teste luxusný Range Rover v hodnote 155 000 dolárov, čo je v prepočte približne 140 000 €. Netušil však, že pri každej jazde mestom ho v tichosti sledujú AI kamery na cestách. Tento systém automatického čítania evidenčných čísel prevádzkovala súkromná spoločnosť Flock Safety. Keďže novinár parkoval testovacie vozidlo doma v uzavretej garáži, policajné hliadky jeho stopu niekoľko dní po sebe strácali.
K dráme došlo až v nedeľu na parkovisku pred obchodným domom Kohl’s. Feder nasadol so svojou manželkou do auta a zaradil spiatočku. V tom na displeji parkovacej kamery zbadal štyri policajné vozidlá so zapnutými majákmi, ktoré mu úplne zablokovali únikovú cestu.
Policajti mu okamžite prikázali vystúpiť s rukami nad hlavou. Následne oboch manželov oddelili a podrobili ich krížovému výsluchu priamo pred zrakmi nakupujúcich. Hliadky totiž vôbec nepochybovali o tom, že chytili nebezpečného zlodeja luxusných áut.
Jeden preklep v systéme
Vysvetliť ozbrojeným policajtom počas víkendu, prečo šoférujete cudzie luxusné SUV bez technického preukazu na vlastné meno, bolo mimoriadne náročné. Až po zdĺhavom overovaní dokumentov od automobilky Jaguar Land Rover a neskoršom zverejnení policajnej správy vyšla najavo pravda. K žiadnej krádeži auta v skutočnosti nikdy nedošlo.
Problém vznikol tisíce kilometrov ďaleko. Počas reklamného fotenia v Los Angeles sa totiž stratila registračná značka z úplne iného flotilového vozidla. Táto tabuľka mala špecifické označenie NJ 34(03)DTM, pričom číslice „03“ boli vytlačené menším písmom nad pomlčkou. Pri nahlasovaní straty do policajnej databázy však úradník urobil banálnu chybu. Značku do systému zapísal v zjednodušenom tvare ako 34DTM.
Práve v tomto momente zlyhala technológia. Generálny riaditeľ spoločnosti Flock Safety Garrett Langley neskôr priznal, že ich systém dostal príkaz hľadať kombináciu 34DTM. Kamera v Minnesote zachytila Federov Range Rover, ktorý mal na značke okrem týchto znakov aj vložené číslo 10. Hoci optika rozdiel videla, algoritmus vyhodnotil čiastkovú zhodu ako hrozbu a okamžite zalarmoval políciu. Hliadka si už detaily v databáze neoverila a rovno zasiahla proti nevinnému vodičovi.
Mesto po 5 hodinách búrlivej debaty kamery vyplo
Príbeh neprávom zastaveného novinára vyvolal v USA obrovskú vlnu verejného pobúrenia. Tri mesiace po incidente sa mestská rada v Plymouthe stretla na mimoriadne napätom zasadnutí, ktoré trvalo takmer päť hodín. Výsledok hlasovania napokon prekvapil aj samotných kritikov. Poslanci v pomere 6 : 1 rozhodli o okamžitom ukončení zmluvy so spoločnosťou Flock Safety. Mesto tak natrvalo vyplo všetkých 16 pevných kamier. Spolu s mobilnými jednotkami pritom polícia využívala až 18 zariadení, ktoré za jediný mesiac zosnímali viac ako 580 000 evidenčných čísel.
Neprehliadnite: Slováci doplácajú na agresívne vyblikávanie, hrozí pokuta 60 € aj strata vodičáku
Mestskí poslanci sa zhodli, že dôvera verejnosti v tento systém klesla na bod mrazu. Okrem chybného zásahu voči novinárovi totiž vyplávali na povrch aj ďalšie celonárodné škandály. Vyšetrovanie v USA odhalilo, že najmenej 50 policajtov čelilo obvineniam zo zneužitia kamerových dát na súkromné účely. Niektorí príslušníci dokonca systém využívali na nelegálne sledovanie svojich bývalých partneriek. Okrem toho mali k lokálnym záznamom nekontrolovaný prístup aj federálne úrady, čo priamo odporovalo zákonom štátu Minnesota.
„Podporujem policajtov na 100 percent v tom, aby mali potrebné nástroje. Nie som si však istá, či dôverujem tomuto nástroju a či je to technológia, ktorú naše mesto potrebuje,“ uviedla počas rokovania členka mestskej rady Julie Pointner.
Jej kolega Joel Spoonheim, ktorý pôsobil viac ako 15 rokov v zdravotníctve, zasa ostro skritizoval slabú ochranu citlivých údajov o pohybe vodičov. „Ľudia hovoria o tom, že sledovanie tolerujeme už pri smartfónoch vo vrecku. Veľký rozdiel medzi telefónom a týmito kamerami je však v tom, že nechcem, aby ma systém sledoval za moje vlastné dane,“ dodala poslankyňa Julie Peterson. Jediným zástancom systému zostal starosta Jeffry Wosje, ktorý upozorňoval na prínos kamier pri vyšetrovaní násilných trestných činov.
Ako fungujú AI kamery na cestách na Slovensku a aké pokuty hrozia?
Kauza z americkej Minnesoty prichádza v čase, keď sa automatizované systémy stávajú horúcou témou aj pre slovenských motoristov. Aj na Slovensku totiž štátne orgány vo veľkom využívajú kamery s automatickým rozpoznávaním evidenčných čísel (EČV). Vodiči sa s nimi denne stretávajú pri kontrole diaľničných známok, na mýtnych bránach, hraničných priechodoch či v policajných vozidlách pátrajúcich po kradnutých autách.
Okrem toho sa od septembra na Slovensku výrazne rozšíril zoznam dopravných priestupkov, ktoré dokážu automaticky odhaľovať moderné AI kamery na cestách v režime objektívnej zodpovednosti. K doterajším 11 povinnostiam pribudli ďalšie 3 priestupky, za ktoré príde pokuta priamo držiteľovi vozidla do schránky bez zastavenia hliadkou:
-
Nedodržanie bezpečnej vzdialenosti: Kamery a radary dokážu presne prepočítať časový odstup medzi vozidlami. Na diaľnici musí tento rozostup predstavovať minimálne 2 sekundy pre osobné autá a 3 sekundy pre nákladné vozidlá či autobusy kategórií M3, N2 a N3.
-
Držanie telefónu počas jazdy: Nové kamery s umelou inteligenciou detailne analyzujú obraz priamo z interiéru vozidla. Algoritmus pritom vyhodnocuje polohu rúk vodiča a prítomnosť mobilu pri uchu alebo v ruke. Za tento prehrešok hrozí na Slovensku pokuta až do výšky 150 € na mieste a do 300 € v správnom konaní.
-
Nepoužitie bezpečnostného pásu: Umelá inteligencia zo snímky čelného skla automaticky rozpozná, či je vodič alebo spolujazdec počas jazdy riadne pripútaný.
Majú sa teda Slováci obávať rovnakého zlyhania, aké zažil americký novinár? Dobrou správou je, že európska legislatíva chráni súkromie vodičov neporovnateľne prísnejšie než americké zákony. Na Slovensku podlieha prevádzka policajných systémov prísnym pravidlám nariadenia GDPR aj európskemu Aktu o umelej inteligencii.
Súkromná komerčná firma u nás nemôže len tak rozmiestniť tisíce kamier, ukladať si kompletnú históriu pohybu každého občana a predávať prístup do databázy tretím stranám. Navyše platí, že pri objektívnej zodpovednosti na Slovensku musí každý vygenerovaný záznam o priestupku pred odoslaním pokuty fyzicky skontrolovať a podpísať reálny policajt.
Prípad Joela Federa je učebnicovým dôkazom toho, že umelá inteligencia v doprave môže byť dobrým sluhom, ale veľmi nebezpečným pánom. Kamery na čítanie EČV nepochybne pomáhajú pri hľadaní skutočných zločincov a ukradnutých vozidiel. V momente, keď však štát alebo polícia zveria spravodlivosť do rúk neoverených algoritmov súkromných firiem bez dôslednej kontroly, doplatia na to nevinní motoristi.
S príchodom nových AI kamier na slovenské cesty je preto kľúčové, aby mala naša polícia nad automatickým systémom vždy stopercentný ľudský dohľad. Žiaden softvér na svete totiž nedokáže nahradiť zdravý úsudok a základné overenie faktov predtým, než systém niekoho označí za nebezpečného páchateľa.
Zdroje: The Drive
Automobilovej žurnalistike sa venujem už od roku 2017. Som fanúšikom technológií a elektromobilov, no napriek tomu si myslím, že k niektorým autám poctivá strojovňa jednoducho patrí.
