Kamery zlyhávajú: Policajtom uniknú lacné autá s týmto polepom
Na prvý pohľad vyzerá ako staršia Toyota Yaris po veľmi extravagantnom tuningu. Farebný vzor na jej karosérii však nevznikol preto, aby auto pútalo pozornosť ľudí. Presne naopak. Jeho úlohou bolo dosiahnuť, aby vozidlo prestal „vidieť“ počítač. Experiment v Las Vegas ukázal zaujímavú slabinu moderných kamerových systémov využívajúcich umelú inteligenciu.
Za pokusom stojí expert na kybernetickú bezpečnosť Bill Swearingen a jeho projekt noRecognition. Na konferencii DEF CON 2026 použil obyčajnú Toyotu Yaris z roku 2009, ktorej karosériu pokryl špeciálne vytvoreným vzorom.
Výsledok bol pozoruhodný. Kamera vozidlo fyzicky zaznamenala, no automatizovaný systém mal problém pochopiť, na čo sa vlastne pozerá.
Kamera fungovala, zlyhal algoritmus
Nejde o žiadnu neviditeľnosť v doslovnom zmysle. Človek stojaci pri ceste by Yaris videl úplne normálne a pre jeho výrazný vzhľad by si ho možno všimol ešte skôr ako bežné auto.
Rozdiel nastáva pri počítačovom spracovaní obrazu. Experiment bol namierený proti systému spoločnosti Flock Safety, ktorá prevádzkuje rozsiahlu sieť automatických kamier na rozpoznávanie vozidiel a evidenčných čísel v Spojených štátoch. Podobné systémy nefungujú iba ako obyčajný fotoaparát. Softvér musí najskôr na zábere rozpoznať, že sa pred kamerou nachádza automobil, a následne môže analyzovať ďalšie údaje.
Práve tento prvý krok sa výskumníci pokúsili narušiť.
Yaris pokryli nezvyčajným grafickým vzorom vytvoreným pomocou strojového učenia. Ten je navrhnutý tak, aby narušil spôsob, akým algoritmus rozpoznáva objekty. Kamera teda naďalej zaznamenáva obraz, ale softvér môže mať problém označiť objekt ako automobil.
Počas verejnej demonštrácie na DEF CON v Las Vegas sa podarilo dosiahnuť práve takýto výsledok. Systém Flock vozidlo zaznamenal, no podľa autorov experimentu ho automaticky neidentifikoval ako auto.
Predchádzalo tomu 31 miliónov testov
Za zvláštnym dizajnom nie je náhodná kombinácia geometrických tvarov. Swearingen na projekte pracoval približne rok a pri vývoji vykonal okolo 31 miliónov automatizovaných testov.
Cieľom bolo nájsť grafické vzory, ktoré človeku nepripadajú nijako výnimočné z hľadiska rozpoznania predmetu, no dokážu zmiasť algoritmus počítačového videnia.
Ide o takzvané adversarial patterns, teda vzory zámerne vytvorené tak, aby využívali slabé miesta neurónových sietí.
Predstavte si ich ako optický klam určený pre počítač. Ľudský mozog okamžite vyhodnotí, že pred ním stojí Toyota. Algoritmus analyzuje množstvo obrazových charakteristík a vhodne vytvorený vzor môže jeho istotu výrazne znížiť.
Projekt noRecognition podľa svojho autora skúšal túto metódu proti 11 open-source algoritmom na rozpoznávanie objektov.
Moderné kamery nehľadajú iba evidenčné číslo
Práve to robí experiment zaujímavým aj pre motoristov. Kamerové systémy na cestách sú čoraz sofistikovanejšie a automatické rozpoznávanie evidenčných čísel je iba jednou z ich možností.
Počítačové videnie dokáže rozlišovať automobily, motocykle, nákladné vozidlá či ľudí. Následne môže systém vyhľadávať evidenčné číslo alebo ďalšie charakteristiky vozidla.
Ak však algoritmus nesprávne vyhodnotí už základný objekt, môže zlyhať aj ďalšia časť automatizovaného procesu.
Experiment preto neukazuje, že by všetky moderné kamery bolo možné jednoducho oklamať polepom auta. Výsledok sa týkal konkrétnej demonštrácie a technológie a výrobcovia môžu svoje algoritmy ďalej meniť a trénovať.
Súboj kamier a ich maskovania sa iba začína
Podobné experimenty sa netýkajú iba automobilov. Výskumníci už v minulosti skúšali špeciálne potlače na oblečení či obrazové vzory, ktoré dokážu znížiť úspešnosť automatického rozpoznávania človeka.
Vzniká tak zvláštny technologický súboj. Na jednej strane sú stále výkonnejšie kamery a algoritmy, ktoré dokážu analyzovať obrovské množstvo záberov. Na druhej strane vznikajú metódy, ktorých jediným cieľom je nájsť v týchto algoritmoch slabinu.
Toyota Yaris z Las Vegas pritom ukázala paradox celej technológie veľmi názorne. Auto nebolo schované, nemalo zakrytú karosériu a človek ho mohol bez problémov vidieť. Dokonca ho zaznamenala aj samotná kamera.
Problém nastal až vo chvíli, keď mal počítač rozhodnúť, čo sa na zábere vlastne nachádza. A práve to môže byť pri čoraz väčšom využívaní umelej inteligencie na cestách oveľa dôležitejšie, než sa na prvý pohľad zdá.
K autám to Alexa ťahalo odmalička. Dnes rád mapuje kľúčové zmeny v automobilovom sektore a dopravných predpisoch. Rozumie témam, ktoré trápia moderných motoristov, a snaží sa ich vysvetľovať ľudskou rečou. Okrem toho, že Alex Šefčík upozorňuje vodičov na blížiace sa zmeny, rád píše o novinkách vo svete automoto. Na autá sa pozerá hlavne prakticky z pohľadu toho, čo prinášajú ľuďom v každodennom živote. E-mailový kontakt pre pripomienky a návrhy tém: alexsefcik20@gmail.com
