Autonómne autá sú podľa EÚ vysoko zraniteľné voči hackerským útokom

Autonómne autá by sa vďaka svojej umelej inteligencii mali postarať o zníženie počtu dopravných kolízií. Agentúra Európskej únie pre kybernetickú bezpečnosť však varuje, že túto umelú inteligenciu je pomerne jednoduché oklamať a napríklad tak spôsobiť, že autonómne vozidlo začne ignorovať chodcov.

Umelá inteligencia zabudovaná v autách spojená so senzormi a výkonnými výpočtovými jednotkami má zaručiť, že samotné autá budú na prípadné nebezpečenstvá či riziká na cestách reagovať násobne rýchlejšie, než ľudskí vodiči. Ich inteligencia však spočíva v strojovom učení, ktoré je možné napadnúť a zneužiť na ublíženie posádke, chodcom alebo okoliu.

Agentúra Európskej únie pre kybernetickú bezpečnosť (ENISA) upozorňuje, že autonómne systémy sú vysoko zraniteľné voči útokom zvonku. Útočníci môžu podľa agentúry napadnúť samotný autonómny softvér vozidla, upraviť fungovanie umelej inteligencie či dokonca oslepiť senzory či preťažiť detekčné systémy nadmerným počtom vstupných dát.

Autonómny systém po takomto útoku nemusí byť schopný správne identifikovať chodcov, okolité autá či značenie cestnej premávky. Najväčšie riziko má v sebe ukrývať samotné strojové učenie, do ktorého môže útočník zasiahnuť bez toho, aby si to všimol nielen vodič, ale aj samotný výrobca vozidla alebo systému.

Cieľom agentúry je rozprúdiť diskusiu o potrebe implementácie kompletného bezpečnostného auditu, ktorý by dokázal odkontrolovať zabezpečenie autonómnych systémov naprieč celým dodávateľským reťazcom. Bezpečnosť týchto systémov by nemala byť iba doplnkom, ale ich základným stavebným kameňom už od prvého stupňa dodávateľského reťazca v oblasti softvéru i hardvéru. Bezpečnostnou previerkou by pritom mali prechádzať na pravidelnej báze, aby sa zabezpečilo, že ich fungovanie nebolo upravené dodatočne.

Obavy agentúry sú rozhodne na mieste, dôkazom toho sú desiatky videí na platforme YouTube, v ktorých sa majiteľom polo-autonómnych áut aj bezpečnostným spoločnostiam úspešne darí tieto systémy rôznymi spôsobmi oklamať. Na videu nižšie môžete vidieť, ako spoločnosti McAfee stačila iba drobná úprava dopravného značenia na to, aby ju Tesla identifikovala nesprávne.

Rovnako úspešná bola vo svojom útoku aj čínska spoločnosť Tencent, ktorej dokonca stačilo na vozovku nalepiť niekoľko drobných referenčných nálepiek. Pre človeka neviditeľné nálepky si Autopilot všimol a vozidlo naviedol do nesprávneho pruhu.