21.2.2018 14:10 | Správy

Teslu v Bratislave nehackli. Prečo si to známy exhacker vymyslel

Tesla Model X po jednom z viacerých medializovaných incidentov.
Tesla Model X po jednom z viacerých medializovaných incidentov. Zdroj: Puzant Ozbag

Umelá inteligencia a autonómne technológie môžu zlepšiť svet. Prináša to ale so sebou aj možné riziká.

Trojica Slovákov mala v Bratislave úspešne oklamať Teslu. Jemne zmenenou dopravnou značkou jej mali umožniť vchod do jednosmernej cesty. Aspoň to na svojom blogu na prelome nového roka napísal cloudový expert a bývalý hacker Miroslav Pikus.

V skutočnosti vymyslenú príhodu Pikus podložil viacerými reálnymi prvkami a faktami, čím jej pridal na dôveryhodnosti. Vysvetľoval, ako funguje umelá inteligencia (AI), strojové učenie a ako sa dajú oklamať podsúvaním podvrhnutých dát.

„Zaujímalo ma, ako moje okolie vníma AI a kde v tom príbehu umiestni čiaru medzi pravdou a fikciou,“ vysvetlil IT odborník pre Živé.sk. Na základe reakcií usudzuje, že Slováci nastupujúcim technológiám veľmi nerozumejú.

Zároveň chcel na tému umelej inteligencie otvoriť verejnú diskusiu. Myslí si totiž, že s ňou súvisiace strojové učenie so sebou prináša hneď viacero otázok, ktorými by sme sa mali zaoberať už dnes. Legislatívnych, technických i spoločenských.

Miroslav Pikus

Autor citovaného blogu bol ešte do konca minulého roka šéfom cloudových služieb Slovak Telekomu. Aktuálne je cloudovým expertom IT spoločnosti Exe. V minulosti pracoval aj ako CTO v spoločnosti Websupport či riaditeľ obchodu a marketingu firmy Eset.

Hacknuté dáta

Fiktívny príbeh sa odohrával v Bratislave, kde mal Pikus spolu s ďalšími Slovákmi čakať na bielu Teslu Model X, ktorej majiteľ býval o pár ulíc ďalej.

Na značku zákazu odbočenia doľava spolu umiestnili špeciálne pripravený polep. Prispôsobili ho tak, aby na pohľad ďalej vyzeral ako bežné dopravné značenie. Zároveň bol ale určený na oklamanie autonómnych funkcií vozidla. Líšiť sa mal len úpravou niekoľkých pixelov, ktorú si človek bežne ani nevšimne. Keď ale elektromobil dorazil ku križovatke, odbočil doľava – napriek zákazu.

Štúdia zameraná na úpravu vstupných dát dokázala, že rozpoznávacie schopnosti AI sa dajú výrazne znížiť či dokonca oklamať (video je v angličtine):

Vymyslená situácia mala naznačiť, že v budúcnosti sa môžeme stretnúť s úplne inými bezpečnostnými hrozbami, a to aj u technológií, ktoré boli vytvorené z veľkej časti práve pre ochranu ľudských životov.

„Čo je dnes fikcia, môže byť zajtra realita,“ povedal Pikus odkazujúc, okrem iného, na AlphaZero – AI projekt Googlu. Ten sa za pár hodín naučil hrať šach, aby mohol následne jednoznačným spôsobom poraziť doposiaľ najprepracovanejší šachový softvér Stockfish 8.

Poučme sa zo sci-fi

„Pri adopcii nových technológií by malo nadšenie z pokroku vyvažovať triezve uvažovanie o potrebe a rizikách. Superinteligentné AI je ešte ďaleko, ale na dosah sú veci, ktoré vedia v zlých rukách narobiť problémy,“ myslí si IT odborník. Ako príklad spomenul Islamský štát, ktorý experimentoval s autonómnymi dronmi, či skúšanie strojového učenia pri kybernetických útokoch Severnou Kóreou.

Umelá inteligencia by podľa jeho názoru mala byť regulovaná štátom. Časť legislatívy pritom zrejme preberieme v rámci členstva v EÚ. Príkladom citlivej oblasti, kde by bol dohľad zákona na mieste, sú vraj osobné dáta. „Strojové učenie funguje tak, že algoritmus Google síce vie, že je žena tehotná, ale nevie, čo to znamená, ani že je to citlivý údaj. Toto by mali naše orgány ozrejmiť a ustrážiť, v tomto prípade Úrad na ochranu osobných údajov,“ myslí si Pikus.

„Je zaujímavé, že všetky filmy vykresľujú budúcnosť negatívne, no aj tak sa do nej hrnieme.“
- Miroslav Pikus

Vraj by sme sa pritom mohli inšpirovať sci-fi literatúrou. „Veľa z otázok, ktoré máme dnes čerstvo na stole, je už dávno do hĺbky rozobratých autormi vedeckej fantastiky,“ pripomína cloudový expert. Myslí si, že diela ako R.U.R. či Vojna s mlokmi Karela Čapka dnes dostávajú celkom nový zmysel.

Prečo sa Musk bojí umelej inteligencie?


Obzvlášť zaujímavá fikcia sa vzťahuje k jednej z postáv – Oberheimovi, ktorý mal v minulosti pracovať v Tesle na vývoji funkcie autonómnej jazdy. Prezrádza veľkú, hoci vymyslenú zaujímavosť: z čoho pramení veľká obava Elona Muska z AI.

Elektromobily v rámci vývoja prechádzali miliónmi počítačových simulácií, z ktorých si podľa imaginárneho zamestnanca Tesly privlastnili určitý „pud sebazáchovy“. K dôležitej udalosti následne malo prísť počas jedného z crash testov Modelu S, ktorý si to musel dobrovoľne namieriť proti múru. „Ľudský príkaz bol jasný – rozbehnúť sa do steny. Ale auto cuklo,“ písal cloudový expert. Inžinieri Tesly vraj na spomalených záberoch videli, ako auto zaváhalo, fabuluje Pikus.

„To bolo už pár rokov dozadu a to bol okamih, kedy sa Elon Musk naľakal AI, zasvätene vysvetľuje Oberheim. Potom nám ešte autá párkrát odmietli poslušnosť, ale všetko sa ututlalo. A potom som odišiel,“ napísal Pikus vo svojej krátkej poviedke.

Celý pôvodný text Miroslava Pikusa nájdete na tomto odkaze.

 

Do autonómneho auta nesadnem

Fikcia v podobe oklamania Tesly je nenápadným príkladom oveľa závažnejších situácií a následkov, ku ktorým môže v budúcnosti dôjsť pri zneužití alebo oklamaní AI.

V príbehu na svojom blogu Pikus tvrdí, že do autonómneho auta v živote nesadne. Tentoraz ide čiastočne o pravdu. Nikdy by si ho vraj nekúpil, no nie z obavy, že raz jeho inteligencia prerastie tú ľudskú. Naopak, bojí sa jednoduchšieho scenára – hackerov.

„Ak prečítali Clintonovej e-maily, prečo by nehackli vaše autonómne auto,“ povedal pre Živé.sk. Bezpečnosť smart technológií by sa údajne mohla stať brzdou rozvoja.

„V ére, kedy má v sebe každá vec vlastný počítač, môže byť práve bezpečnosť brzdou rozvoja.“
- Miroslav Pikus

Automobilky sú pritom ukážkovým príkladom segmentu, ktorý mal v posledných rokoch veľké problémy s bezpečným zavedením čo i len základných smart prvkov. Zraniteľnosti boli odhalené hneď u viacerých výrobcov, medzi ktorých patrila aj česká Škoda. Útočníci sa dokázali nabúrať do jej palubnej Wi-Fi a kradnúť cez ňu telemetrické dáta o vozidle, napríklad o stave paliva. Problémy so softvérom mali aj BMW, Ford, Land Rover či Toyota.

Najväčší problém ale zaznamenal koncern Fiat Chrysler. Výskumníci totiž dokázali na diaľku ovládať plyn, brzdy či za istých okolností aj volant Jeepu Cherokee. Išlo tak o bezprostredné ohrozenie života, na ktoré výrobca reagoval zvolávacou akciou 1,4 milióna automobilov.

Andrej Karpathy (zdroj: Andrej Karpathy, Facebook)
Čítajte aj Autopilot Tesly má nového šéfa pre AI. Pochádza zo Slovenska

Diskusia 20 Príspevkov