Jak jste se dostal k IT a počítačům?
Kódoval jsem už v šesti letech u babičky na počítači, kde jsem vytvářel webové stránky. Od té doby jsem začal programovat a vytvářet mobilní aplikace. Zhruba ve svých čtrnácti letech jsem se pustil do machine learningu a AI. Impulzem pro mě bylo setkání s neslyšícím člověkem, kterému jsem chtěl pomoci komunikovat s počítačem a telefonem.
Zlomem v oblasti deepfake a fake news byla pro Vás válka na Ukrajině?
Přesně tak. Už před jejím začátkem jsme měli vyvinuté systémy, které jsme dali k dispozici americkým bezpečnostním složkám a Bílému domu. Po ruské invazi jsme poprvé viděli velký prominentní deepfake, patrně vytvořený v Rusku. Fiktivní prezident Ukrajiny v něm říkal národu, ať složí zbraně a přestane bojovat. To video se dokonce dostalo do televize a sám Zelenskyj musel následně vysvětlovat, že se jedná o podvrh. Z dnešního pohledu už je to video směšné, ale tehdy to lidé viděli na malé obrazovce a věřili tomu. Také Ukrajině jsme proto zdarma poskytli naše technologie na rozeznávání podobných podvrhů.
V Česku se před prezidentskými volbami šířilo obdobné video, ve kterém Petr Pavel nabádal k válečné mobilizaci.
Ještě před 4 lety jsme si mysleli, že tyto podvrhy budou hlavně o velkých známých osobnostech. Deepfake je ale dnes tak jednoduché vytvořit, že v rizikové zóně je v podstatě kdokoliv, ne jen prezident nebo politici. Může se jednat o finanční nebo bezpečnostní scam, kdy vám přijde e-mail, telefonát nebo videohovor od příbuzného či kamaráda. Proto je potřeba naše technologie dostat k co nejvíce lidem a zároveň je o nových hrozbách edukovat.
Dokázal byste Vaši technologii laicky popsat?
Jedná se o třívrstvý systém ochrany, který jsme vytvořili společně s Vodafonem. Nejnižší vrstva je přímo na síti, kde jsme schopni zákazníkům odchytávat deepfake hovory nebo různé podvody. Poté jde ochrana o úroveň výše, na videohovory typu Teams nebo Google Meet. Zároveň je v telefonu vestavěná aplikace, která dokáže zanalyzovat pravost fotky nebo jiného média. Celá technologie je koncipována tak, aby vás v živém čase upozornila na možné riziko, a nemusel jste tak sám nic zkoumat.
Nebudou ti útočníci vždycky o krok napřed?
Určitě se o to budou snažit, s naším týmem ale vždy chceme být o další krok před nimi. Své modely a strategie stavíme interně a následně se je sami pokoušíme rozbít a najít jejich slabá místa nebo zadní vrátka.
Redakce
Nejste trnem v oku Donalda Trumpa a dalších politiků, kteří si na pozměněných videích „postavili svou živnost“?
Ať už jsou něčí politické ambice dobré nebo špatné, tak se určitě v Americe i v Evropě blíží moment vzpamatování a uvědomění, že deepfake obsah by měl být omezen či zastaven.
Co vlastně studujete na Stanfordu?
Studuji počítačovou vědu se zaměřením na bezpečnost a forenzní vědy. To, co jsem dříve dělal po nocích a jako koníček, je dnes pro mě práce. Výzkum mě baví a přijde mi skvělé, že je tu nová disciplína v podobě AI. V té je toho spousta, co ještě nevíme, neznáme a nechápeme. Biologie, fyzika nebo chemie potřebují nějaký rozpočet, laboratoř a další podmínky. U umělé inteligence nic takového není potřeba.
Čeho chcete na univerzitě docílit?
Ze Stanfordu si chci odnést hlavně zkušenosti a kontakty. Jsou tam přední experti z různých oblastí a dal jsem si takovou interní výzvu, že se chci každý týden pobavit alespoň s jedním novým člověkem. Zároveň tam vidím velmi dobře fungující diskurs napříč stranami, což podle mě ve společnosti často chybí.
