V rámci mého prvního semestru studia Designu informačních služeb (DIS) proběhl hackathon, jehož smyslem bylo zažít si designový proces na některém zvoleném tématu. Zde je shrnutí toho, co bych si rád zapamatoval.

I. Na rozhraní

Můj hlavní vzdělávací cíl studia DIS se týká propojování tohoto oboru s oblastí kyberbezpečnosti. A díky tomu také kultivování přístupu human-centred security. V této perspektivě představoval hackathon zaměřený na deepfakes ideální příležitost ke konkrétním krokům.

Téma deepfakes jsem si do týmu přinesl sám. Na popud Simony, která mě při konzultacích vyzvala, abych se nebál být aktivní. Jsem rád, že jsem to udělal, příprava pro mě byla mnohem více zábavná a užitečná.

Zároveň mě inspirovalo to, jak se do tématu dokázali ponořit kolegové z týmu, kteří jsou mimo doménu. Z definice je to schopnost dobrého designéra. Tím, že se snažím vše propojit se svou doménou, se o tuhle zkušenost trochu okrádám.

Důvod, proč má human-centred security smysl je skutečnost, že lidi nejde od kyberbezpečnosti oddělit. Design služeb k tomu dává užitečný mindset i přístupy. Hackathon mi potvrdil smysluplnost tohoto propojování i poukázal na možné problémy.

---

II. Poznámky k průběhu

Na hackathon jsme přicházeli se základní přípravou, která vycházela z výzkumu od stolu. Věděli jsme, že deepfakes jsou problém i na jakou část problému se chceme zaměřit.
Konkrétněji designová výzva zněla:

Jak bychom mohli pomoci lidem být více ostražití, aby nepodlehli deepfake podvodu?

Navzdory tomu bylo užitečné začít hackathon dvěma rozhovory s experty, Pavel Brejcha z Fakescape awareness specialista a Milan Šalko z VUT, jako expert na technickou podstatu deepfakes .

Vnímal jsem, že nám to dalo všem podobnou startovní čáru i východiska. Nejvíce přínosné pro mě bylo sledovat, jak s experty komunikují kolegové z týmu.

• Šlo jednak o konkrétní faktické informace na které se ptali, protože jsem si uvědomil, že curse of knowledge je u mě v doménových věcech přítomná velmi silně.
• Zároveň šlo i o samotnou formu kladení otázek. Udělal jsem si hodně metodologických poznámek. Je pro mě přínosné vidět správné využití v praxi.
  

Po rozhovorech jsme si zúžili cílovou skupinu na dospělé osoby a zaměřili se specificky na audio formy deepfakes, které vedou k podvodu. Šlo o rozhodnutí, které bylo primárně motivované časovým omezením hackathonu.

Práce v týmu byla příjemná a velmi jsem oceňoval přístup, který záměrně kombinoval bloky samostatného soustředění a následnou společnou diskuzi a navrhování. Toto je věc, kterou jsem si ihned beru do své praxe.

Důležitým momentem se ukázalo vytvoření deepfake kill chain, řekněme jako takové varianty metody Cesta službou. Díky tomu jsme měli všichni stejně strukturovaný pohled na problematiku a mohli se shodnout na tom, kam chceme intervenovat.

Rozhodli jsme se pracovat se zprostředkováním zkušenosti se zažitím vlastního deepfake. A v důsledku toho přišli hned první den s několika nápady, které jsme měli dále rozvíjet při ideaci.

Ten, který tým považoval za nejlepší, mi však z více důvodů neseděl (ve zkratce: zněl dobře, ale v možném efektu druhého či třetího řádu mohl přinést více škody, než užitku).

Ráno jsem proto i s Romanem Hřebeckým řešil, zda to týmu říct. Znamenalo by to totiž určité ochlazení nadšení, které jsme si přinesli z předchozího dne. Roman navrhnul, aby si to rozhodl tým. To bylo diplomatické i moudré. Proto se tak stalo a v důsledku informací, které jsem s kolegy sdílel, jsme se rozhodli změnit koncept pro ideaci – konkrétně na intervenci ve veřejném prostoru.

Nasazení a zápal kolegů byly inspirativní. Zároveň jsem si však uvědomil, že přivést designéry ke kyberzbezpečnosti může přinést výstupy, které jsou nezáměrně nebezpečné. Na druhou stranu, toto bylo podmíněno z velké části časovým omezením.

III. Výsledky

Naše výsledné řešení představovalo prototyp, kde byl účastník bezprostředně konfrontován s deepfake vlastního hlasu v útočném scénáři. Využitím Eleven labs jsme vytvářeli deepfake na základě informací poskytnutých přímo účastníkem, což významně zvyšovalo jeho působivost. Následné guerilla testování simulovalo možnou interakci ve veřejném prostoru – například v rámci awareness kampaní důvěryhodných organizací formou KIOSku.

Hackathon mě zároveň utvrdil v potenciálu verze s dialogy, která nabízí možnost vzájemné kombinace více hlasů. Tento přístup otevírá několik směrů využití:

• V organizacích jako součást bezpečnostního tréninku
• V rodinách pro zvýšení povědomí o této hrozbě
• Ve vzdělávacích institucích jako interaktivní nástroj

Zároveň jsem si ověřil, že propojení human-centred security a designu informačních služeb má smysl.

Vděčnost

Vážím si toho, že jsme mohli mít hackathon. Oceňuju všechny spolužáky, kteří vynaložili svůj čas na jeho organizaci. Moc jsem si užil i sociální dimenzi setkání, stejně tak jako sledování jiných týmů. Nejlepším zakončením pak byla kontemplativně-esteticko-architektonická procházka přes Brno, kterou vedl Michal Černý.