03. října, 2023 Anna Wittenberg
Ukrajinský prezident Volodymyr Zelenskyj přichází do nemoc- miliardami obrázků, které má v databázi. K tomu účelu
nice navštívit zraněné vojáky. Foto: Wikimedia Commons
„V jedné ukrajinské nemocnici se objevil muž, který tvrdil, že je náš voják. Byl údajně v šoku následkem bombardování. Říkal, že utrpěl trauma a všechno zapomněl. Lékař nám poslal jeho fotografii a my jsme ho během pouhých několika minut dokázali identifikovat. Našli jsme jeho profil na sociální síti a odhalili jsme, že je Rus. Samozřejmě byl pohnán k odpovědnosti,“ chlubí se Mychajlo Fedorov, ukrajinský ministr pro digitální transformaci, na webu americké firmy Clearview AI.
Od začátku ruské agrese hledá Ukrajina metody, jak využít moderní technologie ku prospěchu své země. Zoufale potřebuje podporu, a proto se stala laboratoří různých digitálních řešení. Křest ohněm tam absolvují zejména ty produkty, které v klidnějších částech světa vyvolávají kontroverze.
Identitu vojáka, o kterém mluvil Fedorov, pomohla odhalit právě Clearview AI. Její nástroj k rozpoznání obličeje má impozantní schopnosti. Stačí do aplikace nahrát fotku a ona ji díky pokročilým algoritmům porovná s deseti miliardami obrázků, které má v databázi. K tomu účelu firma pomocí speciálních počítačových programů automaticky stahuje fotografie ze sociálních sítí – jak těch ze Spojených států (Facebook či Instagram), tak těch ruských (VKontaktě nebo Odnoklassniki). Podle firmy pochází každá pátá fotografie v její databázi právě z posledních dvou zmíněných sociálních sítí.
Technologie dodávaná Clearview AI se rychle stala jedním z důležitých ukrajinských digitálních nástrojů. Dnes ji používá sedm různých agentur včetně armády a pohraniční stráže, přístup do databáze má přes 900 uživatelů. Celkem už systém provedl 125 000 hledání. Jak uvádějí ukrajinské úřady, díky této technologii bylo identifikováno již 7500 osob podezřelých z porušení zákona a proti 125 ruským vojákům bylo vzneseno obvinění (údaje pocházejí z července tohoto roku – pozn. red.). Clearview AI pomáhala spojit rodiny, hledat nezvěstné, odhalovat dezinformace, posilovat bezpečnost na kontrolních bodech nebo odhalovat špiony. Stála na ní také jedna z nejvíce spektakulárních operací informační války.
Clearview AI totiž díky algoritmům umělé inteligence dokáže rozpoznat dokonce i silně poškozené obličeje. Ukrajinci tedy začali s její pomocí identifikovat těla zabitých ruských vojáků a následně kontaktovat jejich rodiny. „Informace šíříme prostřednictvím sociálních sítí. S ohledem na matky chceme rodiny alespoň informovat, že ztratily své syny, a následně jim umožnit přijet si pro těla,“ komentoval to Fedorov. Jiní členové jeho vlády jsou přesvědčeni, že to mohlo mít vliv na pomalý postup mobilizace v Rusku.
Jak se Clearview AI na Ukrajinu dostala? Firma nabídla své služby sama. Začátkem března 2022 její ředitel Hoan Ton-That nabídl ukrajinské vládě nejen bezplatný přístup k technologii, ale také školení, jak s ní pracovat. „Srdcem jsem s Ukrajinci a doufám, že naši technologii bude možné použít k zachraňování nevinných lidí a životů,“ prohlásil.
Ačkoliv Ukrajinci podle oficiálních informací za tento pokročilý systém nezaplatili penězi, ve skutečnosti nic není zadarmo. Studie tohoto případu se totiž stala svého druhu válečným CSR (corporate social responsibility, společenská odpovědnost firem), tedy oboustranně výhodnou transakcí, v níž Ukrajina získává od firmy pomoc, zatímco samotná společnost si tím vylepšuje image. Právě z jejího webu ostatně pocházejí všechny citace ukrajinských politiků použité v tomto článku. Clearview AI to potřebovala, protože v době, kdy Ton-That nabídl ukrajinské vládě svoji pomoc, se o firmu zajímali evropští i američtí regulátoři, kteří jí vytýkali porušování soukromí uživatelů internetu. Při sběru údajů o uživatelích totiž firma nedodržovala pravidla sociálních sítí. Ton-That v médiích prohlašoval, že „to dělají všichni“.
Krátce poté, co Ton-That učinil nabídku Ukrajině, udělil italský úřad pro ochranu osobních údajů společnosti Clearview AI pokutu ve výši dvaceti milionů eur. To je nejvyšší možná částka, jakou nařízení GDPR umožňuje. V květnu k tomu britský úřad přidal dalších osm milionů, po dvaceti milionech požadovaly i Řecko a Francie. Pro firmu to nebyla žádná maličkost – podle specializovaného portálu CB Insights dosahuje celková hodnota akcií vydaných společností 38 milionů dolarů.
A to není všechno – společnost také dostala pokyn odstranit fotografie obyvatel těchto zemí ze své databáze a do budoucna je již nesbírat. Ve státě Illinois dostala Clearview AI zase zákaz své produkty v nejbližších pěti letech prodávat, a to jak speciálním službám, tak soukromým firmám.
Další technologická firma, která poskytuje služby ukrajinské armádě, je Palantir. Společnost, jejíž název odkazuje na magický „vidoucí kámen“ z Pána prstenů J. R. R. Tolkiena, se zabývá datovou analýzou. Jejích služeb využívají například Ministerstvo obrany USA, CIA nebo FBI.
Na Ukrajině se Palantir stává klíčovým pro čím dál větší počet úkolů – od poskytování humanitární pomoci po operace na bitevním poli. Příklady? Hned po zahájení plnohodnotné ruské invaze na Ukrajinu se objevila naléhavá potřeba najít ubytování pro válečné uprchlíky. Velká Británie vyzvala k pomoci právě tuto americkou společnost. Na základě jejího počítačového programu brzy spustila aplikaci Homes for Ukraine, která měla zajistit bezpečné přesídlení uprchlíků. Během čtyřiadvaceti hodin po spuštění obdržel program více než 120 000 nabídek ubytování.
Palantir pomáhá také dokumentovat ruské válečné zločiny – ukrajinské generální prokuratuře dodal program, který spojuje předpokládané zločiny s ruskými vojenskými jednotkami. V budoucnosti budou Palantirem vypracovaná řešení zase klíčová pro obnovu země. Analýza dat ohledně rozmístění žáků má například pomoci rozhodnout, kde se budou stavět nové školy. Investoři nepochybují, že to bude pro firmu přínosný byznys – jakmile byl oznámen příslib partnerství, hodnota akcií Palantiru vyskočila o více než deset procent.
A to stále není konec: v únoru 2023 připustil ředitel Palantiru Alex Karp, že Ukrajinci využívali jeho technologii také k čistě vojenským účelům – zaměřovali s ní cíle. Ukrajincům v tom pomáhá systém MetaConstellation. Ten využívá údaje sesbírané od komerčních satelitů, teplotních čidel nebo výzvědných dronů, ale také z tradičnějších zdrojů – od špionů. Jaká je účinnost této technologie? Jak přiznal v rozhovoru pro The Times generál Richard Barrons, který velel britským jednotkám v Iráku a Afghánistánu, zatímco ještě před dvaceti lety bylo velení armády schopné určit deset cílů denně, dnes jich může stejná jednotka zaměřit tři sta.
Alex Karp čím dál častěji přirovnává vlastnictví pokročilých systémů umělé inteligence k jaderné zbrani. A není sám. V únoru letošního roku svolala nizozemská vláda první mezinárodní summit věnovaný zodpovědnému využívání umělé inteligence v armádě. Během jeho zahájení prohlásil totéž jako ředitel Palantiru také vicepremiér a ministr zahraničních věcí Nizozemska Wopke Hoekstra. Summitu se zúčastnilo padesát států včetně Číny (Rusko pozvánku neobdrželo). Účastníci podepsali deklaraci, v níž se zavázali k zahájení spolupráce ve věci odpovídajícího zabezpečení a lidského dozoru nad využitím systémů založených na umělé inteligenci.
Užití AI v armádě je předmětem debat také v Polsku. V dubnu letošního roku podepsal prezident Andrzej Duda usnesení o hlavních směrech rozvoje Ozbrojených sil Polské republiky na roky 2025–2039. Mezi systémy, jimiž by vojsko mělo být vybaveno, je na roveň se systémy protivzdušné obrany uvedena AI a programy pro analýzu velkých dat.
Umělá inteligence bojující na Ukrajině však nejsou jen velké systémy tvořené specializovanými firmami. Je to také informační partyzánský boj, který využívá bleskově se šířící nástroje generativní umělé inteligence jako například ChatGPT. Poté, co ho společnost OpenAI v listopadu 2022 zveřejnila, Ukrajina téměř půl roku usilovala o to, aby byla služba dostupná také na jejím území (zpočátku tam byla zablokovaná stejně jako v Rusku nebo v Íránu).
Velké jazykové modely (LLM, large language models) jsou pokročilé systémy umělé inteligence. Jsou schopné na základě obrovského množství tréninkových dat generovat texty a dají se využít k různým úkolům, jako je porozumění přirozenému jazyku, překládání nebo tvorba obsahu. Na nich založené chatboty mohou být mocným nástrojem v informační válce. Budou snadno generovat texty v libovolném jazyce, dokonce ve stylu konkrétního člověka. Budou vytvářet internetové stránky. Budou analyzovat dokumenty. Přirozeně mají i svou stinnou stránku: data, která do nich vkládáme, jejich výrobci hromadí a používají je při trénování dalších generací algoritmů. Mnoho firem – takových, jako je například Samsung – proto zakazuje jejich používání. Riziko úniku firemních tajemství je příliš vysoké. O vojenských tajemstvích to platí dvojnásob.
Využití umělé inteligence v propagandě je doménou obou stran konfliktu. Algoritmy pomáhají vytvářet třeba takzvaná deep fake videa s různými politiky. Již v březnu 2022 vypustili Rusové na internet nahrávku s prezidentem Ukrajiny Volodymyrem Zelenským, který vyzývá své spoluobčany, aby složili zbraně. Brzy byla identifikována jako nepravdivá a z platforem, jako jsou YouTube či Facebook, zmizela. Počátkem června tohoto roku se v ruských televizích zase objevila nahrávka, na níž Vladimir Putin vyhlašuje výjimečný stav a varuje, že nařídí všeobecnou mobilizaci. Také tato nahrávka byla vytvořena uměle. Její autory se však nalézt nepodařilo.
Šíření dezinformací není nic nového, umělá inteligence však nabízí bezprecedentní možnosti, jak takové kampaně škálovat. Zejména spojí-li se s dosahem, jaký nabízejí sociální platformy. Jen Telegram, kde vzhledem k liberální politice moderování obsahu běžně kolují informace o válce, má miliardu uživatelů. V takovém prostředí je snadné vypustit do oběhu lež připravenou s pomocí AI.
Využívání algoritmů při rozhodování o vojenských záležitostech vzbuzuje obrovské kontroverze. Systémy AI – dokonce i v civilním užití – jsou totiž zahaleny oparem tajemství. Ačkoliv jsou známé obecné zásady jejich fungování, i pro samotné jejich tvůrce je těžké vysledovat, proč se rozhodly nějak a ne jinak. Vysvětlitelnost algoritmů je stále předmětem vědeckého zájmu. Letos získal grant Evropské rady pro výzkum zaměřený na právě takové analýzy profesor Piotr Sankowski z Varšavské univerzity. Domnívá se, že pokud lidé nebudou vědět, proč jim počítač určité řešení nabízí, nezíská si jejich důvěru.
„Význam to má i v armádě. Umělou inteligenci je možné používat dvojím způsobem: jako podporu pro lidské rozhodování, nebo jako subjekt, kteří se rozhoduje autonomně. První využití je jednoznačně méně kontroverzní. AI se tímto způsobem používá již roky – zpracovává údaje ze satelitů, výzvědných služeb, nahrávky z kamer. Skutečné problémy začínají, když se armáda rozhodne svěřit algoritmům rozhodování,“ říká Kaja Kowalczewska, právnička z Vratislavské univerzity a autorka publikace Umělá inteligence ve válce. Perspektiva mezinárodního humanitárního práva regulujícího ozbrojené konflikty (Sztuczna inteligencja na wojnie. Perspektywa międzynarodowego prawa humanitarnego konfliktów zbrojnych).
Co to znamená? Například využívání dronů, které samy vyhledávají a následně likvidují cíl. Neboli zabíjejí člověka. „Pokud se chybně rozhodne voják, můžeme ho postavit před soud. K odpovědnosti může být pohnán také jeho velitel. Ale co se stane, když udělá chybu přístroj? Zodpovídat by se měl stát, který ho použil. Ale kdo personálně? Kupující, výrobce nebo snad programátor, který vytvořil nedokonalý algoritmus?“ přemýšlí nahlas Kowalczewska. Dodává však, že bez ohledu na využitou technologii zavazuje mezinárodní humanitární právo všechny strany konfliktu. „V něm popsané zásady musejí aplikovat všechny strany,“ vysvětluje.
Podle Kowalczewské bude regulace využití umělé inteligence na mezinárodní úrovni obtížná. „Státy se dělí na ty, které říkají, že tuto technologii je třeba zakázat, na ty, které říkají, že je třeba vytvořit obecná pravidla, a na Čínu, podle jejíhož názoru by se AI ve válce používat neměla, ale vyrábět i prodávat taková řešení možné je,“ říká právnička. A dodává, že podle jejího názoru by bylo nejdůležitější zavést pravidlo, že na každé rozhodnutí AI dohlíží člověk.
Článek byl původně publikován na webu Nowa Europa Wschodnia. Byl podpořen z prostředků Česko-polského fóra Ministerstva zahraničních věcí ČR. Z polštiny jej přeložila Anna Plasová.
ROČNÍK XIII. – 2. ČÍSLO, KVĚTEN 2024