Kiedy na ulicach pojawiła się Gwardia Narodowa, a Internet obiegło nagranie, pokazujące, jak członkowie komisji wyrzucają akty do głosowania do śmieci w brudnej alejce za lokalem wyborczym, stało się jasne, że żadnego głosowania nie uda się tego dnia przeprowadzić. Demokracja w stutysięcznej Adversarii została rzucona na kolana przez hakerów.
Na szczęście nikt nie ucierpiał, bo Adversaria istnieje tylko na papierze. Fikcyjne miasto było areną nietypowej gry wojennej, w której zespoły hakerów i specjalistów od bezpieczeństwa próbowały sparaliżować (lub uchronić przed paraliżem) proces wyborczy. Symulacja, organizowana przez firmę Cybereason, została powtórzona pięciokrotnie w ciągu ostatnich dwóch lat. Niemal za każdym razem napastnicy byli w stanie przynajmniej znacząco wpłynąć na przebieg głosowania.
Poligon
Nie inaczej było na początku tego roku w amerykańskim New Hampshire. Z góry założono, że napastnicy, posługujący się nazwą “K-OS”, nie mogli bezpośrednio wpływać na samo głosowanie: żadnych włamań do maszyn do głosowania (powszechnie stosowanych w amerykańskich wyborach), żadnego zdalnego manipulowania wynikami zliczania głosów. Wybrali sobie więc inny cel: zgodnie z wybrana przez siebie nazwą, mieli zasiać chaos i zwątpienie tak, by wybory zostały przełożone, bądź ich wyniki podane w wątpliwość.
Wybrali kilka celów ataku. Zdobyli dostęp do oficjalnych, miejskich kont na Twitterze i Facebooku. Sparaliżowali przy pomocy prymitywnego, ale skutecznego ataku DDoS (polegającego na jednoczesnym wywoływaniu serwera przez tysiące lub miliony zarażonych wirusem komputerów) na centrum dowodzenia służb ratowniczych. Spenetrowali systemy sterowania kanalizacją i światłami ulicznymi. Wreszcie przygotowali sieć fałszywych kont na mediach społecznościowych, by za ich pomocą rozsiewać kłamstwa.
W sparaliżowanym korkami ulicznymi mieście ludzie nie mogli dostać się do lokali wyborczych, których pracę skutecznie utrudniły zresztą ścieki, rozlewające się z kanalizacji zatkanej przez cyfrowy sabotaż pomp. Ale nie to było ciosem w serce procesu wyborczego. Tu wystarczyły dobrze przygotowane kłamstwa. Na oficjalnych kontach Twitterowych pojawiły się informacje o tym, że hakerzy włamali się do systemów wyborczych (czego w rzeczywistości zrobić nie mogli). Oficjalnie wyglądające komunikaty podważyły zaufanie do przebiegu wyborów, a ich szybkie usunięcie przez prawowitych właścicieli kont jedynie wzmocniło siłę rażenia kłamstwa. Zwłaszcza, że w mediach społecznościowych pojawiły się sfabrykowane nagrania, tzw. deepfake’i, na których karty do głosowania są bezceremonialnie wyrzucane.
To przeważyło szalę. Pod kilkoma lokalami doszło do przepychanek, które wkrótce przerodziły się w regularną bitwę rozwścieczonych mieszkańcow z policją, przytłoczoną serią plag które jednocześnie uderzyły w miasto. Wybory wstrzymano. Game over!
To właśnie sprawna, profesjonalna dezinformacja jest najbardziej niebezpieczną bronią wymierzoną w demokrację.
- Wystarczy, żeby ludzie zwątpili - mówi polsatnews.pl prof. Vincent Hendricks, dyrektor Ośrodka Badania Baniek Informacyjnych Uniwersytetu Kopenhaskiego i autor książki “Reality Lost - Markets of Attention, Misinformation and Manipulation”. - Nie musisz ludzi do niczego przekonywać, Zwątpienie wystarczy by wpłynąć na ich działania.
Najskuteczniejszym narzędziem do siania zamętu i zwątpienia miały być właśnie, wykorzystane w grze wojennej, deepfake’i. To zmanipulowane za pomocą zaawansowanych algorytmów, tak zwanych generatywnych sieci kontradyktoryjnych nagrania, na których twarz jednej osoby zastępuje twarz innej.
ZOBACZ: Wiedział, co będzie po śmierci
To nie proste manipulacje, prymitywne przeróbki dokonane przy pomocy programów do montażu video czy filtrów nakładanych przez mobilne aplikacje (takie zostały ochrzczone “cheapfake’ami”). Prawdziwe deepfake’i, dobrze przygotowane, naprawde trudno odróżnić od realnego nagrania. Zwłaszcza, że miliony lat ewolucji nauczyły nas mózg zaufania do ruchomych obrazów. “kupujemy” je łatwiej niż klasyczne, sfotoszopowane zdjęcia. Narzędzia do tworzenia deepfake’ow, wcześniej tworzone w ramach studenckich, uczelnianych eksperymentów ze sztuczną inteligencją zostały - za darmo - publicznie udostępnione przez anonimowego internautę w grudniu 2017 roku i od początku towarzyszyły im obawy o to, że mogą być wykorzystane do nieczystej, politycznej gry. Zwłaszcza, że w 2018 i 2019 roku w obiegu pojawiły się także narzędzia pozwalające, w mniej czy bardziej przekonujący sposób, fabrykować także głos konkretnej osoby.
Jeden z "głośniejszych deep fake'ów", czyli zmanipulowane wystąpienie Baracka Obamy
Kilka przykładów
Początkowo jednak, co według pesymistów mówi przygnębiająco wiele o ludzkiej naturze - deepfake’i najczęściej były wykorzystywane do tworzenia pornografii: nakładania twarzy znanych aktorek - czy nielubianych byłych - na twarze gwiazd porno. W polityce, jak dotąd, były wykorzystywane sporadycznie i, póki co, raczej w celach publicystyczno-satyrycznych niż by wprowadzać kogokolwiek w błąd. W 2018 roku w Argentynie krążyło nagranie, na którym twarz ówczesnego prezydenta Mauricio Macriego podmieniono na twarz Adolfa Hitlera. W 2019 - brytyjski think tank Future Advocacy stworzył nagrania, na których Jeremy Corbyn (ówczesny szef brytyjskich Laburzystów) i Boris Johnson (kierujący Partią Konserwatywną) zachęcali wyborców do głosowania… na swojego przeciwnika. A w kwietniu bieżącego roku aktywiści Extinction Rebellion sfabrykowali (jasno opisane jako fałszywka) nagranie, na którym belgijska premier Sophie Wilmes przyznaje, że obecna pandemia jest skutkiem niszczenia przez ludzkość środowiska naturalnego. Z kolei indyjski polityk Manoj Tiwari, szef partii BJP w Delhi sam opublikował deepfake’a ze sobą w roli głównej - żeby dotrzeć do wyborców mówiących językiem Haryanvi - którym sam się nie posługuje - nagrał lektora zachęcającego w tym języku do głosowania na siebie i zastąpił jego twarz własną.
ZOBACZ: Śmierć centrów handlowych, czyli powrót lokalnej przedsiębiorczości
Żadna z tych akcji nie spowodowała politycznego trzęsienia ziemi, nie obaliła demokracji, nie skończyła kariery. Ale eksperci są zgodni: prawdziwy, niszczycielski atak przy pomocy deepfake’ów to tylko kwestia czasu. A one same odgrywają w kampaniach dezinformacyjnych rolę podobną do tej, jaką podczas Zimnej Wojny pełniła broń jądrowa. Zmieniają wszystko przez sam fakt swojego istnienia i potencjał zastosowania. Nikt nie musi wciskać czerwonego guzika, żeby czerpać z nich korzyści. Wpływ tej technologii na życie społeczne i polityczne jest, potencjalnie, niszczycielski. I to nawet wtedy, gdy pozostanie niewykorzystana.
- Jeśli spytacie mnie, jakie jest najważniejsze zagrożenie dla wyborów w 2020 roku, odpowiem: na pewno nie deepfake’i - mówiła portalowi CNET Kathryn Harrison, założycielka DeepTrust Alliance, organizacji walczącej z deepfake’ami i innymi formami dezinformacji.
Największym zagrożeniem będzie to, że przed wyborami pojawi się prawdziwe nagranie - ale nie będziemy w stanie udowodnić, że jest prawdziwe.
To tak zwana “dywidenda kłamcy” - to termin stworzony przez prof. Roberta Chesneya, prawnika z Uniwersytetu Teksasu i prof. Danielle Keats Citron z wydziału prawa Uniwersytetu Yale. W opublikowanej w California Law Review pracy zauważają, że paradoksalnie, rosnąca świadomość odbiorców jest na rękę kłamliwym politykom.
-Nie wszystkie kłamstwa składają się z pozytywnych stwierdzeń, że coś, co nie miało miejsca - zdarzyło się; najniebezpieczniejsze kłamstwa przybierają formę zaprzeczeń - pisze Chesney i Keats.
Flickr/EFF Photos
Samo istnienie deepfake’ów sprawia, że kłamcy łatwiej jest zaprzeczać prawdzie nawet jeśli ta prawda została zarejestrowana na video. Wystarczy, że będzie wystarczająco zażarcie zaprzeczał i insynuował, że nagranie zostało sfałszowane. Że nie wolno wierzyć w nic, co widzimy na własne oczy. Zasianie w taki sposób ziarna wątpliwości będzie działało wyłącznie na ich korzyść, ale będzie niszczycielskie dla zaufania do całego systemu informacyjnego spajającego społeczeństwo.
Pogłębianie podziałów , wzbudzanie oburzenia
- W tej całej zabawie chodzi właśnie o sianie nieufności. - mówi Hendricks. - Mechanizmy działania deepfake’ów są podobne do mechanizmów oddziaływania teorii spiskowych. To populizm na sterydach. Głównym celem ich rozprzestrzeniania przez rozmaite grupy dążące do osiągnięcia różnych celów jest rozerwanie więzi społecznych i stworzenie atmosfery podejrzliwości i nieufności. Tak, żeby cały rynek informacji stał się bardziej wybuchowy i mniej wiarygodny.
A ryzyko zastosowania nowych, zaawansowanych technik dezinformacyjnych rośnie z każdym rokiem, wraz z pojawianiem się nowych narzędzi i rosnącym “profesjonalizmem” posługujących się nimi graczy. Zwłaszcza, że najczęściej nie chodzi tu o przekonanie nikogo, a jedynie o pogłębianie podziałów, wzbudzanie oburzenia i karmienie zwątpienia w demokratyczne systemy i instytucje. Najniebezpieczniejsze sfabrykowane nagrania - jak i każda inna forma dezinformacji - to te, które pogłębiają już istniejące przekonania i uprzedzenia odbiorców.
ZOBACZ: Loty w kosmos dla każdego? "To wiekopomna chwila"
- Nawet jeśli takie informacje będą usuwane przez gigantów mediów społecznościowych, będą żyły na forach internetowych czy na Reddicie. I będą wzmacniały narrację obu stron konfliktu. To im wystarczy. Bardzo spolaryzowane społeczeństwo jest toksyczne dla demokracji. - przewiduje Hendricks. - A że czeka nas w tym roku seria ważnych wyborów - czy to w Polsce czy w USA - spodziewam się deepfake’ów o hakowaniu wyborów, oszustwach wyborczych, o wypaczaniu wyników głosowania.
- To pośrednie sposoby na wykorzystywanie takich technik. A co jeśli zrobią coś zbyt oczywistego, na przykład nagranie z Trumpem wypowiadającym wojnę Korei Północnej? To byłoby zbyt trudne do sprzedania. Ale zasianie zwątpienia w system i procesy będzie prostsze. Nawet jeśli ludzie nie uwierzą, ustalisz agendę. Ludzie, którzy są w stanie zrobić takie rzeczy na skalę która może rzeczywiście wypaczyć proces będą robić to subtelnie. - dodaje Hendricks.
Na przykład fabrykując nagranie kogoś znanego, budzącego powszechne zaufanie, ostrzegającego przed oszustwami czy nakręcającego teorie spiskowe związane z pandemią. .
A w świecie, w którym międzynarodowe konflikty coraz częściej przybierają postać “hybrydową”, rozgrywają się nie na klasycznych polach bitwy a w Internecie i ludzkich głowach - tych “onych” jest bardzo wielu.
- Dezinformacja stała się stałym elementem wyborów w ostatnich czterech latach - pisze Sam Curry, szef organizującej wyborcze gry wojenne dla hakerów firmy Cybereason. - Trwa wojna propagandowa, a narzędzia dostępne propagandystom są potężne.
Komentarze