Boty i deepfake’i na froncie krakowskiej polityki. Tak próbowano nami manipulować

Za nami pierwsza z audycji Radia Kraków realizowanych w partnerstwie ze Stowarzyszeniem Demagog – wiodącą w Polsce organizacją fact-checkingową. W tym odcinku nasi eksperci rozbijają na czynniki pierwsze mechanizmy dezinformacji, które wstrząsnęły opinią publiczną w ostatnich tygodniach: od teorii spiskowych wokół tragicznego wypadku posła Łukasza Litewki, przez sfabrykowane profile w internecie, aż po zorganizowane farmy botów sterujące dyskusją wokół krakowskiego referendum.

Fot. Emilia Wietecha

Teorie spiskowe na temat śmierci Łukasza Litewki

Kamil Wszołek: Na początek przyjrzyjmy się temu, co rozgrzało polską i małopolską sieć w ostatnich tygodniach. Maj przyniósł nam brutalne przykłady tego, jak dezinformacja potrafi żerować na ludzkiej tragedii i ksenofobii. Jak te działania uderzają w krakowskie instytucje?

Marcin Fic: Tak jest. Zastanawiając się nad tym, co wydarzyło się na początku tego miesiąca i jak dezinformacja wpływała na przestrzeń informacyjną, warto cofnąć się do tragicznego zdarzenia z zeszłego miesiąca. Chodzi o wypadek drogowy, w którym tragicznie zginął poseł Łukasz Litewka. Policja od samego początku apelowała o rozwagę w komentowaniu tej sprawy.

Później, już po pierwszych ustaleniach prokuratury, jednoznacznie zidentyfikowano przyczynę śmierci. Mimo to w internecie pojawiło się wiele teorii spiskowych. Twierdzono w nich na przykład, że poseł zginął w efekcie zażycia trucizny lub substancji, które miały wywoływać halucynacje. Wszystkie te teorie były całkowicie zmyślone. Pojawiły się w przestrzeni publicznej w okresie informacyjnej ciszy zaraz po wypadku, gdy ludzie desperacko potrzebowali jakichkolwiek wiadomości.

Kamil Wszołek: Ale to nie koniec, bo chwilę później mogliśmy przeczytać, że sprawcą wypadku był obywatel Ukrainy, a policja rzekomo wszystko tuszuje.

Marcin Fic: To kolejny etap tego mechanizmu. Ludzie, którzy szukali szybkich odpowiedzi, rozpoczęli dochodzenie na własną rękę. Gdy pojawiły się pierwsze zdjęcia z miejsca wypadku i zauważono, że samochód uczestniczący w zdarzeniu ma na końcu tablicy rejestracyjnej litery AA, uznano, że są to tablice ukraińskie pochodzące z Kijowa.

Pominięto jednak fakt, że kijowskie tablice rejestracyjne rzeczywiście mają dwie litery A, ale na początku, a nie na końcu. Komenda Wojewódzka Politologii w Katowicach w komentarzu dla nas stanowczo zdementowała te doniesienia. Podobnie prokuratura okręgowa wskazała, że w wypadku nie uczestniczył obywatel Ukrainy ani samochód zarejestrowany w tym kraju. Pokazuje to, jak w chwilach silnych emocji możemy samodzielnie rozpowszechniać fałszywe informacje, często bez intencji wyrządzenia komuś krzywdy. Jak jednak widać, efekty mogą być bardzo groźne.

Kamil Wszołek: Mamy właściwie klasyczne wykorzystanie wypadku znanego polityka do budowania nastrojów antyuchodźczych. Czy szukanie ukraińskiego wątku praktycznie w każdej polskiej tragedii to stały mechanizm?

Piotr Litwin: Przyznam, że tak. Od pewnego czasu w naszej redakcji widzimy, że to powracający motyw. Wpisuje się on v klasyczną technikę manipulacji, czyli tworzenie kozła ofiarnego, którego obwinia się za szersze problemy systemowe czy społeczne, doświadczane przez całą społeczność.

Historia związana z wypadkiem posła Litewki jest wyjątkowo jaskrawa, ponieważ w sieci tworzyły się zamknięte grupy ludzi próbujących wyjaśnić prawdę niezależnie od oficjalnych służb. Motyw obwiniania obywateli Ukrainy stale powraca w naszym monitoringu dezinformacji, który prowadzimy w ramach projektu Radar na dezinformację. Kolejnym ciekawym przypadkiem z maja była bardzo zasięgowa historia o tym, że jakoby żołnierze ukraińscy niszczą polski cmentarz.

Kamil Wszołek: To też jest ciekawe, bo do tamtego wpisu dołączono nawet materiał wideo. Przywykliśmy już chyba do myślenia, że jeśli jest film, to stanowi on dowód i prawdę. Tymczasem tutaj manipulacja odbyła się już na tym podstawowym poziomie. Choć samo nagranie nie było cyfrowo przerobione, to co tak naprawdę się tam wydarzyło?

Piotr Litwin: W sieci udostępniono dwa filmiki, na których grupa żołnierzy niszczy obiekt wyglądający jak cmentarz. Dołączono do nich opis, że to żołnierze ukraińscy dewastują polski cmentarz. Gdy zaczęliśmy weryfikować te nagrania, okazało się, że to nieprawda. Jeden z filmów pochodzi z 2020 roku, został zarejestrowany w Górnym Karabachu i nie ma żadnego związku z kontekstem polskim ani ukraińskim. Drugi materiał nagrano w Libanie i przedstawiał on działania wojska izraelskiego, a dokładniej zniszczony i rozkopany cmentarz.

Kamil Wszołek: Jak język nacechowany emocjonalnie, takie słowa klucze budzące gniew czy narodową dumę programują nas, byśmy tak natychmiast uwierzyli w celowe złe działanie ludzi, zamiast racjonalnie oceniać fakty?

Anna Nowakowska-Głuszak: Myślę, że słowo programowanie, którego pan użył, jest tutaj kluczowe. Jeśli w Polsce będzie rosło negatywne nastawienie do osób z Ukrainy, musimy zadać sobie pytanie, komu taka sytuacja przyniesie korzyść. Silne nacechowanie emocjonalne to jeden z najbardziej charakterystycznych elementów tekstów ukierunkowanych na manipulację i dezinformację.

Zanim uniesiemy się słusznym gniewem, ponieważ te treści często uderzają w nasze emocje, uczucia czy po prostu w ludzkie poczucie sprawiedliwości i moralności, warto pomyśleć, jaki cel ma autor takiego przekazu. Osoby odpowiedzialne za dezinformację strategiczną to specjaliści, którzy doskonale wiedzą, w które punkty uderzyć, by wywołać określoną reakcję. Pamiętajmy o tym, zanim udostępnimy dany post.

Wojna hybrydowa może brzmieć obco, jakby nas nie dotyczyła, ale w rzeczywistości oznacza ona, że pole walki się poszerza i przenika praktycznie do każdego obszaru naszego codziennego życia.

Fałszywy profil Związku Ukraińców i rzekoma na Dzień Wyszywanki w urzędzie miasta

Kamil Wszołek: Wracamy do Krakowa. W sieci pojawił się też fałszywy profil Związku Ukraińców, który zbierał wpłaty na Dzień Wyszywanki w urzędzie miasta. Jak technicznie namierzyliście, że to jest po prostu ordynarny profil pułapka, a nie prawdziwa organizacja?

Piotr Litwin: To jest przede wszystkim ciekawy przypadek, żeby go porównać z tymi poprzednimi. Wcześniej rozmawialiśmy o anonimowych kontach lub pojedynczych internautach tworzących teorie spiskowe wokół posła czy ogólnie wokół polityków. Tutaj mamy do czynienia z celowym podszywaniem się pod prawdziwą organizację przez osoby o złych intencjach, które promują fałszywe informacje w czyimś imieniu. W tym przypadku padło na Związek Ukraińców w Polsce.

Warto dodać, że cała ta operacja była szeroko zaplanowana. Oprócz fałszywego profilu Związku Ukraińców znaleźliśmy również sfabrykowany profil krakowskiej Straży Miejskiej. Tam z kolei informowano o Dniu Wyszywanki w kontekście rzekomych zagrożeń na Starym Mieście, sugerując, że mieszkańcy powinni przygotować się na niebezpieczeństwo.

Kamil Wszołek: Czyli ta manipulacja była przygotowana dużo wcześniej. Ten profil został przygotowany chyba miesiąc przed publikacją.

Marcin Fic: Tak, możemy stwierdzić, że akcja była precyzyjnie rozplanowana, na co dowodem jest właśnie data założenia fałszywego profilu Związku Ukraińców w Polsce. Nie było w tym przypadku. Warto też zwrócić uwagę na samą treść wpisów. Autorzy celowo uderzali w bardzo roszczeniowe tony. Pisali na przykład, że Ukraińcy dali już Krakowowi bardzo wiele, ponieważ płacą podatki i wspierają rozwój miasta, więc teraz pora, aby inni mieszkańcy Krakowa dali coś od siebie, wpłacali pieniądze na Ukraińców i okazywali im wsparcie.

Kamil Wszołek: Celem tego profilu tak naprawdę było wywołanie wściekłości Krakowian. A czy takie prowokacje szyte na miarę pod konkretne miasto to jest taka nowa taktyka trolli?

Piotr Litwin: Od pewnego czasu wydaje mi się, że tak. Wcześniej, gdy mieliśmy do czynienia z sytuacjami podszywania się pod organizacje, miały one charakter ogólnopolski.

Marcin Fic: Zwróciłbym też uwagę, że w tym konkretnym kontekście wpisu dotyczącego Krakowa na celowe działanie skierowane przeciwko mieszkańcom wskazuje jeszcze jeden fakt. Płatne reklamy, które wykupiono, były wycelowane precyzyjnie w dwa miasta: w Kraków i w Warszawę. Wybór tych lokalizacji wiąże się zapewne z tym, jak wielu obywateli Ukrainy zamieszkuje oba te miasta.

Kamil Wszołek: To na koniec tego pierwszego bloku zapytam jeszcze o technologię, bo ona rozwija się w zawrotnym tempie. Dokumenty z podrobionym podpisem czy deepfake'i z głosem prezydenta Krakowa na przykład. Jak groźne dla funkcjonowania miasta jest to, że właściwie każdy dziś może podrobić głos prezydenta w programie i to za parę dolarów?

Marcin Fic: To jest o tyle niepokojące, że o ile wcześniej rozmawialiśmy o różnych instytucjach, o tyle w tym przypadku oszuści podszywali się już pod osobę powszechnie znaną – prezydenta miasta Krakowa. Wskazałbym też na moment, w którym to się wydarzyło, czyli tak naprawdę dzień przed ciszą referendalną. Potencjalne zwalczanie tej dezinformacji było znacznie trudniejsze, ponieważ obostrzenia i regulacje dotyczące ciszy miały na to ogromny wpływ. Szybki rozwój technologii, jej powszechna dostępność i niskie koszty generowania nagrań czy obrazów sprawiają, że dużo łatwiejsze staje się atakowanie społeczeństwa poprzez rozpowszechnianie fałszywych informacji.

Piotr Litwin: Ja dodam, że cała ta historia pokazuje poziom przygotowania osób odpowiedzialnych za tę akcję. Sfabrykowany film z prezydentem Aleksandrem Miszalskim pojawił się na tym samym fałszywym profilu Związku Ukraińców w Polsce, o którym rozmawialiśmy przy okazji Dnia Wyszywanki. To dowodzi, że osoby stojące za tą operacją doskonale znają lokalny kontekst, wiedzą, w kogo uderzyć i jakich materiałów użyć.

Nie był to film wygenerowany od zera, lecz autentyczne, starsze nagranie z udziałem Aleksandra Miszalskiem, w którym podmieniono ścieżkę dźwiękową i dodano nowe sceny. Ktoś naprawdę dobrze porusza się w tym kontekście i był w stanie przygotować manipulację, która po prostu działa.

Kamil Wszołek: Z punktu widzenia językoznawcy, czy w strukturze tekstów generowanych przez AI te syntetyczne głosy da się jakoś wyczuć, jakoś lingwistyczne szwy zobaczyć, czy specyficzną składnię, czy nienaturalny dobór słów, co nas może zaalarmować?

Anna Nowakowska-Głuszak: To niezwykle ciekawy temat zarówno z perspektywy językoznawczej, jak i walki z dezinformacją. Technologia deepfake staje się plagą i musimy być przygotowani na to, że będzie jeszcze gorzej. Na ten moment kluczowe jest uświadomienie sobie, że sztuczna inteligencja nie myśli. Mówiąc w uproszczeniu, jej działanie opiera się na statystyce i powielaniu określonych wzorców oraz mechanizmów.

Tymczasem język, którego używamy, jest narzędziem komunikacji i nie ogranicza się tylko do gramatyki oraz słów. To są przede wszystkim emocje. Kiedy rozmawiamy z kimś twarzą w twarz lub oglądamy nagranie wideo, ogromną część komunikatu odczytujemy podświadomie z gestów, mimiki czy ruchu oczu. To elementy języka parawerbalnego, którego nikt nas nie uczy w szkole. Uczą nas pisać i czytać, poznajemy słownictwo, ale nie uczymy się odczytywania sygnałów pozawerbalnych. A ten język, jak stwierdził Edward Hall, badacz komunikacji międzykulturowej, stanowi czasem ponad pięćdziesiąt procent docierającego do nas komunikatu.

Jeśli chodzi o deepfake'i, na ten moment jesteśmy w stanie je zauważyć, ale pod jednym warunkiem: musimy dać sobie chwilę czasu. Nie działajmy odruchowo na zasadzie, że widzimy prezydenta miasta mówiącego bzdury i od razu uznajemy go za okropnego. Jeśli czujemy, że coś nam nie pasuje, przyjrzyjmy się tej osobie na poziomie wizualnym. Co możemy zauważyć? Bardzo często te obrazy są zapętlone. Osoba kiwa głową cały czas w taki sam sposób, ruch warg nie współgra idealnie z dźwiękiem, a oczy wydają się nie odpowiadać wypowiadanym treściom.

Na pewno barierą jest też intonacja, ponieważ sztuczna inteligencja wciąż nie radzi sobie idealnie z naturalnym odwzorowaniem ludzkich emocji w głosie. Te kwestie techniczne zdradzają fałszywkę szybciej niż sam język, choć pamiętajmy też, że język mówiony rządzi się innymi prawami niż pisany i tam również można szukać wskazówek. Ogólnie musimy polegać na naszej ludzkiej intuicji i zmyśle komunikacyjnym.

Marcin Fic: Gdy napotykamy treści, które wywołują w nas silne emocje, zawsze zalecamy, aby się zatrzymać, sprawdzić oryginalny kontekst i zweryfikować v innych źródłach, czy takie nagranie rzeczywiście zostało opublikowane. Jeśli nadal nie mają Państwo pewności, czy dana informacja jest prawdziwa, można zgłosić taki materiał do nas, do Stowarzyszenia Demagog. Przeanalizujemy go i opublikujemy szczegółową weryfikację, która rozwieje wszelkie wątpliwości.

Referendum i farmy botów

Kamil Wszołek: Chciałbym, żebyśmy przeszli na nasze krakowskie podwórko. Jesteśmy po referendum za odwołaniem prezydenta Aleksandra Miszalskiego. Choć emocje powoli opadają, to analiza Demagoga obnażyła właściwie przerażające zjawisko. Ta lokalna dyskusja o sprawach Krakowa była w internecie brutalnie i sztucznie modyfikowana za pomocą farm botów. Piotr, jesteś autorem tego głośnego raportu o krakowskim referendum. Wykryłeś tam właściwie zorganizowaną sieć nieautentycznych kont. Jak boty manipulowały algorytmami Facebooka i portalu X?

Piotr Litwin: Przyznam, że to jest grupa kont, którą miałem na oku już od pewnego czasu. Profil Sok z Buraka jest powszechnie znane, ale zacząłem podejrzewać, że wokół niego orbituje kilka innych kont robiących dokładnie to samo. W ramach naszego szerszego monitoringu operacji w internecie udało nam się objąć te profile stałą obserwacją. Chciałem przede wszystkim przyjrzeć się temu, czy noszą one znamiona skoordynowanej, nieautentycznej aktywności.

Referendum i pułapka algorytmu. "Internetowi sprzymierzeńcy zaszkodzili Miszalskiemu"

Gdy różne osoby niezależnie od siebie publikują w internetowych serwisach swoje opinie i każdy pisze we własnym imieniu, to mamy do czynienia z uprawnioną debatą polityczną. W tym przypadku mieliśmy jednak do czynienia z kontami, które potrafiły wrzucić dokładnie tę samą treść w różne miejsca internetu i do różnych odbiorców w ciągu zaledwie trzech minut. Co więcej, robiły to pod przykrywką profili o tematyce zupełnie niepolitycznej. Były to konta o nazwach takich jak emeryci, renciści, pacjenci albo nie lubię Polsatu. Te profile nagle zaczęły codziennie publikować posty na temat krakowskiego referendum.

Udostępniane tam treści po prostu podsycały lęki i opierały się na nieuczciwych argumentach. Pojawiały się na przykład straszące wpisy, że jeśli referendum zakończy się odwołaniem prezydenta, to władzę w Krakowie przejmie komisarz Grzegorz Braun, który zniszczy całą dzielnicę Kazimierz i sprawi, że ta historyczna dzielnica żydowska przestanie istnieć. Promowano też skrajnie nieuczciwą teorię, według której ogromna część podpisów pod wnioskiem o referendum została sfałszowana i należała do osób zmarłych.

Rozumiem, że w społeczeństwie są zarówno zwolennicy, jak i przeciwnicy referendum, ale w debacie należy korzystać z uczciwych argumentów. Na wspomnianych profilach twierdzono, że dwa tysiące podpisów należało do osób zmarłych, podczas gdy oficjalne biuro komisarza wyborczego potwierdziło, że takich przypadków było czterdzieści osiem. To kolosalna różnica.

Kamil Wszołek: Skoro w tej analizie pojawia się wątek powiązanych kont z takimi profilami jak Sok z Buraka, czy to oznacza, że ten nasz lokalny krakowski spór został ordynarnie przejęty przez ogólnopolską machinę polityczną?

Marcin Fic: Może to po części wynikać z faktu, że od dłuższego czasu nie było w kraju żadnych innych wyborów. Gdy wybory samorządowe odbywają się równolegle w każdym mieście i gminie w Polsce, każdy skupia się na swoim regionie. W tym przypadku oczy całej politycznej Polski były zwrócone wyłącznie na Kraków.

Kamil Wszołek: Ta kampania będzie pewnie szczególna, bo wszystko przenosi się do internetu i właściwie główna dyskusja toczy się tam. Jeśli patrzymy na narzędzia, które są wykorzystywane do tego, to jedna i druga strona używała sztucznej inteligencji. Generowane grafiki widzieliśmy na porządku dziennym, uderzające właściwie we wszystkie grupy społeczne, a także klonowanie głosów znanych osób. Czy AI stało się po prostu takim nowym bezkarnym narzędziem cyberprzemocy w polityce?

Piotr Litwin: Uważam, że tak. Od pewnego czasu spotykam się w literaturze z pojęciem slopaganda, które bardzo trafnie opisuje to zjawisko. Pokazuje ono, że za pomocą sztucznej inteligencji można generować masowe ilości treści bez względu na ich jakość. Dzięki łatwości produkcji zakłada się, że przy odpowiedniej skali któryś z tych materiałów w końcu zadziała i chwyci. To całkowicie zmienia reguły gry.

Dawniej, aby przygotować materiały manipulacyjne czy propagandowe, trzeba było włożyć w to sporo wysiłku i czasu. Dziś wystarczy zalać sieć ogromną falą wygenerowanej treści. W tym natłoku ludzie po prostu przegapiają prawdziwe informacje. To niebezpieczny skutek uboczny i możemy się spodziewać, że w kolejnych kampaniach znowu usłyszymy w mediach głosy znane nam z radia, ale niestety nieprawdziwe.

Marcin Fic: Możemy śmiało założyć, że sztuczna inteligencja będzie nadal intensywnie wykorzystywana. Widzimy, że sięgają po nią wszystkie strony sporu politycznego i robią to na różne sposoby. Dopóki autorzy wyraźnie oznaczają, że dana grafika została wygenerowana sztucznie, mieści się to w ramach przyjętych zasad. Problem natury moralno-etycznej zaczyna się wtedy, gdy podszywamy się pod realne osoby, przedstawiamy je w nieprawdziwych sytuacjach i ukrywamy fakt, że dokonaliśmy manipulacji.

Zjawisko to, nazywane zalewem informacji wygenerowanych przez AI, wywołuje też określony efekt psychologiczny. Może stwarzać fałszywe wrażenie, że jedna ze stron ma przytłaczającą przewagę lub że większość społeczeństwa popiera dany argument. Ma to ogromny wpływ na debatę publiczną, a ostatecznie także na decyzje podejmowane przez wyborców przy urnach.

Kamil Wszołek: Jak taka wulgaryzacja przestrzeni cyfrowej, czy odczłowieczanie przeciwników politycznych i agresja językowa za pomocą nowych technologii wpływa na debatę publiczną? Czy celem takiego języka rynsztoka, tak to nazwijmy, jest zastraszenie, wyparcie merytorycznego głosu z dyskusji czy coś innego?

Anna Nowakowska-Głuszak: Myślę przede wszystkim, że to jest zjawisko, które obserwujemy od dłuższego czasu. To jest właśnie rzeczywistość postprawdy, w której emocje stają się ważniejsze niż merytoryczne aspekty wypowiedzi i rzetelne fakty. Co gorsza, jako odbiorcy coraz częściej podświadomie szukamy tych emocji w wypowiedziach polityków.

Musimy sami odpowiedzieć sobie na pytanie, czego oczekujemy od osób publicznych: czy chcemy, aby polityk nas bawił, złościł i dostarczał rozrywki, czy oczekujemy od niego konkretów i eksperckiej wiedzy w dziedzinie, którą się zajmuje? A może po prostu chcemy oglądać brutalną walkę na ringu?

Mam poczucie, że w tym aspekcie wszyscy jesteśmy trochę winni. Politycy wchodzą w tę grę, ponieważ nawet zaatakowany lider lub jego sztab często zaczyna odpowiadać pięknym za nadobne, stosując dokładnie te same metody. Przerażające jest to, że młodzi ludzie, obserwując ten proces, dochodzą do wniosku, że polityka po prostu tak musi wyglądać. W efekcie ten, kto jest najbardziej wyrazisty językowo, potrafi najmocniej uderzyć i jest najbardziej zabawny, zdobywa uwagę i poparcie. Ludzie decydują się na niego głosować z myślą, że przynajmniej będzie wesoło. Problem w tym, że wesoło jest tylko do momentu, kiedy te osoby zaczynają podejmować decyzje bezpośrednio wpływające na nasze codzienne życie.

Kamil Wszołek: W kampanii referendalnej też cynicznie uderzono w najstarszych Krakowian, bo stwierdzono, że prezydent zlikwiduje Centra Aktywności Seniora.

Piotr Litwin: Tak, w krakowskich Centrach Aktywności Seniora, których jest w mieście około sześćdziesięciu trzech, rozpuszczono plotkę. Twierdzono w niej, że jeśli prezydent zostanie odwołany i w mieście zacznie się zarząd komisaryczny, to z placówkami nie zostaną podpisane nowe umowy. Centra te są prowadzone przez organizacje społeczne, a miasto odnawia z nimi kontrakty co rok lub dwa lata. Aktualne umowy obowiązywały do września i istniała obawa, że do tego czasu nie uda się wybrać nowego prezydenta.

Według tej plotki zarówno kierownicy placówek, jak i sami seniorzy bali się, że komisarz rządowy nie będzie miał kompetencji prawnych do przedłużenia umów. Gdy dowiedzieliśmy się, że w niektórych centrach te obawy są realne, postanowiliśmy to zweryfikować. Sprawdziliśmy przepisy prawne, skonsultowaliśmy się z Urzędem Miasta Krakowa oraz Wydziałem Polityki Społecznej. Chcieliśmy dać seniorom prosty i jasny komunikat: komisarz ma pełne uprawnienia do podejmowania takich decyzji. Przejmuje on wszystkie funkcje prezydenta, więc urząd i jego programy będą działać bez zakłóceń. Oczywiście ostateczna decyzja o przedłużeniu umów zależy od woli komisarza, ale nie jest prawdą, że nie ma on do tego odpowiednich kompetencji.

Kamil Wszołek: Na koniec jeszcze wątek, który obiegł właściwie całą Polskę, bo pojawił się fałszywy i niezwykle agresywny cytat. W cudzysłowie powiem, że to cytat Agnieszki Holland. Udostępniali to politycy, wierząc też w jego autentyczność właściwie bezrefleksyjnie. Jak to jest możliwe, że kompletnie zmyślony przez trolli cytat staje się oficjalnym faktem medialnym? Chyba tak to można powiedzieć.

Marcin Fic: Te zmyślone słowa brzmiały: krakowianie dorośli do demokracji. Zostały one opublikowane w serwisie X przez konto o charakterze satyrycznym, choć wielu ocenia to działanie po prostu jako niebezpieczny trolling. To bardzo ciekawa sprawa. Zastanawialiśmy się nawet, czy publiczność nie zarzuci Demagogowi, że sprawdzamy rzeczy, które każdy może zweryfikować samodzielnie na wyciągnięcie ręki.

Kamil Wszołek: Ponieważ po raz kolejny wystarczyło po prostu zweryfikować nazwę użytkownika profilu, który to opublikował.

Marcin Fic: Dokładnie tak. To bardzo prosta czynność, ale jak pokazały reakcje polityków, dla wielu osób wcale nie jest to oczywiste. Dlatego uznaliśmy, że musimy nagłośnić tę sprawę. Warto zawsze wracać do źródła i sprawdzać, kto realnie jest autorem danej treści i czy pokrywa się ona z prawdą.

W tej sytuacji autorzy postanowili cynicznie zagrać silnymi emocjami, jakie referendum wywołało zarówno u mieszkańców Krakowa, jak i u pozostałych Polaków, którzy nie mieszkają w naszym mieście, ale śledzili te wydarzenia.

Kamil Wszołek: Żeby jeszcze powiedzieć jak się bronić przed tym zjawiskiem, to chyba warto też zaznaczyć, że nazwę użytkownika łatwo można ją zmienić. Czy nazwę, natomiast nazwę konta już nie tak łatwo i ona jest inna. Tutaj w tym przypadku to nie była Agnieszka Holland.

Marcin Fic: Dokładnie tak. Nad wyświetlaną nazwą profilu znajduje się unikalny identyfikator, tak zamiast nick, który widzimy także w adresie internetowym u góry przeglądarki po wejściu na dany profil. Tam możemy łatwo zweryfikować, do kogo naprawdę należy konto. Warto też szukać potwierdzenia w innych miejscach. Agnieszka Holland odniosła się później do całej sprawy na Facebooku, wyjaśniając, że w ogóle nie posiada konta w serwisie X. Sprawdzenie innych oficjalnych kanałów danej osoby lub zweryfikowanie informacji w rzetelnych mediach to zawsze najlepszy krok, choć, jak widać, czasem nawet redakcje padają ofiarą takich zagrywek.

Kamil Wszołek: Dlaczego nasz aparat poznawczy tak łatwo kapituluje przed taką strukturą tekstu?

Anna Nowakowska-Głuszak: Myślę, że musimy pamiętać o dwóch kwestiach. Po pierwsze, siły stojące za produkcją takich fake newsów mają swoich stałych, ulubionych bohaterów negatywnych, a Agnieszka Holland niewątpliwie do nich należy. Druga rzecz to zjawisko polaryzacji społecznej, które opiera się na sztywnym podziale na my i oni. Wiąże się to z populizmem, czyli taktyką dyskursywną budującą opozycję między zwykłymi ludźmi a elitami.

W przypadku tego fałszywego wpisu wykorzystano tę strategię. Przekaz brzmiał: zobaczcie, to są te elity, artyści, którzy stawiają się wyżej i myślą, że są lepsi od nas, a na dodatek śmią nas krytykować. Gdybyśmy jednak spróbowali wpisać te słowa w wyszukiwarkę, by sprawdzić, czy istnieją inne potwierdzone źródła tej wypowiedzi, bardzo szybko zorientowalibyśmy się, że ktoś nas po prostu nabiera.

Piotr Litwin: To niezwykle ważne, byśmy sami wyrobili w sobie nawyk sprawdzania profili i upewniania się, czy czytamy autentyczne wpisy danych osób lub organizacji, tak jak miało to miejsce w przypadku fałszywego profilu Związku Ukraińców. Z drugiej strony ta sytuacja obnaża, jak dziurawe i niedoskonałe są zasady samych platform społecznościowych. W serwisie X podszycie się pod kogoś jest niezwykle proste, a administracja portalu niewiele z tym robi. Obok budowania indywidualnych nawyków higieny cyfrowej musimy pamiętać, że mamy tu do czynienia z poważnym problemem systemowym.

Jak się bronić przed dezinformacją?

Kamil Wszołek: W ostatniej części naszej debaty dajemy słuchaczom konkretne narzędzia do obrony. Najgroźniejsza dezinformacja to nie stuprocentowe kłamstwo, ale półprawda. Sytuacja, w której materiał jest autentyczny, no ale został wycięty z kontekstu, docięty lub podany z fałszywym oznaczeniem czasowym. Zacznijmy od mechanizmu takiej prawdziwej treści w fałszywym czasie. W sieci krążył na przykład news, że poseł Paweł Kowal zablokował publikację kompromitującego zdjęcia z masowej mogiły. Sam obraz jest prawdziwy, no ale wisi w sieci od trzynastu lat.

Marcin Fic: Tak, to bardzo ciekawy przypadek, który ponownie odnosi się do relacji polsko-ukraińskich, wywołujących w określonych grupach silne emocje. W tym fake newsie zarzucono Pawłowi Kowalowi zablokowanie publikacji zdjęcia, które miało rzekomo pochodzić z aktualnych ekshumacji prowadzonych na Ukrainie. Pamiętamy, że temat ten budzi kontrowersje, ponieważ państwo ukraińskie przez wiele lat nie wydawało zgód na prace ekshumacyjne polskich ofiar konfliktów historycznych.

W rzeczywistości okazało się, że fotografia jest autentyczna, ale nie przedstawia współczesnej masowej mogiły. Zdjęcie ma co najmniej trzynastu lat – w dwa tysiące jedenastym roku Kurier Galicyjski opublikował artykuł zawierający tę samą fotografię. Przedstawiała ona mogiłę we Włodzimierzu Wołyńskim, w której pochowano zarówno Polaków, jak i Ukraińców zabitych przez NKWD w pierwszych latach drugiej wojny światowej, a także ludność żydowską zamordowaną podczas niemieckiej okupacji. Choć sam materiał wizualny był prawdziwy, to dołączony do niego współczesny przekaz całkowicie rozmijał się z faktami.

Kamil Wszołek: Jak z punktu widzenia komunikacji wygląda ten mechanizm manipulacji czasem? Dlaczego nasz mózg pod wpływem odpowiedniego opisu tak łatwo uznaje starą prawdziwą treść za dzisiejszy aktualny news?

Anna Nowakowska-Głuszak: Mówimy tu o bardzo typowym mechanizmie psychologicznym. Pamiętajmy, że wypowiedź to nie tylko słowa czy sam obraz. W przypadku przekazów multimodalnych kluczowy jest kontekst, który potrafi całkowicie zmienić znaczenie tego, co widzimy.

Dlaczego tak łatwo nabieramy się na manipulację czasem? Jesteśmy jako ludzie podświadomie zaprogramowani na szukanie związków przyczynowo-skutkowych. Jeśli widzimy tytuł i tekst dotyczący bieżącego, głośnego wydarzenia, nasz mózg automatycznie przypisuje dołączone zdjęcie do tego kontekstu. W codziennej komunikacji z natury nie zakładamy, że ktoś nas okłamuje. Ponadto dezinformacja często wykorzystuje zdjęcia drastyczne, które silnie oddziałują na emocje. Wtedy wyłącza się chłodna analiza, a my natychmiast ulegamy pierwszemu wrażeniu. Musimy być na to bardzo uważni, zwłaszcza że istnieją proste narzędzia, by sprawdzić wiek danej fotografii.

Marcin Fic: W tej sytuacji możemy wskazać też prosty mechanizm właśnie weryfikacji. Wystarczy wykorzystać narzędzie, do którego dostęp ma każdy z nas, a które tak naprawdę jest na wyciągnięcie ręki, o czym pewnie też często nie mamy świadomości korzystając na co dzień z przeglądarek internetowych, ponieważ w przeglądarce Google dostępna jest zakładka Google Grafika i właśnie tam można skorzystać ze wstecznego wyszukiwania obrazem tak zwanego Obiektywu Google. Pozwala nam to na weryfikację gdzie wcześniej albo czy w ogóle wcześniej dane było publikowane w internecie. A jeżeli tak, to wskazuje te konkretne miejsca, konkretne linki i pozwala nam na przykład na sprawdzenie właśnie pierwotnego kontekstu pochodzenia tego zdjęcia. Z kolei gdy to zdjęcie się nie pojawia nigdzie w takich wynikach wyszukiwania, może być to też wskazówką, że zostało ono sztucznie wygenerowane.

Kamil Wszołek: Podobny mechanizm mieliśmy też przy nagraniu z rzekomo aktualnych zamieszek we Francji z udziałem Kurdów.

Piotr Litwin: Dokładnie tak. Media społecznościowe obiegł film, który miał budować poczucie zagrożenia, co wpisuje się w regularnie powracającą narrację o niebezpieczeństwach, jakie mają nieść dla Europy imigranci. Na nagraniu widać było Kurdów wywołujących zamieszki na ulicach Paryża. To świetny przykład wspomnianej półprawdy i manipulacji. Film jest w stu procentach prawdziwy, rzeczywiście został nagrany w Paryżu i przedstawia realne protesty, tyle że nie pochodzi z tego roku, a sprzed czterech lat. To kolosalna różnica. Materiał nie pokazuje bieżących wydarzeń, ale tworzy fałszywe wrażenie, że tu i teraz dzieje się coś niebezpiecznego i lepiej nie wychodzić z domu.

Marcin Fic: Ciekawe jest również to, jak takie materiały są wykorzystywane v bieżącym sporze politycznym i dyskusji społecznej. Po pierwsze, ten stary film posłużył do krytyki prezydenta Francji za jego aktualne decyzje. Po drugie, wykorzystano ko do pokazania migrantów jako osób agresywnych i niebezpiecznych. Można różnie oceniać przyczyny tamtych wydarzeń, ale rzetelność wymaga wskazania, że tamte zamieszki i starcia z policją były bezpośrednim następstwem tragicznego zamachu o podłożu rasistowskim, w którym obywatel Francji zastrzelił trzy osoby w pobliżu ośrodka kurdyjskiego. Protesty wybuchły wtedy jako reakcja społeczności na ten atak, o czym we współczesnym, zmanipulowanym kontekście oczywiście w ogóle nie wspomniano.

Kamil Wszołek: To przejdźmy do kolejnego mechanizmu, czyli takiego wycinania z kontekstu, bo w sieci też krąży docięty fragment wypowiedzi przedsiębiorcy Przemysława Krala o wecie prezydenta. Jak dotrzeć w ogóle do oryginalnych nagrań, by udowodnić taką manipulację?

Marcin Fic: To doskonały przykład pokazujący, jak łatwo można manipulować opinią publiczną za pomocą drobnej edycji wideo. Czasem wystarczy wyciąć z dłuższej wypowiedzi zaledwie dwa zdania. W tym przypadku Przemysław Kral w oryginalnym wywiadzie cytował i relacjonował negatywne opinie innych osób na temat jego firmy Zonda Krypto oraz działań politycznych. Gdy autorzy manipulacji wycięli kontekst relacji i zostawili samo zdanie, stworzyli fałszywe wrażenie, że przedsiębiorca sam wyraża takie poglądy i jest to jego własna opinia.

Kamil Wszołek: Nagranie nie było wygenerowane.

Marcin Fic: Dokładnie, wideo było autentyczne, jedynie celowo docięte przez osoby publikujące. W takich sytuacjach również możemy posłużyć się wyszukiwaniem obrazem, ponieważ narzędzia potrafią odnaleźć źródłowy materiał na podstawie pojedynczych kadrów z filmu. Warto też zwracać uwagę na elementy charakterystyczne w tle, takie jak logo stacji czy oprawa graficzna. W tym przypadku na nagraniu widoczne były oznaczenia Telewizji Republika. Idąc tym tropem, możemy wejść na stronę danej stacji lub jej kanał w serwisie YouTube, odnaleźć pełen wywiad z ostatnich dni i samodzielnie zweryfikować całą rozmowę. Mam świadomość, że wymaga to poświęcenia chwili czasu i nie zawsze jest proste.

Kamil Wszołek: I nie jest to proste, bo z perspektywy analityka to wydaje się chyba najtrudniejszy fake do rozgryzienia, jeśli to jest autentyczne nagranie, a tylko docięte.

Piotr Litwin: Tak, to prawda. Dlatego tak ważne jest, abyśmy wyrobili w sobie nawyk automatycznego, krytycznego podchodzenia do sensacyjnych materiałów w mediach społecznościowych.

Kamil Wszołek: Na jakie anomalie w tekście mówionym, pauzy czy nagłe urwania wątków powinniśmy zwracać uwagę jako odbiorcy, by wyczuć, że ktoś tu majstrował przy nożyczkach montażowych i wyciął zdanie z kontekstu?

Anna Nowakowska-Głuszak: Przede wszystkim musimy uruchomić krytyczne myślenie i zadać sobie pytanie, czy dana wypowiedź brzmi spójnie i czy ciąg przyczynowo-skutkowy nie został przerwany. Jeśli informacja jest dla nas ważna, najwygodniej jest po prostu zweryfikować ją w innym, sprawdzonym źródle. Pamiętajmy też, że w sferze publicznej znacznie częściej mamy do czynienia z opiniami niż z czystymi faktami.

Zachęcam do tego, byśmy budowali własne opinie na bazie sprawdzonych danych. Informacje od opinii najłatwiej oddzielić poprzez analizę słownictwa – opinie są zazwyczaj silnie nacechowane emocjonalnie, pojawiają się w nich wulgaryzmy, ostre oceny i wykrzyknienia. Skupmy się na samych faktach i zastanówmy się, czy otrzymaliśmy pełny obraz sytuacji, czy jedynie czyjś komentarz. Krytyczne myślenie to nasza najlepsza obrona przed technologią, która choć jest wspaniała, może zostać obrócona przeciwko nam.

Kamil Wszołek: To na koniec jeszcze news z Małopolski. Ukrainiec dostaje karę za pobicie pielęgniarki. Deportacja. Wasza ostatecznie analiza wykazała, że to jest clickbait, manipulacja faktami.

Piotr Litwin: To kolejna bardzo ciekawa historia pokazująca, że manipulacja nie musi opierać się na jawnym kłamstwie, ale na celowym przemilczaniu kluczowych informacji.

Kamil Wszołek: Na niedopowiedzeniach.

Piotr Litwin: Właśnie, to jest najlepsze słowo. Chodzi o takie sformułowanie komunikatu i ukrycie faktów, które mogłyby rozjaśnić sprawę, by wywołać u odbiorców z góry założoną, negatywną reakcję. W tym przekazie zestawiono ze sobą dwa hasła: Ukrainiec i przemoc. Całkowicie pominięto jednak najważniejszy fakt – to zdarzenie nie miało miejsca teraz, ale ponad rok temu, a sprawca poniósł już pełne konsekwencje prawne swojego czynu. Ukrycie tych szczegółów zmienia całkowicie sens całej historii. A przecież to rzecz, którą można stosunkowo szybko zweryfikować, jeśli znamy miejsce i wiemy, o który szpital chodzi.

Marcin Fic: W rzeczywistości tamten człowiek został po wypadku wypuszczony do domu bezpośrednio po złożeniu wyjaśnień na policji, jednak w toku dalszego postępowania administracyjnego został deportowany i nałożono na niego zakaz wjazdu do strefy Schengen. Warto zadać sobie pytanie, jaki cel przyświecał osobom, które nagłośniły tę sprawę rok po faktach, udając, że to bieżący news. Po raz kolejny chodziło o zaostrzenie relacji między Polakami a Ukraińcami i podsycanie konfliktów na tle etnicznym.

Dodatkowo taki zmanipulowany przekaz uderza w zaufanie do polskich służb państwowych. Przeciętny odbiorca, czytając, że doszło do pobicia personelu w szpitalu, a policja po przesłuchaniu wypuściła napastnika wolno, dochodzi do prostego wniosku: czy to państwo jeszcze w ogóle funkcjonuje? Okazuje się, że instytucje zadziałały prawidłowo i sprawca został ukarany, tyle że o tym finale autorzy manipulacji już celowo nie poinformowali.

Piotr Litwin: Warto pilnować jakie emocje w nas wywołują te informacje. Jeśli coś się wydaje zbyt prowokacyjne albo takie zbyt jasne w przeczytaniu, no to powinna też być jakaś lampka, czy na pewno dostałem wszystkie fakty, które powinienem był dostać.

Marcin Fic: Tak, to jest chyba morał z naszego dzisiejszego spotkania. Takie silne emocje sprawiają, że nasze krytyczne myślenie jest wtedy odsuwane na dalszy plan i łatwiej poddajemy się przekazom dezinformacji.

Kamil Wszołek: O te zasady higieny cyfrowej miałem na końcu zapytać, ale wszystko już zostało powiedziane. Bardzo dziękuję.

Autor:

Kamil Wszołek

Komentarze (0)

Brak komentarzy

Kultura

Sport

Muzyka

Audycje

Podcasty

Kontakt

Ramówka

Studia nagraniowe

Boty i deepfake’i na froncie krakowskiej polityki. Tak próbowano nami manipulować

Teorie spiskowe na temat śmierci Łukasza Litewki

Fałszywy profil Związku Ukraińców i rzekoma na Dzień Wyszywanki w urzędzie miasta

Referendum i farmy botów

Jak się bronić przed dezinformacją?

Komentarze (0)

Dodaj komentarz

Najnowsze

Kryzys w akademii Cracovii? Klub stawia na znane nazwiska

Długi weekend pod znakiem burz. Jeden dzień będzie wyjątkowo ciepły

Plaga SMS-ów od rzekomego mObywatela. Na co uważać?

Prawie 3 promile za kierownicą. 49-latka wpadła dzięki policjantce po służbie