Miłka, 48 lat
Byłam u rodziców, gdy w biurze ojca zadzwonił telefon. Mama poszła odebrać, byłyśmy w domu tylko we dwie. Po chwili usłyszałam jej krzyk. Wołała, żebym przejęła słuchawkę, bo moja siostra Eliza miała wypadek i mam rozmawiać z policją. W głowie dźwięczały mi tylko słowa "wypadek" i "policja". Przejmuję telefon, w słuchawce słyszę kobiecy głos.
– Pani siostra potrąciła kobietę na pasach. Ofiara jest w stanie krytycznym, prawdopodobnie nie przeżyje. Siostra jest w areszcie, grozi jej więzienie.
Całe ciało zaczyna mi się telepać, drżącym głosem mówię, że chcę rozmawiać z siostrą.
– Eliza, co się stało? – pytam.
Zanim się odezwie, słyszę, jak zanosi się płaczem.
– Zabiłam kobietę, nie wiem, co mam robić – odpowiada zrozpaczony głos, po czym znów zaczyna wyć, a pode mną uginają się nogi.
Telefon przejmuje policjantka. Mówi, że chce nam pomóc. Sprawa już jest w prokuraturze, ale rodzina poszkodowanej wyraziła zgodę na odszkodowanie, więc jeśli zapłacimy, prokurator nie wniesie oskarżenia. Nie będzie rozprawy, siostra nie pójdzie do więzienia.
– Ile wynosi to odszkodowanie? – pytam.
– 60 tysięcy…
– Funtów?! – pytam, bo siostra mieszka w Anglii.
– No, tak.
– Na litość boską, przecież nikt z nas nie ma takich pieniędzy! – Krew odpływa mi z twarzy, ledwo trzymam się na nogach. Wtedy przypominam sobie o córce mojej siostry. – Niech mi pani powie, co z jej córką?! Była z nią czy jest z Matem?! Jest ze swoim tatą?! – pytam.
– Tak – odpowiada głos w słuchawce i dodaje, że jeśli chcemy pomóc siostrze, musimy zrobić przelew w ciągu 20 minut. Inaczej sprawa zamknięta, a ona nie wyjdzie z aresztu. Grozi jej 25 lat więzienia.
Zaczyna się wyścig z czasem. Mam oszczędności, ale nie wystarczą. Muszę podzwonić i dowiedzieć się, kto może mi pożyczyć. Policjantka tłumaczy, że sprawa jest tajna i nie mogę nikomu o niej powiedzieć. Jeśli chcę do kogoś zadzwonić, to z innego telefonu. Rozmowa ma być prowadzona na głośnomówiącym, żeby ona słyszała, o czym mówię.
Trzęsę się cała, z komórki dzwonię do przyjaciółki. "Słuchaj, nie mogę ci powiedzieć, o co chodzi, ale czy mogłabyś mi pożyczyć 50 tys.? Sprawa jest pilna". Być może po tym poznaje się przyjaciela, że nie zadaje zbyt wiele pytań, bo ona jest gotowa mi pożyczyć.
Siadam do komputera, żeby dostać się do swojego konta oszczędnościowego, bo tak dużego przelewu na konto zagraniczne nie mogę zrobić przez aplikację w smartfonie. Wyskakuje błąd logowania. Nie wchodziłam tam całe wieki i w stresie nie mogę sobie przypomnieć hasła. W mojej głowie tyka zegar, drżą mi usta i ręce, w których jest życie mojej siostry. Policjantka wciąż nasłuchuje, co się dzieje.
Dzwonię na infolinię do banku. Przeprowadzają weryfikację tożsamości, ale w głowie mam pustkę i źle odpowiadam na jedno pytanie. Dzwonię jeszcze raz, tłumaczę, że pilnie potrzebuję dostępu, a czas ucieka. W końcu nie wytrzymuję i wybucham do słuchawki:
– Błagam, nie róbcie mi problemów, bo życie mojej siostry jest tutaj na szali!
– To może być próba oszustwa, proszę nie rozmawiać z tymi osobami – słyszę. Po czym moje konto zostaje zablokowane. Nie mam dostępu nawet przez aplikację.
Mama rusza biegiem na górę do swojego komputera, żeby wysłać przynajmniej to, co ona ma na swoim koncie. A ja nie wiem, co robić. Czuję się jak w potrzasku, przepalona stresem zaczynam opadać z sił. Przychodzi mi do głowy, że od jakiegoś czasu nie słyszałam siostry, tylko cały czas gadam z policjantką. Trzymając w ręce słuchawkę telefonu stacjonarnego, drugą ręką na komórce wysyłam siostrze wiadomość na Messengerze: "Gdzie jesteś?". I ruszam na górę, żeby pomóc mamie zrobić przelew. W tym czasie siostra odpisuje: "U lekarza, a co?".
Mam jakiś przebłysk nadziei, że faktycznie ktoś mnie nabiera, a to wszystko nieprawda, choć wyraźnie słyszałam kilkanaście minut temu głos mojej płaczącej siostry.
– Chcę rozmawiać z siostrą jeszcze raz – mówię do policjantki.
Po chwili słyszę znajome szlochanie.
– Gdzie byłaś, Eliza? – pytam.
– U lekarza, dał mi tabletki na uspokojenie.
Cała moja nadzieja runęła. Nie czułam już nic, byłam jak warzywo.
Mama wpisała wszystkie dane do przelewu, zaczyna wpisywać kwotę, gdy nagle dostaję powiadomienie na Messengerze. To wiadomość od siostry: "Robiłam wyniki krwi". W tym momencie wyłączyłam wszystkie telefony, wybiegłam na dwór i zaczęłam krzyczeć.
Chwilę później przez komórkę zadzwoniłam do siostry. Raz, drugi, trzeci. Mówiłam, że ma mi powiedzieć, gdzie jest, opisać to miejsce. Powiedzieć, w co jest ubrana, co teraz robi. Czy na pewno nie siedzi w samochodzie, czy jest bezpieczna. Po kolejnym telefonie się na mnie wkurzyła. A ja wciąż nie mogłam uwierzyć, bo dla mnie i mojego mózgu to wszystko wydarzyło się naprawdę, ten wypadek był. Ona i ja byłyśmy w tej sytuacji.
Żadne pieniądze nie zostały przelane, ale z ręką na sercu mówię, że przelałybyśmy wszystkie. Uratowała nas ta jedna wiadomość. Gdy opowiadałam o tym dwie godziny później na posterunku policji w Świnoujściu, dowiedziałam się, że jestem 13. osobą, która dziś coś podobnego zgłasza, a była 17.00. Pomyślałam wtedy: dlaczego ja w ogóle nie wiem, że takie rzeczy się dzieją?! Po powrocie do domu zaczęłam przeszukiwać sieć. Wszędzie trafiałam na teksty ośmieszające ofiary. "Polacy znów dają się nabrać", "Oszukują niedosłyszących", "lekkomyślność", "naiwność", "niesprawni poznawczo". Ręce mi opadły.
Jestem psycholożką, znam wszystkie mechanizmy poznawcze. No i co z tego? Stres to stres. Ja naprawdę słyszałam głos mojej siostry bardzo wyraźnie, jej manieryzmy, jej ton. Do dzisiaj nie wiem, czy to był deepfake głosowy i sztuczna inteligencja, czy wykorzystanie efektu psychologicznego i uwierzyłam, że rozmawiam właśnie z nią. Bo gdy mama wołała mnie do telefonu, to już mówiła, że chodzi o Elizę, więc byłam nastawiona, że ją usłyszę.
Wiem na pewno, że mój mózg uznał to wydarzenie za prawdziwe. Przez kilka dni z mamą nie mogłyśmy dojść do siebie. Analizowałyśmy, jak dużo same podpowiedziałyśmy oszustom. To ja zdradziłam, że siostra mieszka w Anglii, zasugerowałam funty i zapytałam o jej córkę. Podkładałam się raz po raz, sugerując odpowiedzi.
Ironia losu polega na tym, że mój partner zajmuje się bezpieczeństwem cyfrowym. Jest bardzo racjonalną osobą i pierwsza jego reakcja to było: "Ale ty? Ty dałaś się nabrać?!". Musiał przejść pewien proces w sobie i to przetworzyć, żeby dotrzeć do punktu empatii. On takiego poziomu stresu nie doświadczył, więc nie ma punktu odniesienia, co się wtedy dzieje z jego mózgiem i jak bardzo nie ma dostępu do jego analitycznej części. Trudno mu było zrozumieć, że ktoś, kogo uważa za inteligentną osobę, dał się na coś takiego złapać. A to przecież człowiek, który mnie kocha i nie będzie mnie ośmieszał.
W gabinecie coraz częściej słyszę historie podobnych oszustw. Łączy je wszystkie to, że ich ofiary są pełne wstydu. Jeden z moich ostatnich klientów został oszukany przez Messenger. Dostał wiadomość od swojego przyjaciela, że ten potrzebuje pieniędzy na prezent dla dziewczyny. Przelał mu sześć stów BLIK-iem, przekonany, że to z nim rozmawia. Gdy zorientował się, że został oszukany, zaczął robić sobie wyrzuty. Namawiałam go, żeby opowiedział o tym zdarzeniu wszystkim znajomym i ich ostrzegł. Ale on bał się, że zostanie wyśmiany. I faktycznie – gdy powiedział jednej osobie, tak właśnie się stało. A przecież taki gest nie świadczy o inteligencji, tylko o dobrym sercu. To jest test na miłość.
Nie jest tak, że dają się nabrać tylko osoby starsze albo mało inteligentne. Ostatnio od koleżanki, która jest dyrektorką banku, usłyszałam, że jej była pracownica padła ofiarą oszustwa, choć sama unieszkodliwiała tego typu działania. Dają się nabrać osoby młode, wykształcone, biznesmeni i znane postaci, ale nikt o tym nie mówi. I ja rozumiem tych wszystkich ludzi, bo też mi się zdarzyło zostać wyśmianą. Uznajemy za wstyd, że ktoś dał się nabrać. Tymczasem ja bym sobie życzyła raczej takiej kampanii, w której właściciel wielomilionowej firmy mówi "ja też".
Przyszłość ludzi żyjących w świecie ze sztuczną inteligencją widzę mało optymistycznie. Nie dość, że już jesteśmy szalenie spolaryzowani, to w coraz bardziej samotnym społeczeństwie będziemy zmuszeni, żeby wszystko weryfikować. Pierwszym odruchem nie będą już bezinteresowne gesty i akty zwykłej ludzkiej życzliwości, ale podejrzliwość. Dobroć będzie obarczona coraz większym ryzykiem. To nie dzieje się "gdzieś w sieci", ale zmienia naszą rzeczywistość i naszą tkankę wewnętrzną. Dotychczasowa ufność nie będzie już możliwa.
A jeśli przytrafi mi się drugi raz coś podobnego? Nawet jeśli będę przekonana, że słyszę głos kogoś z rodziny, to po prostu do tej osoby zadzwonię. Myślałam o tym, żeby ustalić jakieś hasło bezpieczeństwa. Ale jeśli usłyszę zapłakaną siostrę czy brata, którzy mówią: "To naprawdę ja, ale w tym stresie nie jestem w stanie sobie przypomnieć tego cholernego hasła", to mam im nie uwierzyć?
Dr inż. Ewelina Bartuzi-Trokielewicz, Pion Sztucznej Inteligencji, NASK
Opisana historia jest doskonałym przykładem wzrostu liczby zaawansowanych oszustw w Polsce, które wykorzystują technologię deepfake do manipulacji głosu. Przestępcy, posługując się generowanymi syntetycznie głosami, są w stanie wzbudzić emocje ofiar, co może zdecydowanie zwiększyć skuteczność ich działań. Wykorzystując strach, lęk i poczucie pilności, celowo dążą do tego, by ofiary działały pod wpływem impulsu i paniki, co często prowadzi do pochopnych decyzji o przekazaniu pieniędzy lub udostępnieniu wrażliwych danych.
W tej historii oszuści wcielili się w role autorytetów, czyli policjantów, co jest manipulacją wykorzystującą instynktowne zaufanie do służb oraz instytucji. Dodatkowo wplecenie w opowieść bezpośredniego kontaktu z ofiarą wypadku, jakoby dzwoniącej od strażaka lub medyka, podnosi poziom zaufania i autentyczności opowiadanej historii. Taka taktyka jest przebiegła, ponieważ nie tylko wykorzystuje grę na emocjach, ale także wprowadza elementy znane z rzeczywistych procedur ratunkowych lub policyjnych, tym samym zacierając granicę między oszustwem a rzeczywistością.
Kolejną warstwą tych działań jest stosowanie technologii deepfake voice w sytuacjach, gdy osoba bliska, jak członek rodziny, rzekomo znajduje się w kryzysowej sytuacji, jak np. po wypadku samochodowym. Oszuści posługują się przy tym nagraniami, które brzmią niezwykle realistycznie, co może zmylić nawet czujne i świadome osoby. Często takie oszustwa mają miejsce przez telefon stacjonarny, co wydaje się bardziej wiarygodne dla starszych ludzi, nieufnych wobec nowych technologii.
Obecnie technologia pozwala na generowanie syntetycznej mowy konkretnych osób. To dodatkowe narzędzie w rękach oszustów, które pozwala im tworzyć bardziej realistyczne scenariusze. Wyróżniamy dwa nurty tworzenia tzw. audio deepfake’ów. Pierwszym z nich jest synteza tekstu na mowę, tzw. TTS (ang. text to speech), która może być stosunkowo łatwa do zrealizowania i już teraz jest dostępna na szeroką skalę. Niepokojące jest to, że przy wykorzystaniu zaledwie kilkusekundowych próbek głosu można wygenerować przekonujące fałszywe wiadomości głosowe. Drugim podejściem jest bezpośrednia konwersja jednego głosu – głosu oszusta – na drugi głos, głos ofiary (tzw. speech to speech). Wymaga ono dłuższej próbki głosowej (kilku minut), ale jej możliwości są znacznie bardziej zaawansowane. Może to być wykorzystane w sposób szczególnie niebezpieczny, ponieważ pozwala na tworzenie nagrań lub klonowania głosu w czasie rzeczywistym z niewielkim opóźnieniem, w których nie tylko słowa, ale i modulacja głosu, intonacja oraz emocje – płacz, złość, smutek – są naśladowane z zaskakującą precyzją, a syntetyczna mowa jest bardziej naturalna, zbliżona do rzeczywistości.
Co więcej, w obecnych czasach prawie każdy z nas pozostawia cyfrowe ślady swojej mowy w internecie – w postach, na filmach wideo czy podczas rozmów wideo. Oszuści mogą wykorzystać takie publicznie dostępne materiały do klonowania głosu. Ponadto coraz bardziej powszechne praktyki, jak telemarketing, mogą stać się okazją do nieświadomego dostarczenia przestępcom większej próbki głosu, którą później można wykorzystać do stworzenia fałszywego głosu ofiary.
Ta historia odzwierciedla przykład ostatnio powszechnych oszustw, z którymi mamy do czynienia w Polsce. Szczególnie niepokojące jest wykorzystywanie głosów bliskich osób, co może znacznie podnosić skuteczność tych przestępstw. Takie metody oszustwa jak we wspomnianym przykładzie polegają na wywołaniu silnych emocji – strachu o bliską osobę – które ma na celu wyłączenie racjonalnego myślenia i skłonienie ofiary do szybkiego działania, zwykle przekazania pieniędzy lub wyłudzenia danych.
Warto dodać, że w cyberprzestrzeni zauważono również nowe wersje oszustwa z użyciem sztucznej inteligencji, które ulepszają "tradycyjne" metody wyłudzania, jak choćby próby zdobycia kodu BLIK na Facebooku. Oszuści przejmują konta na Facebooku, np. wyłudzając dane dostępowe, i wysyłają wiadomości głosowe imitujące głos posiadacza profilu, aby przekonać bliskich do przekazania środków. Zachowują przy tym naturalność, żartują i używają emotek, aby osiągnąć swój cel. Pierwsze przypadki wykorzystania nagranych "głosówek" do oszustwa spotkały się z zaskoczeniem ze strony policji, co jeszcze mocniej udowadnia potrzebę zachowania ostrożności nawet wobec dobrze znanych nam głosów. Technologia deepfake może służyć do manipulacji. Istotne jest chronienie naszej cyfrowej tożsamości oraz sceptyczne podejście do treści odbieranych online, nawet jeśli wydają się one znajome.
Nikola Bochyńska, redaktorka naczelna CyberDefence24
Jak rozpoznać, że głos, który słyszymy przez telefon, to sfabrykowane nagranie, a nie faktycznie nasi bliscy, którzy potrzebują pomocy?
Wskazówką może być głos brzmiący jak automat, nienaturalnie, z niepoprawną intonacją, brakiem właściwego oddechu. Dobrze nam znane osoby często używają charakterystycznych zwrotów czy nawet popełniają te same błędy. Dość naturalne dla człowieka jest też używanie "yyyyyy" czy "eeeee". Głos wbrew pozorom może być też często pozbawiony emocji, a słowa mogą być wypowiedziane jednym tonem, bez żadnych pauz. Najlepszym sposobem weryfikacji, czy mamy do czynienia z podszywaniem się pod bliską nam osobę, czy użyciem jej głosu z wykorzystaniem AI, jest zakończenie rozmowy i samodzielne wybranie jej numeru w książce telefonicznej oraz upewnienie się, że jest bezpieczna i nic jej nie grozi.
Czy obserwujesz jakieś kroki podejmowane przez branżę telekomunikacyjną, właścicieli największych mediów społecznościowych, nasz rząd czy UE w celu zwalczania deepfake’ów?
W Polsce obowiązuje już Ustawa o zwalczaniu nadużyć w komunikacji elektronicznej, która dotyczy m.in. przestępstwa spoofingu, czyli podszywania się pod inną osobę przy połączeniach telefonicznych (lub m.in. w wiadomościach e-mailowych). Urząd Komunikacji Elektronicznej będzie też prowadził jawny wykaz numerów służących wyłącznie do odbierania połączeń głosowych, a nie do wykonywania połączeń wychodzących. W praktyce ma to oznaczać, że podszywanie się pod instytucje takie jak np. banki będzie trudniejsze. Czas pokaże, czy regulacje odpowiadają wyzwaniom rzeczywistości. Niewątpliwie ważne jest podejmowanie wszelkich możliwych kroków, aby ograniczyć skalę oszustw w Polsce i tym samym uchronić większą liczbę użytkowników przed utratą danych czy pieniędzy.
Media społecznościowe są wyjątkowo nieskuteczne, jeśli chodzi o walkę ze scamem, który coraz częściej powstaje z wykorzystaniem sztucznej inteligencji. Chodzi mi szczególnie o klasyczne reklamy fałszywych inwestycji, ale też – coraz częściej – deepfaki wideo, które tworzone są z wykorzystaniem wizerunku znanych osób, rzekomo "zachwalających cudowne inwestycje". Wystarczy spojrzeć, ile tego typu reklam oszustw jest na platformie X czy w serwisach należących do Mety. Mamy w ten sposób odpowiedź na pytanie, czy działania big techów w zakresie ochrony użytkowników są wystarczające. Odpowiedź jest oczywista.
Jakie są zalecenia dla osób, które podejrzewają, że padły ofiarą oszustwa?
Jeśli cokolwiek wydaje nam się w czasie rozmowy niepokojące, nie podawajmy wrażliwych danych ani szczegółowych informacji o sobie czy o naszych bliskich. Nie działajmy pod wpływem emocji. Rozłączmy się i sami wybierzmy numer osoby, pod którą próbują podszywać się oszuści – w ten sposób upewnimy się, czy na pewno "potrzebuje pomocy" lub jest "w niebezpieczeństwie". Nie reagujmy na podejrzane prośby, jak np. pilne wykonanie przelewu, udostępnienie haseł do bankowości elektronicznej itd. W rozmowie pomoże także zadanie szczegółowych pytań, na które oszust może nie znać odpowiedzi, lub wymyślenie "hasła", które znamy tylko my, co może być pomocne szczególnie w relacjach rodzinnych.
Jakie są twoje prognozy na przyszłość?
Gwałtowny rozwój sztucznej inteligencji sprawił, że pojawiły się nowe zagrożenia, które stają się coraz doskonalsze, takie jak m.in. deepfaki wideo czy audio. AI jest jak miecz obosieczny – wszystko zależy od tego, kto jej użyje. Niestety, poza szansami, jakie ze sobą niesie, dla branży cyberbezpieczeństwa oznacza wiele pracy i obowiązków, a dla nas, użytkowników, jeszcze większą potrzebę edukacji i podnoszenia świadomości istnienia tego rodzaju oszustw. Każdy z nas będzie musiał nauczyć się odporności na socjotechnikę, znać schematy działania przestępców i kroki, jakie należy podjąć, kiedy ktoś będzie próbował nas oszukać. Cyberprzestępstwa są nieodłącznym elementem cyfrowego świata i trzeba wiedzieć, że istnieją osoby czy profesjonalne grupy, które będą chciały przeprowadzać masowe kampanie, by nabrać jak największą liczbę odbiorców. Nie oznacza to jednak, że mamy być bierni – "elementarz" cyfrowej wiedzy powinien być wdrażany już od szkoły podstawowej i dalej, dla każdej grupy wiekowej. Edukować możemy się także sami – o cyber mówi i pisze się coraz więcej, warto śledzić te informacje na bieżąco.
Centralne Biuro Zwalczania Cyberprzestępczości nie prowadzi statystyki uwzględniającej przypadki użycia technologii AI przy popełnianiu przestępstw.
Maria Organ. Dziennikarka, redaktorka, trenerka storytellingu. Zanurzona w świecie milenialsów najczęściej pisze o swoim pokoleniu, psychologii i książkach. Prowadzi warsztaty z pisania historii osobistych i biznesowych, podczas których pomaga zmieniać codzienne doświadczenia w inspirujące opowieści. Kontakt do autorki i zapisy na warsztaty na www.mariaorgan.com.