Kiedy głos w telefonie nie jest tym, za kogo go bierzesz: oszustwa z wykorzystaniem sztucznej inteligencji i mądrość weryfikacji

Głos brzmiał dokładnie jak głos jej syna

Babcia odbiera telefon. Głos jest nie do pomylenia — to jej wnuk: znajomy rytm mowy, lekki akcent, a nawet ten nerwowy sposób, w jaki wymawia jej imię. Potrzebuje pieniędzy, pilnie, i błaga, żeby nic nie mówiła rodzicom. Przelewa mu środki, zanim jeszcze odkłada słuchawkę.

On nigdy tego telefonu nie wykonał.

Ta historia — i setki podobnych — trafia teraz co tydzień do policyjnych statystyk w całych Stanach Zjednoczonych. Niedawne śledztwo dziennikarskie przeprowadzone przez„New York Times"dokumentuje, jak sztuczna inteligencja zrewolucjonizowała świat oszustw. Przestępcy sięgają dziś po oprogramowanie do klonowania głosu, deepfake'i wideo i generowane przez SI persony, by podszywać się pod celebrytów, sklepy internetowe, a — co najboleśniejsze — pod członków rodziny. Technologia obniżyła próg wejścia dla złoczyńców i wyniosła wyrafinowanie oszustwa na poziom, który wykracza poza zdolność zwykłego człowieka do rozpoznawania wzorców. Autorzy raportu dochodzą do wniosku, że wykrywanie przekrętów wymaga fundamentalnie nowego podejścia.

To nowe podejście ma wymiar częściowo techniczny. Ale w głębszym sensie jest to pytanie o formację człowieka — o to, kim się stajemy, i o to, czy nasze życie wewnętrzne jest zdolne do poruszania się w świecie, w którym zmysły mogą być systematycznie zwodzone.

Zaufanie nie jest naiwnością — ale można je obrócić przeciwko nam

Człowiek jest stworzony do zaufania. Zdolność do okazywania dobrej wiary drugiemu człowiekowi należy do najpiękniejszych rysów naszej natury — to ona umożliwia przyjaźń, podtrzymuje małżeństwo, pozwala nieznajomym współpracować na zatłoczonym rynku. Zaufanie jest w znaczącym sensie strukturalnym wymiarem osoby ludzkiej, a nie jedynie kwestią charakteru.

Właśnie dlatego podstęp wyrządza tak szczególną krzywdę. Nie pozbawia człowieka jedynie pieniędzy czy informacji — wykorzystuje samą architekturę relacji. Oszustwo z użyciem SI, które naśladuje głos wnuka, nie jest zwykłym wyłudzeniem; to swoisty wandalizm relacyjny — pogwałcenie świętej więzi między babcią a dzieckiem, które kocha.

Zrozumienie tego pozwala wyjaśnić, dlaczego tak wielu ofiar wyrafinowanych oszustw mówi o czymś więcej niż strata finansowa. Mówią o ranie. Wstyd nie bierze się tylko stąd, że dały się oszukać — lecz stąd, że ich miłość stała się narzędziem tego oszustwa. Uczciwe i duszpasterskie uznanie tego faktu jest ważne, zanim przejdziemy do praktycznych środków obrony.

Wymiar upadłości: dlaczego podstęp jest tak stary jak język

Oszustwo nie jest niczym nowym. Historia ludzkiej cywilizacji jest po części historią naciągaczy, fałszerzy i podszywających się pod innych. Naprawdę nowe jest technologiczne wzmocnienie zdolności do zwodzenia — możliwość sprawienia, by kłamstwo było zmysłowo nieodróżnialne od prawdy.

Tradycja katolicka od dawna uznaje, że człowiek żyje w świecie, w którym pozory mogą wprowadzać w błąd. Zdolność do oszustwa jest rozumiana jako jeden z przejawów nieporządku, który przez grzech wkracza w ludzkie życie — jako nadużycie rozumu i języka, będących samych w sobie szlachetnymi darami. Podstęp traktuje drugiego człowieka jako środek do celu, sprowadzając nieodłączną godność osoby okłamywanej do roli zwykłego instrumentu. Jest to dokładne odwrócenie tego, czego wymaga miłość.

Oszustwa realizowane przy pomocy SI są wyrazem tego odwiecznego nieporządku, działającego przez współczesne narzędzia. Technologia jest nowa. Moralna struktura czynu — nie.

Roztropność w dobie mediów syntetycznych

Klasyczna cnota roztropności — to, co Arystoteles nazywałphronesis, a Akwinata opisywał jako prawdziwy rozum zastosowany do działania — jest cnotą najbardziej bezpośrednio związaną z poruszaniem się w tym, co przeżywamy obecnie. Roztropność nie jest ani bojaźliwością, ani podejrzliwością; jest zdyscyplinowaną zdolnością do trafnego odczytywania sytuacji i mądrego reagowania. Składa się z kilku elementów, które warto wymienić wprost.

Przezornośćpolega na przewidywaniu prawdopodobnych konsekwencji sytuacji, zanim podejmie się działanie. Przed przelaniem pieniędzy, przed kliknięciem w link, przed podaniem danych osobowych — przezorność zatrzymuje nas i każe zapytać: jakie jest najbardziej prawdopodobne wyjaśnienie tego, co się dzieje? Poczucie pilności jest niemal zawsze taktyką manipulacji. Legalne instytucje rzadko kiedy domagają się natychmiastowego działania pod presją.

Bacznośćpolega na uważnym przyglądaniu się kontekstowi. Głosy generowane przez SI są wyrafinowane, ale kontekst niesie ze sobą sygnały, które trudniej sfałszować. Czy ta prośba pasuje do sposobu, w jaki ta osoba zazwyczaj się komunikuje? Czy wcześniej pojawiły się jakieś sygnały, że sytuacja się rozwija? Czy okoliczności są spójne?

Ostrożność— prawdziwy składnik praktycznej mądrości, nie zwykłe lękliwość — polega na rozpoznawaniu kategorii ryzyka i utrzymywaniu stałych praktyk chroniących przed nimi. Eksperci ds. bezpieczeństwa zalecają ustalenie rodzinnego hasła weryfikacyjnego właśnie w tym celu: wspólnego słowa-klucza, którym można się posłużyć w chwilach niepewności. To ostrożność utrwalona jako nawyk — i ona działa.

Uległośćw klasycznym sensie oznacza otwartość na pouczenie, gotowość przyjęcia rady. W praktyce oznacza to poważne traktowanie ostrzeżeń płynących od zaufanych źródeł — specjalistów ds. cyberbezpieczeństwa, bliskich, którzy zetknęli się z tego rodzaju schematami, komunikatów społecznościowych — zamiast zakładania, że wcześniejsze doświadczenie chroni przed zagrożeniem. Pokora wobec własnej podatności na oszustwo jest ochroną.

Kiedy zmysłom nie można ufać

Jednym z najbardziej dezorientujących aspektów obecnej chwili jest to, że treści generowane przez SI są już na tyle zaawansowane, że pokonują zwykłą weryfikację zmysłową. Zawsze wiedzieliśmy teoretycznie, że zdjęcia można modyfikować i że aktorzy mogą kogoś naśladować. Nowością jest interaktywny, personalizowany, działający w czasie rzeczywistym charakter zwodzenia przez SI — głos, który odpowiada na nasze pytania, twarz poruszająca się naturalnie w filmie wideo, wiadomość posługująca się naszymi własnymi zwrotami i odwołująca się do wspólnej historii.

To prawdziwe wyzwanie epistemologiczne i należy je jako takie nazwać. Człowiek posługuje się zmysłami — wzrokiem, słuchem, rozpoznawaniem wzorców nagromadzonych przez lata w relacji — jako podstawowymi narzędziami weryfikacji. Gdy narzędzia te można systematycznie oszukiwać, zwykłe procesy postrzegania i rozpoznawania wymagają uzupełnienia.

Praktyczna odpowiedź, do której dochodzą zarówno reporterzy„Timesa",jak i badacze ds. bezpieczeństwa, brzmi: przenieść weryfikację poza kanał, który jest w danej chwili używany. Jeśli ktoś dzwoni, podając się za twojego wnuka, rozłącz się i zadzwoń na numer, który masz zapisany dla niego. Jeśli wiadomość e-mail wygląda jakby pochodziła z twojego banku, nie klikaj żadnego linku — wejdź na stronę banku samodzielnie. Jeśli wiadomość głosowa wywołuje poczucie pilności i lęk, zaczekaj. Sama pilność jest sygnałem: w niemal każdej prawdziwej sytuacji można pozwolić sobie na dziesięciominutową pauzę.

Władza rozumu i znaczenie wolnego myślenia

Badania psychologiczne nad podejmowaniem decyzji rzucają światło na to, co oszuści są zaprojektowani, by wykorzystywać. Praca Daniela Kahnemana nad myśleniem szybkim i wolnym opisuje dwa tryby poznania ludzkiego: szybki, intuicyjny system operujący na rozpoznawaniu wzorców, oraz wolniejszy, bardziej refleksyjny system angażujący analizę i weryfikację.[^1] Wyrafinowane oszustwa są zaprojektowane tak, by aktywować szybki system — przez poczucie pilności, pobudzenie emocjonalne i sygnały autorytetu — blokując wolny system, zanim zdąży się włączyć.

Władza rozumu, rozumiana jako zdolność do celowego, opartego na dowodach osądu, jest zasobem poznawczym chroniącym przed tym zjawiskiem. Kultywowanie nawyku zwalniania przed decyzjami wysokiej stawki — zwłaszcza decyzjami dotyczącymi pieniędzy lub wrażliwych informacji — jest zarówno praktyką psychologiczną, jak i wyrazem cnoty intelektualnej. Tradycja nazywa tostudiositas: uporządkowanym, zdyscyplinowanym zaangażowaniem umysłu.[^2] Zastosowane tu wygląda jak reguła: decyzje finansowe podjęte pod presją emocji warte są przemyślenia następnego dnia.

Ochrona rodziny jako wspólnoty zaufania

Ponieważ oszustwa z użyciem SI często uderzają w więzi rodzinnej miłości, samo życie rodzinne staje się miejscem zarówno podatności, jak i odporności. Rodziny, które otwarcie rozmawiają o tego rodzaju schematach — które przy rodzinnym stole omawiają strategię hasła weryfikacyjnego, które bez wstydu dzielą się informacją o próbach wyłudzenia, które wspólnie ćwiczą zdrowy sceptycyzm — są naprawdę lepiej chronione niż te, które tego nie robią.

Jest to wyraz tego, co tradycja katolicka rozumie jako rolę rodziny jako fundamentalnej wspólnoty zaufania. Rodzina jest pierwszym miejscem, w którym człowiek uczy się kochać i być kochanym, okazywać dobrą wiarę i ćwiczyć rozeznanie. Rodzina, która wypracowuje wspólne praktyki weryfikacji, rozciąga swoją kulturę troski na nową dziedzinę — nie z podejrzliwości jako zasady naczelnej, lecz z tej uważnej miłości, która pragnie chronić to, co cenne.

Rodzice wprowadzający dzieci w świat kompetencji cyfrowych spełniają naprawdę formacyjny akt. Wnuki, które pomagają dziadkom zrozumieć technologię deepfake, praktykują pobożność synowską w nieoczekiwany sposób. To nie są jedynie rozmowy techniczne. To momenty troski.

Praktyczne kroki warte zapamiętania

Dla tych, którzy chcą przełożyć te refleksje na konkretne nawyki, kilka praktyk zasługuje na przyjęcie.

Ustal rodzinne hasło weryfikacyjne.Proste słowo lub zwrot znane tylko członkom rodziny stanowi warstwę uwierzytelniania, której SI nie może łatwo odtworzyć. Przypominaj je sobie od czasu do czasu.

Wprowadź pauzę przy decyzjach finansowych.Każda prośba o pieniądze — niezależnie od tego, kto pozornie ją kieruje — wymaga weryfikacyjnej pauzy: rozłącz się, oddzwoń na znany numer, potwierdź przez drugi kanał.

Nazwij schemat emocjonalnej manipulacji.Oszustwa działają przez wzbudzanie lęku lub poczucia pilności. Sama świadomość tego mechanizmu sprawia, że sygnał staje się czytelny: wzmożone emocje pod presją są powodem, by zwolnić, nie by przyśpieszyć.

Podchodź z większą ostrożnością do kontaktów inicjowanych przez nieznajomych.Gdy to do ciebie kierowany jest pierwszy kontakt — nieoczekiwany telefon, niespodziewana wiadomość e-mail, wyskakujące ostrzeżenie — ciężar dowodu spoczywa na nadawcy, nie na tobie.

Dziel się tym, czego się uczysz, bez pouczania.Gdy natkniesz się na nowy schemat oszustwa, powiedz o tym bliskim. To mały akt miłości o realnej wartości ochronnej.

Słowo o wstydzie

Ludzie, którzy padli ofiarą wyrafinowanych oszustw, niekiedy dźwigają zbędny wstyd. Wyrafinowanie nadużyć realizowanych przy użyciu SI jest naprawdę niezwykłe; niektóre z tych operacji dysponują zasobami, cierpliwością i możliwościami technicznymi, które stanowiłyby wyzwanie dla doświadczonych specjalistów ds. bezpieczeństwa. Ofiary nie są głupie — są ludźmi, co oznacza, że są konstytutywnie zdolne do zaufania, a ich zaufanie zostało świadomie wykorzystane.

Właściwą odpowiedzią na bycie oszukanym nie jest wstyd, lecz żal, po którym przychodzi nauka. Tak wygląda włączenie doświadczenia krzywdy w mądrość, a nie w ranę. W Presence+ wierzymy w rzetelne opisywanie świata takim, jakim jest — wraz z jego pęknięciami — nie tracąc z oczu horyzontu ludzkiej odporności i godności.

Zdolność do bycia zwiedzionym jest ciemną stroną zdolności do zaufania. A zdolność do zaufania należy do tego, co w nas najprawdziwiej ludzkie.

Bibliografia

[^1]: Daniel Kahneman,Thinking, Fast and Slow(Nowy Jork: Farrar, Straus and Giroux, 2011), s. 20–24. Kahneman odróżnia System 1 (szybki, asocjacyjny, automatyczny) od Systemu 2 (wolny, refleksyjny, wymagający wysiłku) i dokumentuje, jak decyzje wysokiej stawki podejmowane pod presją emocji systematycznie blokują zaangażowanie Systemu 2.

[^2]: Vitz, Nordling i Titus,Katolicko-Chrześcijański Meta-Model Osoby(Divine Mercy University Press, 2020), rozdz. 15 („Racjonalny"), gdziestudiositas— uporządkowane zaangażowanie umysłu — zostaje osadzona w szerszym kontekście cnoty intelektualnej i jej roli w rozumowaniu praktycznym.