Kapag Hindi Siya ang Nasa Telepono: Mga Scam na Gumagamit ng AI at ang Karunungan ng Pag-verify

Ang boses ay kapareho ng tinig ng kanyang anak na lalaki

Nakatanggap ng tawag sa telepono ang isang lola. Walang duda na boses ng kanyang apo ang maririnig niya — ang pamilyar na ritmo ng pananalita, ang bahagyang tono, maging ang kaba sa paraan ng pagbigkas nito sa kanyang pangalan. Kailangan ng pera, agad-agaran, at nakikiusap ito na huwag niyang sabihin sa mga magulang nito. Nagpadala na siya ng pondo bago pa niya ibinaba ang telepono.

Hindi kailanman ginawa ng kaniyang apo ang tawag na iyon.

Ang ganitong sitwasyon, at daan-daang katulad nito, ay iniuulat na linggu-linggo sa buong Estados Unidos. Isang kamakailang pagsisiyasat ngThe New York Timesay nagpapakita kung paano binago ng artipisyal na katalinuhan ang mukha ng pandaraya. Gumagamit na ngayon ang mga kriminal ng software na nagkokopya ng boses, ng deepfake na video, at ng mga persona na gawa ng AI upang magpanggap bilang mga sikat na tao, mga tindahan sa internet, at — pinaka-masakit sa lahat — mga miyembro ng pamilya. Pinababa ng teknolohiya ang hadlang para sa mga gumagawa ng masama at itinangkilik ang antas ng panlilinlang sa antas na hindi na kayang subaybayan ng karaniwang iisip ng tao. Ang tuklasin ang mga scam, ayon sa ulat, ay nangangailangan na ng ganap na bagong pamamaraan.

Ang bagong pamamaraang iyon ay bahagyang teknikal. Ngunit ito rin, sa mas malalim na kahulugan, ay isang tanong tungkol sa pagbuo ng tao — sa uri ng mga taong tinataging ating maging, at kung ang ating panloob na buhay ay handa nang harapin ang isang mundo kung saan ang mga pandama ay maaaring sistematikong linlangin.

Ang tiwala ay hindi kamangmangan — ngunit maaari itong gawing sandata

Ang mga tao ay likas na may kakayahang magtiwala. Ang kakayahang magpakita ng mabuting loob sa kapwa ay isa sa mga pinaka-magandang katangian ng ating kalikasan — ito ang nagbibigay-daan sa pagkakaibigan, nagpapanatili ng pag-aasawa, at nagpapahintulot sa mga estranyo na makipagtulungan sa isang masikip na pamilihan. Ang tiwala, sa makabuluhang kahulugan, ay isang likas na katangian ng tao — hindi lamang isang kagustuhan ng personalidad.

Ito mismo ang dahilan kung bakit ang panlilinlang ay nagdudulot ng natatanging pinsala. Hindi lamang ito nag-aalis ng pera o impormasyon sa isang tao. Sinasamantala nito ang mismong ugnayan ng relasyon. Ang scam na gumagamit ng AI upang gayahin ang apo ng isang lola ay hindi lamang simpleng pandaraya; ito ay isang uri ng vandalism sa relasyon — isang paglabag sa sagradong ugnayan ng isang lolo o lola at ang batang kanyang minamahal.

Ang pag-unawa rito ay nagpapaliwanag kung bakit maraming biktima ng sopistikadong mga scam ang nagsasabing higit pa sa pagkalugi ng pera ang naramdaman nila. Nagsasabi sila ng sugat. Hindi lamang hiya ang naramdaman nila dahil naloko sila; kundi dahil ang kanilang pag-ibig ang ginamit na kasangkapan para linlangin sila. Mahalaga na kilalanin ito nang tapat — at may pagmamalasakit — bago tayo tumungo sa mga praktikal na panlaban.

Ang dimensyon ng pagkahulog: bakit kasinuma ng wika ang panlilinlang

Walang bago sa pandaraya. Ang kasaysayan ng sibilisasyon ng tao ay, sa isang banda, isang kasaysayan ng mga manloloko, mga palsipikador, at mga nagpapanggap. Ang tunay na bago ay ang teknolohikal na pagpapalaki ng kakayahang manlinlang — ang kakayahang gawing hindi makilala ang isang kasinungalingan mula sa katotohanan sa antas ng mga pandama.

Matagal nang kinikilala ng tradisyong Katoliko na ang mga tao ay nabubuhay sa isang mundo kung saan ang anyo ng mga bagay ay maaaring makapanlinlang. Ang kakayahan para sa panlilinlang ay nauunawaan bilang isang pagpapahayag ng kalikasan na nagambala ng kasalanan — isang maling paggamit ng katalinuhan at wika, na mga mahalagang kaloob. Tinatrato ng panlilinlang ang kapwa bilang isang kasangkapan lamang, winawasak ang likas na dignidad ng naloloko. Ito ay tiyak na kabaligtaran ng hinihingi ng pag-ibig.

Ang mga scam na pinapagana ng AI ay kumakatawan sa sinaunang kaguluhang ito na gumagamit ng mga kontemporanyang kasangkapan. Bago ang teknolohiya. Hindi bago ang moral na istraktura ng kilos.

Pagiging maingat sa panahon ng synthetic media

Ang klasikal na birtud ng pagiging maingat — na tinatawag ni Aristotle naphronesisat inilarawan ni Aquinas bilang tamang katwiran na inilapat sa pagkilos — ang birtud na pinaka-direktang kaugnay ng pag-navigate sa sandaling ito. Ang pagiging maingat ay hindi duwag o mapaghinala; ito ang disiplinadong kakayahang tumpak na matukoy ang mga sitwasyon at tumugon nang may karunungan. Mayroon itong ilang bahagi na kapaki-pakinabang na pangalanan.

Ang pagtingin sa magiging kinabukasanay kinabibilangan ng pag-anticipate sa malamang na mga kahihinatnan ng isang sitwasyon bago kumilos. Bago magpadala ng pera, bago mag-click ng link, bago magbigay ng personal na impormasyon — ang pagtingin sa magiging kinabukasan ay nagpapahinto at nagtatanong: ano ang pinaka-makatwirang paliwanag sa nangyayari? Ang pagkaapurahan ay halos palaging isang taktika ng manipulasyon. Bihirang humingi ng agarang aksyon sa ilalim ng presyon ang mga lehitimong institusyon.

Ang pagsisiyasat ng kontekstoay nangangailangan ng maingat na pagpapansin sa konteksto. Ang mga boses na ginawa ng AI ay sopistikado, ngunit ang konteksto ay nagdadala ng mga senyales na mas mahirap gayahin. Naaayon ba ang kahilingang ito sa paraan ng karaniwang pakikipag-ugnayan ng taong ito? May nakaraang pahiwatig ba na nagaganap ang sitwasyong ito? Nagtutugma ba ang mga nakapaligid na pangyayari?

Ang pag-iingat— isang tunay na bahagi ng praktikal na karunungan, hindi lamang takot — ay kinabibilangan ng pagkilala sa mga kategorya ng panganib at pagpapanatili ng mga pamantayang gawi na nagpoprotekta laban sa mga ito. Inirerekomenda ng mga eksperto sa seguridad ang pagtatag ng isang code word para sa pamilya nang tiyak para sa kadahilanang ito: isang nakabahaging verbal na password na maaaring palitan sa mga sandali ng kawalan ng katiyakan. Ito ang pag-iingat na ginawang gawi, at ito ay epektibo.

Ang katamuan sa pagkatutosa klasikal na kahulugan ay nangangahulugang pagiging bukas sa pagtuturo, pagkahanda na tumanggap ng payo. Sa praktikal na mga termino, nangangahulugan ito ng seryosong pagtanggap sa mga babala mula sa mga pinagkakatiwalaang pinagkukunan — mga propesyonal sa cybersecurity, mga miyembro ng pamilyang nakatagpo na ng mga ganitong pandaraya, mga abiso ng komunidad — sa halip na ipagpalagay na ang nakaraang karanasan ay nagbibigay ng kaligtasan. Ang kababaang-loob tungkol sa sariling kahinaan ay nagpoprotekta.

Kapag hindi mapagkakatiwalaan ang mga pandama

Isa sa pinaka-nakaka-dismaya na aspeto ng kasalukuyang panahon ay ang mga nilalaman na ginawa ng AI ay sapat na nang sopistikado upang talunin ang karaniwang pagberipika ng pandama. Alam na natin, sa prinsipyo, na ang mga larawan ay maaaring baguhin at ang mga aktor ay maaaring magpanggap. Ang bago ay ang real-time, personalisado, at interactive na kalidad ng panlilinlang ng AI — isang boses na sumasagot sa iyong mga tanong, isang mukha na natural na gumagalaw sa video, isang teksto na gumagamit ng iyong sariling mga salawikain at tinutukoy ang inyong pinagsamang kasaysayan.

Ito ay isang tunay na hamon sa epistemolohiya, at nararapat na tawaging ganoon. Ginagamit ng mga tao ang kanilang mga pandama — paningin, pandinig, pagkilala ng mga pattern na naipon sa maraming taon ng relasyon — bilang pangunahing mga kasangkapan ng pagberipika. Kapag ang mga kasangkapang iyon ay maaaring sistematikong lokohin, ang karaniwang proseso ng pang-unawa at pagkilala ay nangangailangan ng karagdagan.

Ang praktikal na sagot na pinagsama ngTimesna ulat at ng mga mananaliksik sa seguridad ay: ilipat ang pagberipika mula sa channel na ginagamit. Kung may tumatawag na nag-aangking apo mo siya, ibaba ang telepono at tawagan ang numero na nakatago mo para sa kanya. Kung may email na tila mula sa iyong bangko, huwag mag-click ng anumang link sa email na iyon — pumunta nang direkta sa website ng bangko. Kung ang isang voice message ay nagdulot ng pagkaapurahan at takot, maghintay. Ang pagkaapurahan mismo ay datos: ang mga lehitimong sitwasyon ay halos palaging kayang tiisin ang sampung minutong pagtigil.

Ang kakayahang makatuwiran at ang kahalagahan ng maingat na pag-iisip

Ang pananaliksik sa sikolohiya sa paggawa ng desisyon ay nagliliwanag sa kung ano ang sadyang sinasamantala ng mga manloloko. Itinutukoy ng gawa ni Daniel Kahneman tungkol sa mabilis at mabagal na pag-iisip ang dalawang mode ng kognisyon ng tao: isang mabilis, intuwisyong sistema na gumagana sa pagkilala ng mga pattern, at isang mas mabagal, mas sinseryosong sistema na gumagamit ng pagsusuri at pagberipika.[^1] Ang mga sopistikadong scam ay idinisenyo upang i-activate ang mabilis na sistema — sa pamamagitan ng pagkaapurahan, emosyonal na pagkagulo, at mga hudyat ng awtoridad — habang pinipigilan ang mabagal na sistema bago ito mapagana.

Ang kakayahang makatuwiran, na nauunawaan bilang kakayahang gumawa ng maingat, pinagtimbang-timbang na pagpapasya batay sa katibayan, ang kognitibong mapagkukunan na nagpoprotekta laban dito. Ang paglinang ng gawi ng pagbagal bago gumawa ng mataas na antas na mga desisyon — lalo na ang mga desisyong may kinalaman sa pera o sensitibong impormasyon — ay parehong isang sikolohikal na gawi at isang pagpapahayag ng intelektwal na birtud. Tinatawag ito ng tradisyon nastudiositas: ang maayos, disiplinadong pakikipag-ugnayan ng isip.[^2] Inilapat dito, ito ay mukhang isang patakaran: ang mga desisyong pinansyal na ginawa sa ilalim ng emosyonal na presyon ay mga desisyon na sulit na balikan bukas.

Pag-iingat sa pamilya bilang isang komunidad ng tiwala

Dahil madalas na tinutukoy ng mga scam ng AI ang mga bono ng pagmamahal sa pamilya, ang buhay pamilya mismo ay nagiging lugar ng parehong kahinaan at katatagan. Ang mga pamilyang bukas na nag-uusap tungkol sa mga ganitong pandaraya — na pinangangalanan ang estratehiya ng code word sa hapag-kainan, na nagbabahagi ng balita ng mga kamakailang pagtatangkang mandaraya nang walang hiya, na magkasamang nagsasanay ng malusog na pag-aalinlangan — ay tunay na mas protektado kaysa sa mga hindi.

Ito ay isang pagpapahayag ng nauunawaan ng tradisyong Katoliko bilang papel ng pamilya bilang pundasyon na komunidad ng tiwala. Ang pamilya ang unang lugar kung saan natututo ang mga tao na magmahal at mahalin, magpakita ng mabuting loob at magsagawa ng pagpapasya. Ang isang pamilyang nagtatayo ng mga nakabahaging gawi ng pagberipika ay pinaabot ang kultura nito ng pagmamalasakit sa isang bagong larangan — hindi sa pamamagitan ng pag-aalinlangan bilang nangunguna nitong disposisyon, kundi sa uri ng mapagmahal na pansin na nagnanais na pangalagaan ang mahalagang bagay.

Ang mga magulang na nagtuturo sa mga bata ng digital literacy ay gumaganap ng tunay na pagbubuo ng pagkatao. Ang mga apo na tumutulong sa kanilang mga lolo at lola na maunawaan ang teknolohiya ng deepfake ay nagsasagawa ng anak na kabanalan sa isang hindi inaasahang paraan. Hindi lamang ito mga teknikal na pag-uusap. Ito ay mga sandali ng pagmamalasakit.

Mga praktikal na hakbang na dapat ingatan

Para sa mga nagnanais na isalin ang mga pagmumunin na ito sa mga kongkretong gawi, ilang mga gawi ang nararapat na gamitin.

Magtatag ng isang code ng pagberipika para sa pamilya.Ang isang simpleng salita o parirala na kilala lamang ng mga miyembro ng pamilya ay nagbibigay ng isang layer ng pagpapatunay na hindi madaling kopyahin ng AI. Repasuhin ito pana-panahon.

Magtatag ng pagtigil sa mga desisyong pinansyal.Ang anumang kahilingan para sa pera — anuman ang tila nagtatanong — ay nangangailangan ng pagtigil para sa pagberipika: ibaba ang telepono, tumawag muli sa isang pinagkakatiwalaang numero, kumpirmahin sa pamamagitan ng pangalawang channel.

Pangalanan ang pattern ng emosyonal na manipulasyon.Gumagana ang mga scam sa pamamagitan ng paglikha ng takot o pagkaapurahan. Ang simpleng pag-alam na ito ang mekanismo ay ginagawang malinaw ang senyales: ang matinding emosyon sa ilalim ng presyon ay dahilan para bumagal, hindi para magmadali.

Tratuhin ang hindi hinihiling na pakikipag-ugnayan nang may mas mataas na pagsisiyasat.Kapag ang unang pakikipag-ugnayan ay pumunta sa iyo — isang hindi inaasahang tawag, isang hindi hiniling na email, isang babala sa pop-up — ang pasanin ng patunay ay nasa pakikipag-ugnayan, hindi sa iyo.

Ibahagi ang natutunan mo nang walang pagmamahal sa sarili.Kapag nakatagpo ka ng bagong pattern ng scam, sabihin sa mga tao sa iyong buhay. Ito ay isang maliit na kilos ng pag-ibig na may tunay na halaga ng proteksyon.

Isang salita tungkol sa hiya

Ang mga taong naloko ng mga sopistikadong scam ay minsang nagtataglay ng hindi kinakailangang hiya. Ang sopistikasyon ng pandaraya na pinapagana ng AI ay tunay na pambihira; ang ilan sa mga operasyong ito ay may mga mapagkukunan, pasensya, at teknikal na kakayahan na makakatawid sa mga naranasang propesyonal sa seguridad. Ang mga biktima ay hindi hangal — sila ay tao, na nangangahulugang likas silang magtiwala, at ang kanilang tiwala ay sadyang sinasamantala.

Ang naaangkop na tugon sa pagiging niloko ay hindi hiya kundi kalungkutan, na sinusundan ng pagkatuto. Ito ang hitsura ng pagsasama ng karanasan ng pinsala sa karunungan sa halip na sa sugat. Sa Presence+, naniniwala kami sa pag-uulat ng katotohanan ng mundo kung ano ito — kasama ang pagkasira nito — habang malinaw na tinitingnan ang abot-tanaw ng katatagan at dignidad ng tao.

Ang kakayahang malinlang ay ang anino ng kakayahang magtiwala. At ang kakayahang magtiwala ay kabilang sa mga pinaka-tunay na katangiang pantao sa atin.

Mga Sanggunian

[^1]: Daniel Kahneman,Thinking, Fast and Slow(New York: Farrar, Straus and Giroux, 2011), pp. 20–24. Pinagkaiba ni Kahneman ang System 1 (mabilis, asosyatibo, awtomatiko) mula sa System 2 (mabagal, sinasadya, nagsisikap) at nidokumento kung paano sistematikong pinipigilan ng mga mataas na antas na desisyon na ginawa sa ilalim ng emosyonal na presyon ang pakikipag-ugnayan ng System 2.

[^2]: Vitz, Nordling, at Titus,A Catholic Christian Meta-Model of the Person(Divine Mercy University Press, 2020), kab. 15 ("Rational"), na naglalagay ngstudiositas— ang maayos na pakikipag-ugnayan ng isip — sa loob ng mas malawak na balangkas ng intelektwal na birtud at ang papel nito sa praktikal na pangangatwiran.