전화 속 목소리가 당신이 생각하는 그 사람이 아닐 때: AI 사기와 확인의 지혜

목소리는 영락없이 그녀의 아들 같았다

한 할머니가 전화를 받는다. 목소리는 틀림없이 손자다 — 익숙한 말투, 특유의 억양, 심지어 이름을 부를 때의 조심스러운 태도까지. 손자는 급히 돈이 필요하다며, 부모에게는 알리지 말아 달라고 사정한다. 할머니는 전화를 끊기도 전에 돈을 송금한다.

손자는 그런 전화를 한 적이 없다.

이런 사례가, 그리고 이와 유사한 수백 건의 사례가 이제 매주 미국 전역에서 보고되고 있다. 최근뉴욕 타임스의 심층 보도는 인공지능이 어떻게 사기 범죄의 판도를 바꾸어 놓았는지를 낱낱이 드러낸다. 범죄자들은 이제 음성 복제 소프트웨어, 딥페이크 영상, AI가 만들어 낸 가상 인물을 이용해 유명인이나 온라인 쇼핑몰은 물론 — 가장 가슴 아프게도 — 가족까지 사칭한다. 기술의 발전은 범죄자들의 진입 장벽을 낮추는 동시에, 속임수의 수준을 인간의 일반적인 패턴 인식 능력으로는 감지하기 어려울 만큼 정교하게 끌어올렸다. 이 보도는, 사기를 탐지하려면 근본적으로 새로운 접근법이 필요하다는 결론을 내린다.

그 새로운 접근법의 일부는 기술적인 것이다. 그러나 더 깊은 차원에서 보면, 이것은 인간 형성의 문제이기도 하다 — 우리가 어떤 사람이 되어 가고 있는지, 그리고 우리의 내면이 감각이 체계적으로 기만당할 수 있는 세상을 헤쳐 나갈 준비가 되어 있는지의 문제다.

신뢰는 순진함이 아니다 — 그러나 무기로 악용될 수 있다

인간은 신뢰를 위해 만들어진 존재다. 타인에게 선의를 베푸는 능력은 우리 본성이 지닌 가장 아름다운 특성 중 하나다 — 그것은 우정을 가능하게 하고, 혼인을 지탱하며, 낯선 이들이 복잡한 시장 안에서 협력할 수 있게 해 준다. 신뢰는 단순한 성격적 선호가 아니라, 인간 본성의 구조적 특성이라 할 수 있다.

바로 이 때문에 기만은 그토록 독특한 해악을 끼친다. 기만은 단순히 돈이나 정보를 빼앗는 데 그치지 않는다. 관계 자체의 구조를 착취한다. 손자를 사칭하는 AI 사기는 단순한 금융 범죄가 아니다. 그것은 일종의 관계적 파괴 행위 — 조부모와 그가 사랑하는 손자 사이의 거룩한 유대를 짓밟는 행위다.

이를 이해하면, 정교한 사기의 피해자들이 왜 단순한 금전적 손실 이상의 것을 묘사하는지 알 수 있다. 그들은 상처를 입었다고 말한다. 수치스러운 것은 비단 속았다는 사실만이 아니다. 자신의 사랑이 기만의 도구로 쓰였다는 사실이다. 실천적인 대응책을 논하기 전에, 이 현실을 정직하게 — 그리고 목회적으로 — 인정하는 일이 먼저다.

타락한 차원: 기만이 언어만큼이나 오래된 이유

사기는 결코 새로운 현상이 아니다. 인류 문명의 역사는 어떤 의미에서 사기꾼, 위조범, 사칭자들의 역사이기도 하다. 진정으로 새로운 것은 기만 능력의 기술적 증폭 — 거짓을 감각의 수준에서 진실과 구분할 수 없게 만드는 능력이다.

가톨릭 전통은 오래전부터 인간이 사물의 외양에 오도될 수 있는 세상 속에서 살아간다는 사실을 인식해 왔다. 기만의 능력은 죄를 통해 인간의 삶에 들어온 무질서의 한 표현으로 이해된다 — 그 자체로는 고귀한 선물인 지성과 언어를 잘못 사용하는 것이다. 기만은 속이는 대상을 단순한 수단으로 전락시킴으로써, 그 사람이 지닌 고유한 존엄성을 도구로 격하한다. 이것은 사랑이 요구하는 바와 정반대되는 것이다.

AI를 활용한 사기는 이 오래된 무질서가 현대의 도구를 통해 작동하는 방식이다. 기술은 새롭다. 그러나 행위의 도덕적 구조는 그렇지 않다.

합성 미디어 시대의 지혜

고전적 덕목인 지혜 — 아리스토텔레스가프로네시스라 부르고, 아퀴나스가 행동에 적용된 올바른 이성으로 설명한 것 — 는 이 시대를 헤쳐 나가는 데 가장 직접적으로 관련된 덕목이다. 지혜는 소심함이나 의심이 아니다. 그것은 상황을 정확히 파악하고 슬기롭게 대응하는 훈련된 능력이다. 이 덕목에는 명시적으로 짚어 볼 만한 몇 가지 요소가 있다.

선견은 행동하기 전에 어떤 상황이 초래할 결과를 미리 헤아리는 것이다. 돈을 송금하기 전에, 링크를 클릭하기 전에, 개인 정보를 제공하기 전에 — 선견은 잠시 멈추고 묻는다: 지금 이 상황의 가장 그럴듯한 설명은 무엇인가? 긴박감은 거의 언제나 조작의 수단이다. 합법적인 기관은 압박을 가하며 즉각적인 행동을 요구하는 경우가 드물다.

상황 주시는 문맥에 세심하게 주의를 기울이는 것이다. AI가 생성한 목소리는 정교하지만, 문맥에는 위조하기 어려운 신호들이 담겨 있다. 이 요청이 그 사람이 평소 소통하는 방식과 일치하는가? 이 상황이 전개되고 있다는 사전 징후가 있었는가? 주변 정황이 앞뒤가 맞는가?

신중함— 단순한 소심함이 아닌, 실천적 지혜의 진정한 구성 요소 — 은 위험의 범주를 인식하고, 그것으로부터 보호해 줄 일관된 실천을 유지하는 것이다. 보안 전문가들이 가족 암호를 만들 것을 권하는 것도 바로 이 때문이다: 불확실한 순간에 서로 주고받을 수 있는 공유된 구두 암호. 이것은 신중함을 습관으로 제도화한 것이며, 실제로 효과가 있다.

가르침에 열린 자세는 고전적 의미에서 배움을 받아들이는 개방성, 의견을 기꺼이 수용하는 태도를 의미한다. 실질적으로는, 이전 경험이 면역을 제공한다고 자만하지 않고, 믿을 만한 출처 — 사이버 보안 전문가, 이런 수법을 경험한 가족, 지역 사회 공지 — 에서 오는 경고를 진지하게 받아들이는 것을 뜻한다. 자신의 취약성에 대한 겸손은 스스로를 보호한다.

감각을 신뢰할 수 없을 때

현재 상황에서 가장 당혹스러운 측면 중 하나는, AI가 생성한 콘텐츠가 이제 일상적인 감각 확인을 무력화할 만큼 정교해졌다는 것이다. 사진이 조작될 수 있고 배우가 다른 사람을 흉내 낼 수 있다는 사실은 원래부터 알고 있었다. 새로운 것은 AI 기만의 실시간성, 개인화, 상호작용성이다 — 질문에 답하는 목소리, 영상에서 자연스럽게 움직이는 얼굴, 당신 고유의 표현을 쓰고 함께한 역사를 언급하는 문자.

이것은 진지하게 이름 붙여야 할 실제적인 인식론적 도전이다. 인간은 감각 — 시각, 청각, 수년간의 관계를 통해 쌓인 패턴 인식 — 을 검증의 일차적 도구로 사용한다. 그 도구들이 체계적으로 조작 가능해질 때, 지각과 인식의 일상적 과정은 보완을 필요로 한다.

실질적인 해법으로타임스의 보도와 보안 연구자들이 공통적으로 내놓는 것은 다음과 같다: 사용 중인 채널 밖으로 확인 절차를 옮겨라. 누군가 손자라고 주장하며 전화를 걸어 온다면, 끊고 저장해 둔 번호로 다시 전화하라. 은행에서 보낸 것처럼 보이는 이메일이라도 그 안의 링크는 클릭하지 말고, 직접 브라우저에서 은행 웹사이트로 접속하라. 음성 메시지가 긴박감과 두려움을 유발한다면, 기다려라. 긴박감 자체가 하나의 단서다: 정당한 상황은 거의 언제나 10분의 여유를 감당할 수 있다.

이성적 능력과 느리게 생각하는 것의 중요성

의사 결정에 관한 심리학 연구는 사기꾼들이 무엇을 노리도록 설계되었는지를 밝혀 준다. 다니엘 카너먼의 빠른 생각과 느린 생각에 관한 연구는 인간 인지의 두 가지 방식을 규명한다: 패턴 인식으로 작동하는 빠르고 직관적인 시스템과, 분석과 검증에 관여하는 느리고 심사숙고하는 시스템이다.[^1] 정교한 사기는 긴박감, 감정적 자극, 권위 신호를 통해 빠른 시스템을 활성화하는 동시에, 느린 시스템이 개입하기 전에 그것을 억제하도록 설계된다.

신중하고 증거를 저울질하는 판단 능력으로서의 이성적 능력은 이에 맞서는 인지적 자원이다. 고위험 결정 앞에서 — 특히 돈이나 민감한 정보가 걸린 결정 앞에서 — 속도를 늦추는 습관을 기르는 것은 심리적 실천이자 지적 덕목의 표현이다. 전통은 이를스투디오시타스라 부른다: 정신의 질서 있고 훈련된 참여.[^2] 여기에 적용하면, 이것은 하나의 원칙이 된다: 감정적 압박 속에서 내려진 재정적 결정은 내일 다시 검토할 가치가 있는 결정이다.

신뢰의 공동체로서 가정을 보호하기

AI 사기는 가족 간의 애정을 자주 표적으로 삼기 때문에, 가정생활 자체가 취약성과 회복력이 동시에 자리하는 공간이 된다. 이러한 수법에 대해 개방적으로 대화하는 가정 — 식탁에서 암호 전략을 언급하고, 최근의 사기 시도를 부끄러움 없이 공유하며, 함께 건강한 비판적 시각을 연습하는 가정 — 은 그렇지 않은 가정보다 실질적으로 더 잘 보호된다.

이것은 가톨릭 전통이 신뢰의 근본 공동체로서 가정이 지닌 역할로 이해하는 것의 표현이다. 가정은 인간이 처음으로 사랑하고 사랑받는 법을, 선의를 베풀고 식별력을 발휘하는 법을 배우는 곳이다. 공동의 확인 실천을 쌓아 가는 가정은 돌봄의 문화를 새로운 영역으로 확장하는 것이다 — 의심을 지배적 태도로 삼는 것이 아니라, 소중한 것을 지키고자 하는 세심한 사랑으로.

디지털 리터러시로 자녀를 교육하는 부모는 진정한 형성적 행위를 실천하는 것이다. 딥페이크 기술을 조부모에게 설명해 주는 손자는 예상치 못한 방식으로 효경을 실천하는 것이다. 이것은 단순한 기술적 대화가 아니다. 이것은 돌봄의 순간들이다.

간직할 만한 실천적 지침

이러한 성찰을 구체적인 습관으로 옮기고자 하는 분들을 위해, 받아들일 만한 몇 가지 실천을 제안한다.

가족 확인 암호를 만들어라.가족만 아는 간단한 단어나 문구는 AI가 쉽게 복제할 수 없는 인증 층을 제공한다. 정기적으로 갱신하라.

재정적 결정에 멈춤의 시간을 넣어라.돈에 관한 요청이라면 — 누가 요청하는 것처럼 보이든 관계없이 — 확인을 위한 멈춤이 필요하다: 전화를 끊고, 믿을 수 있는 번호로 다시 전화하며, 두 번째 채널을 통해 확인하라.

감정적 조작 패턴에 이름을 붙여라.사기는 두려움이나 긴박감을 조성함으로써 작동한다. 이것이 그 메커니즘임을 아는 것만으로도 신호를 읽을 수 있다: 압박 속의 고조된 감정은 속도를 높일 이유가 아니라 늦출 이유다.

일방적으로 걸려 온 연락에는 높은 수준의 경계를 유지하라.최초의 접촉이 상대방 쪽에서 시작된 것이라면 — 예상치 못한 전화, 요청하지 않은 이메일, 팝업 경고 — 입증의 부담은 그 연락을 한 측에 있지, 당신에게 있지 않다.

배운 것을 거드름 없이 나눠라.새로운 사기 수법을 접하게 되면, 주변 사람들에게 알려라. 이것은 실질적인 보호 가치를 지닌 사랑의 작은 실천이다.

수치심에 대하여

정교한 사기에 속은 사람들이 불필요한 수치심을 짊어지는 경우가 있다. AI를 활용한 사기의 정교함은 실로 놀라운 수준이다. 이러한 범죄 조직 중 일부는 숙련된 보안 전문가조차 난감하게 만들 만한 자원, 인내심, 기술적 역량을 갖추고 있다. 피해자들은 어리석은 것이 아니다 — 그들은 인간이다. 인간은 구조적으로 신뢰하는 존재이며, 그 신뢰가 의도적으로 착취당한 것이다.

속임을 당했을 때 적절한 반응은 수치심이 아니라 슬픔이며, 그 뒤에 배움이 따라야 한다. 이것이 해로운 경험을 상처가 아닌 지혜로 통합하는 모습이다. Presence+에서 저희는 세상의 진실 — 그 깨어짐까지 포함하여 — 을 보도하되, 인간의 회복력과 존엄성의 지평을 언제나 시야 안에 두고자 한다.

속임을 당할 수 있는 능력은 신뢰할 수 있는 능력의 그림자 면이다. 그리고 신뢰할 수 있는 능력은 우리를 가장 인간답게 만드는 것들 중 하나다.

참고 문헌

[^1]: Daniel Kahneman,『생각에 관한 생각 (Thinking, Fast and Slow)』(New York: Farrar, Straus and Giroux, 2011), pp. 20–24. 카너먼은 시스템 1(빠르고, 연상적이며, 자동적)과 시스템 2(느리고, 심사숙고하며, 노력이 필요한)를 구분하고, 감정적 압박 아래 내려진 고위험 결정이 체계적으로 시스템 2의 개입을 억제한다는 사실을 입증한다.

[^2]: Vitz, Nordling, and Titus,『가톨릭 그리스도교 인간학 메타모델』(Divine Mercy University Press, 2020), 15장 ("이성적 능력"), 지적 덕목의 넓은 틀과 실천적 추론에서의 역할 안에스투디오시타스— 정신의 질서 있는 참여 — 를 위치시킨다.