[ 페르소나인사이트칼럼 ⑲ ]
선의를 돈으로 바꾸는 사람들, AI 시대의 공감 착취 -동정심을 설계하고 신뢰를 조작하는 범죄의 심리학
타인의 고통에 마음이 움직이는 것은 인간의 선의이지만, 누군가는 바로 그 마음을 범죄의 수익 모델로 이용한다.
AI 딥페이크는 가짜 얼굴과 목소리에 현실감을 부여하고, 사람의 연민과 신뢰를 조작해 사적 이익으로 전환하는 새로운 범죄 환경을 만들고 있다.
[문경림 기자=서울]

어려운 형편의 아이가 치료비를 기다리고 있다. 재난으로 가족과 집을 잃은 사람이 도움을 요청한다.
한 노인이 생계의 어려움을 호소하고, 유명인이 직접 나서서 후원을 부탁한다. 화면 속 사연은 구체적이고 절박하다.
사진에는 실제 사람의 얼굴이 있고, 영상에서는 목소리가 들리며, 게시물에는 후원 계좌와 참여자들의 반응까지 이어진다.
이런 콘텐츠를 접한 사람은 무엇부터 생각할까. 모금 단체의 등록 여부나 계좌의 명의보다 먼저 '도와야겠다'는 마음이 생길 수 있다. 누군가의 고통을 외면하고 싶지 않은 감정, 지금 돕지 않으면 더 큰 피해가 생길 것이라는 걱정이 판단보다 앞서는 것이다.
1. 범죄는 기술을 이용하지만, 표적은 인간의 마음이다
문제는 이 감정이 진짜라고 해서 화면 속 사연까지 진실인 것은 아니라는 점이다.
AI 기술은 존재하지 않는 피해자의 얼굴을 만들고, 실제 인물의 목소리를 합성하며, 일어나지 않은 사건을 촬영한 것처럼 보이는 이미지를 생성할 수 있다. 여기에 실제 구호단체의 이름이나 유명인의 얼굴, 조작된 후원 인증이 결합하면 허위 콘텐츠는 단순한 거짓말을 넘어 신뢰할 만한 이야기처럼 구성된다.
AI로 만든 유명인 이미지와 음성, 가족을 사칭하는 음성 메시지, 성적 합성 이미지를 이용한 협박도 금융 사기와 금전 갈취에 악용될 수 있다고 밝혔다. 이는 AI가 범죄를 처음 만들어냈다는 뜻이 아니다. 기존의 사기와 사칭, 협박이 더 정교하고 빠른 방식으로 실행될 수 있게 됐다는 의미다.
여기서 우리가 살펴봐야 할 것은 범죄자는 왜 하필 사람의 동정심을 자극할까. 왜 피해자의 얼굴을 보여주고, 왜 긴박한 사연을 만들며, 왜 많은 사람이 참여하고 있다는 흔적을 남길까.
이 질문의 답은 인간이 타인의 고통을 인식하고, 관계를 통해 신뢰를 형성하며, 주변 사람들의 행동을 참고해 판단하는 심리 과정에 있다.
2. 첫 번째 심리학적 지식 ― 식별 가능한 피해자 효과와 연민의 집중
기부 행동을 연구하는 심리학과 행동경제학에는 '식별 가능한 피해자 효과(Identifiable Victim Effect)'라는 개념이 있다.
이는 구체적인 이름이나 사진, 개인의 사연이 제시된 피해자에게 추상적인 통계나 익명의 대상보다 더 큰 감정적 반응을 보일 수 있는 현상을 설명한다.
사람은 '수천 명이 어려움을 겪고 있다'는 통계보다 '치료를 기다리는 한 아이의 이야기'에 더 직접적으로 반응할 수 있다.
숫자는 문제의 규모를 알려주지만, 한 사람의 얼굴과 이야기는 고통을 구체적인 현실로 느끼게 하기 때문이다.
테힐라 코구트와 일라나 리토브(Tehila Kogut & Ilana Ritov)의 2005년 연구는 단일한 식별 가능한 피해자가 익명의 피해자보다 더 많은 기부를 이끌어낼 수 있음을 보여주었다. 이후 기부 행동 연구에서도 피해자의 구체적인 정보가 정서적 반응에 영향을 미치는 과정이 검토됐다. 다만 식별 가능한 정보가 언제나 기부액을 높이는 것은 아니다.
이러한 연구는 중요한 사실을 알려준다. 사람의 공감은 단순히 피해자의 숫자에 비례하지 않는다. 구체적인 얼굴과 이야기는 감정적 거리를 좁히지만, 그 감정이 실제 행동으로 이어지는 과정에는 다른 판단 요인도 개입한다.
범죄자는 바로 이 지점에 개입한다.
실제 피해자가 아니더라도 AI로 얼굴과 사연을 만들어내면 사람은 구체적인 고통을 마주하고 있다고 느낄 수 있다. 존재하지 않는 아이에게 이름을 붙이고, 가짜 환자의 치료 과정을 보여주며, 허위 재난 현장을 영상으로 구성하면 추상적인 거짓말이 감정적으로 실감 나는 이야기로 바뀐다.
여기서 범죄의 본질은 단순한 허위 정보 유포를 넘어선다. 타인의 고통을 이해하고 반응하려는 능력을 조작된 대상으로 향하게 만드는 것이다.
사람은 자신이 가짜 이미지에 속았다는 사실보다 자신이 도우려 했던 마음이 범죄에 이용됐다는 사실에 더 큰 배신감을 느낄 수도 있다. 금전적 손실과 함께 도덕적 충격이 발생하는 이유다.
따라서 식별 가능한 피해자 효과를 이해한다는 것은 사람들의 동정심을 경계하라는 뜻이 아니다. 구체적인 얼굴과 사연이 제시될 때 감정적 반응과 사실 확인을 분리할 필요가 있다는 의미다.
3. 두 번째 심리학적 지식 ― 신뢰의 전이와 권위·친숙성의 심리
사람은 정보를 판단할 때 내용만 보는 것이 아니다. 누가 전달했는지, 그 사람이 얼마나 익숙한지, 사회적으로 신뢰받는 인물인지도 함께 살핀다.
심리학에서 권위 휴리스틱(Authority Heuristic)은 전문성이나 지위, 권한을 가진 사람의 판단을 신뢰의 단서로 사용하는 경향을 설명한다. 친숙성 역시 중요한 역할을 한다. 자주 접한 얼굴과 목소리, 오랫동안 호감을 가져온 인물은 낯선 대상보다 심리적으로 가깝게 느껴질 수 있다.
이러한 신뢰는 실제 관계가 없어도 형성될 수 있다. 이를 이해하는 데 도움이 되는 개념이 준사회적 관계(Parasocial Relationship)다.
준사회적 관계는 미디어 속 인물과 실제 상호작용을 하지 않더라도 반복적인 노출을 통해 친밀감과 유대감을 느끼는 현상을 말한다. 시청자는 자신이 좋아하는 연예인이나 방송인, 인플루언서를 오랫동안 보면서 그 사람의 성격과 가치관을 알고 있다고 느낀다. 실제로 개인적인 관계를 맺은 것은 아니지만 심리적으로는 익숙한 사람처럼 받아들이는 것이다.
범죄자는 이러한 친숙성을 이용할 수 있다. 유명인의 얼굴과 목소리를 합성해 기부를 독려하거나 특정 상품과 투자에 참여하는 것처럼 꾸미면, 시청자는 콘텐츠의 출처를 확인하기 전에 자신이 알고 있는 인물에 대한 호감과 신뢰를 먼저 떠올릴 수 있다.
더욱 위험한 것은 신뢰가 한 대상에서 다른 대상으로 옮겨간다는 점이다.
유명인에 대한 신뢰가 해당 모금에 대한 신뢰로 이동하고, 실제 구호단체의 이름이 허위 계좌에 대한 신뢰로 연결되며, 가족의 목소리에 대한 믿음이 송금 요구의 진위 판단까지 대신하게 된다.
이것은 신뢰의 전이다. 원래 신뢰했던 대상과 새롭게 접한 정보 사이에 실제 연결 관계가 있는지 확인하지 않은 채, 익숙한 대상의 신뢰도를 새로운 콘텐츠에 적용하는 것이다.
AI 딥페이크는 이러한 심리적 전이를 더욱 쉽게 만든다. 과거에는 목소리와 얼굴을 흉내 내는 데 상당한 기술과 시간이 필요했지만, 생성형 AI는 비교적 적은 자료로도 그럴듯한 합성 콘텐츠를 만들 수 있다.
결국 AI 시대의 신뢰는 '내가 아는 얼굴인가'라는 질문만으로 판단할 수 없다. '그 사람이 실제로 이 메시지를 보냈는가', '공식적으로 승인한 활동인가', '이 요청이 해당 기관의 정식 절차와 일치하는가'를 확인해야 한다.
익숙함은 신뢰의 출발점이 될 수 있지만, 진위를 증명하는 근거는 아니다.
4. 세 번째 심리학적 지식 ― 사회적 증거와 조작된 다수의 힘
사람은 판단하기 어려운 상황에서 다른 사람들의 행동을 참고한다. 특히 자신이 경험하지 못한 분야나 정보가 불확실한 상황에서는 주변 사람들의 선택이 중요한 판단 기준이 된다.
사회적 증거(Social Proof)는 다른 사람들의 행동을 적절성이나 신뢰성을 판단하는 단서로 사용하는 심리적 경향을 말한다. 로버트 치알디니(Robert Cialdini)는 설득의 원리 중 하나로 사회적 증거를 설명했다.
온라인 기부 환경을 생각해보자. 어떤 게시물에 수천 명의 참여자가 표시되어 있고, 댓글에는 감사와 후원 인증이 이어지며, 모금액이 빠르게 증가하고 있다면 사람들은 해당 활동을 이미 검증된 것으로 받아들일 수 있다.
여기에는 두 가지 심리적 과정이 함께 작용한다.
첫째, 정보적 영향이다. 정보가 불확실할 때 다른 사람들의 행동을 사실 판단의 자료로 사용하는 것이다. 많은 사람이 참여했다는 사실을 해당 모금의 신뢰성을 뒷받침하는 근거로 해석한다.
둘째, 규범적 영향이다. 자신이 속한 집단이나 다수의 행동에서 벗어나고 싶지 않은 심리다. 다른 사람들이 적극적으로 돕고 있는 상황에서 혼자 외면하는 것에 불편함을 느낄 수 있다. 특히 기부처럼 도덕적 의미가 부여되는 행동에서는 참여하지 않는 자신을 이기적으로 평가할 가능성도 있다.
범죄자는 이 두 가지 심리를 함께 자극할 수 있다. 가짜 후원 인증을 만들고, 조작된 댓글을 게시하며, 실제로 존재하지 않는 참여자 수를 보여주는 방식이다. 개인은 다른 사람들의 참여를 보고 안심하지만, 그 참여 자체가 조작된 것이라면 신뢰의 근거도 허구가 된다.
여기에 플랫폼의 확산 방식이 더해진다. 감정적인 콘텐츠가 공유되고 반복 노출되면 사람들은 해당 콘텐츠를 더 자주 접하게 된다. 그러나 많이 보인다는 사실과 사실이라는 것은 전혀 다른 문제다.
특정 콘텐츠가 반복적으로 나타나는 이유는 이용자의 관심과 공유 행동, 플랫폼의 추천 방식, 광고와 유통 구조 등이 복합적으로 작용하기 때문이다. 반복 노출을 사회적 검증으로 오해하면 허위 정보가 사실처럼 자리 잡을 수 있다.
이 과정에서 범죄자는 단순히 한 사람을 속이는 것이 아니다. 다수의 사람이 이미 믿고 있다는 인상을 만들어 개인의 의심을 낮추고, 그 믿음이 다시 다른 사람에게 전달되도록 한다.
개인의 선의가 집단의 참여로 확장되고, 조작된 집단 반응이 다시 개인의 선택을 압박하는 것이다.
5. 공감 착취의 사회적 메커니즘, 감정은 어떻게 돈이 되는가
앞서 살펴본 세 가지 심리 과정은 각각 독립적으로 작동하기도 하지만, 실제 디지털 범죄에서는 서로 결합할 수 있다.
가령 가짜 기부 콘텐츠가 만들어지는 상황을 생각해보자.
먼저 AI로 특정 피해자의 얼굴과 사연을 구성한다. 구체적인 얼굴과 개인적 이야기는 감정적 거리를 좁히고 연민을 자극한다. 이어 유명인이나 실제 단체의 이름을 도용해 콘텐츠의 신뢰도를 높인다. 마지막으로 후원 인증과 댓글, 참여자 수를 조작해 이미 많은 사람이 동참하고 있다는 인상을 만든다.
이 과정이 반드시 모든 범죄에서 동일하게 나타나는 것은 아니다. 그러나 감정 자극, 신뢰 확보, 집단적 동조, 행동 유도라는 요소가 결합하면 허위 콘텐츠는 단순한 정보가 아니라 사람의 행동을 움직이는 설득 장치가 된다.
여기서 디지털 플랫폼과 소비시장의 역할도 살펴볼 필요가 있다. 플랫폼은 콘텐츠가 유통되는 공간이며, 광고와 추천 시스템은 이용자의 관심을 기반으로 정보의 노출에 영향을 준다. 범죄자는 이러한 환경에서 감정적 반응을 유도하는 콘텐츠를 반복적으로 확산시킬 수 있다.
6. 가장 큰 피해는 돈을 잃는 것에서 끝나지 않는다
허위 기부에 참여한 사람은 금전적 피해를 입는다. 그러나 피해는 여기서 끝나지 않는다.
자신의 선의가 이용됐다는 사실을 알게 되면 수치심과 분노, 배신감을 경험할 수 있다. '왜 확인하지 않았을까', '내가 너무 쉽게 믿었나'라는 자기비난이 뒤따르기도 한다. 피해자는 돈을 잃은 사람인 동시에 자신의 판단을 신뢰하기 어려워진 사람이 될 수 있다.
더 큰 문제는 사회적 신뢰의 손상이다.
허위 모금이 반복되면 사람들은 실제로 도움이 필요한 사람의 사연에도 의심을 품는다. 진짜 피해자가 도움을 요청해도 '이것도 조작이 아닐까'라는 생각이 먼저 들 수 있다. 정당한 기부 활동을 하는 단체 역시 신뢰를 얻기 어려워진다.
범죄자는 한 사람의 돈을 가져가는 데 그치지 않고, 타인의 고통에 반응하려는 사회적 감각까지 훼손한다.
기부 사기와 성적 딥페이크 범죄는 피해 양상과 법적 쟁점이 다르다. 다만 타인의 감정과 신뢰, 취약한 상황을 자신의 이익을 위한 수단으로 이용한다는 점에서 인간의 존엄성을 훼손한다는 공통점을 가진다.
기술은 범죄의 수단이 될 수 있지만, 범죄의 책임은 기술이 아니라 그것을 이용해 타인의 권리를 침해한 사람에게 있다.
7. 선의를 지키기 위해 필요한 심리적 거리
그렇다면 우리는 공감하지 말아야 할까. 의심부터 하고, 누군가의 도움 요청에도 반응하지 않아야 할까.
그렇지 않다. 공감은 사회를 유지하는 중요한 심리적 능력이다. 문제는 공감과 검증을 서로 반대되는 행동으로 생각하는 데 있다.
누군가를 돕고 싶은 마음이 생겼을 때 그 감정을 부정할 필요는 없다. 다만 감정이 행동을 결정하기 전에 사실을 확인할 시간을 확보해야 한다.
특히 긴급한 송금 요구, 유명인이나 공공기관을 내세운 모금, 출처가 불분명한 후원 링크, 가족과 지인의 음성으로 전달된 금전 요청은 별도의 확인 절차가 필요하다. 게시물에 포함된 링크만 이용하기보다 해당 기관의 공식 홈페이지나 공식 연락처를 직접 찾아 확인하는 것이 안전하다.
가족이나 지인의 긴급한 요청도 기존에 저장된 번호로 다시 연락해 사실을 확인해야 한다.
중요한 것은 AI 생성 여부를 눈으로 판별하는 기술만 익히는 것이 아니다. 콘텐츠가 무엇을 보여주는지보다 누가 만들었는지, 누구에게 이익이 돌아가는지, 어떤 행동을 요구하는지를 살펴보는 습관이 필요하다.
공감은 상대의 고통에 반응하는 능력이고, 검증은 그 고통이 실제인지 확인하는 과정이다. 검증은 공감이 엉뚱한 곳에 이용되지 않도록 보호한다.
◆ 선의를 범죄의 수익으로 만들지 않으려면
AI 기술은 인간의 얼굴과 목소리뿐 아니라 타인의 고통까지 그럴듯하게 만들어낸다.
범죄는 이러한 기술에 사람의 연민과 신뢰, 집단심리를 결합해 선의를 사적 이익으로 바꾼다.
우리가 경계해야 할 것은 공감하는 마음이 아니라 그 마음을 이용하는 기만이다.
AI 시대에 필요한 것은 선의를 의심하는 태도가 아니라, 선의가 범죄에 악용되지 않도록 진실을 분별하는 심리적 판단력이다.
AI부동산경제신문ㅣ문화교육부
문경림 기자
Copyright © 2026 AI부동산경제신문. All Rights Reserved.

이연 프로필
달쌤언니의 마음연구소 원장
한국스마트교육진흥원 대표
자산흐름·심리 라이프 컨설팅 전문가
명리·심리 분석 연구자
AI부동산경제신문 전문 칼럼니스트(필명 이연)
블로그: 달쌤언니ㅣ이연명리
https://blog.naver.com/12moontime

