[더 보다] 신뢰의 위기-당신이 본 건 ‘진짜’인가 / KBS 2026.01.26. скачать в хорошем качестве

[더 보다] 신뢰의 위기-당신이 본 건 ‘진짜’인가 / KBS 2026.01.26.

AI 기술은 머릿속 상상에만 존재했던 것들을 눈앞에 펼쳐줍니다.심각한 부작용도 빠르게 확산하고 있습니다. '딥페이크 사기' 영상 통화 뭘 얼굴이 자꾸 다르다는 거예요? 주민등록증도 보내줬는데, 안 맞다 그러고. '진짜 같은 가짜' 유튜브 영상 경찰: 당장 멈추라고! 야이 새X야, 멈춰! 운전자: 오지 마! 오지 마! 경찰: 멈춰! 움직이지 마! 유현재 교수 / 서강대학교 커뮤니케이션학부 내가 보고 있는 게 진짜를 보고 있는 게 맞는 걸까’라는 의심, 이게 굉장히 웃긴 얘기인 거예요. 조작된 음성은 이성적 판단을 무력화하기도 합니다. “엄마... 빨리 와... 이 사람이 때렸어.” “100만 원 지금 이체하세요. 20초 내로 안 보내면 전화 끊겠다.” “(울먹) 제가 월급날 다시 드릴게요. 저희 딸만 보내주세요!” 김명주 / 인공지능안전연구소장 인류가 지금까지 쌓아왔던 사회 전반적인 신뢰, 이걸 AI가 완전히 무너뜨릴 거다... 백 번 듣는 것보다 한 번 보는 게 낫다는 말, 앞으로도 통할 수 있을까요? 청각장애가 있는 장명훈(가명) 씨는 지난해 여름만 생각하면 고통스럽습니다. 장명훈(가명.음성대역) / 로맨스스캠 피해자 지난해 여름에 ‘만남 어플’을 통해 만났는데, 그 여자는 자기 이름이 채서영이라고 했어요. 당시엔 그게 진짜 이름인 줄 알았어요. 그 여자가 먼저 쪽지를 보내왔고, 대화를 하게 됐어요. 그러다 한번은 제가 영상 통화해 줄 수 있냐고 물었거든요. 보고 싶더라고요. 장명훈(가명): 우우우! 여성: 괜찮아? 잘 보여? 장명훈(가명): 으흥~ 응~ 여성: 하하하. 지금 이제 집에 갈 거야. 장명훈(가명): 카톡해. 톡해. 여성: 어어 카톡 해, 어어. 짧은 대화였지만, 이 영상 통화는 여성을 향한 장 씨의 호감을 키우기에 충분했습니다. 장명훈(가명.음성대역) / 로맨스스캠 피해자 그때는 그 여자가 생각보다 예뻐 보였어요. 어느 날, 이슬비(가명) 씨에게 날아든 SNS 쪽지 한 통. 이슬비(가명) / 로맨스스캠 피해자 ‘안녕하세요’ 하고 문자가 오는 거예요. 모르는 사람이니까 그냥 무시하고 넘겼거든요. 근데 계속 주기적으로 인사를 해요. 친구가 필요하다고 하더라고요. 그래서 제가 50대 초중반이기 때문에 ‘친구는 안 될 것 같아요’라고 했더니 ‘그럼 누나 해요’ 그러는 거예요. 남성은 부산에서 스킨스쿠버 일을 한다며 사진으로 환심을 샀고, 일상까지 공유하는 사이가 되면서 이 씨는 그의 정체를 의심하지 못했습니다. 이슬비(가명) / 로맨스스캠 피해자 제 성향에 맞춰서 대화를 유도하더라고요. 자기는 부산에서 스킨스쿠버 양성소를 하고 있는 대표다, 여유롭게 생활하고 있다, 그렇게 말을 주고받고 했던 것 같아요. 하지만 장 씨와 이 씨에게 접근한 건 신분을 위조한 투자 사기 조직원, 이른바 ‘바람잡이’였습니다. 이들은 타인의 SNS 사진을 도용해 만든 AI 합성물로 ‘진짜 행세’를 했습니다. 장명훈(가명.음성대역) / 로맨스스캠 피해자 경찰이 그 여자 얼굴이 딥페이크였다고 하더라고요. 전 사실, 딥페이크라는 건 생각도 못 했거든요. 사기범들이 권유한 건 외환 투자. 조작된 자료를 제공하며 피해자들을 현혹했고, 합성한 가짜 얼굴로 수십 차례 유튜브 생방송까지 진행했습니다. 딥페이크 ‘외환 투자 가짜 강의’ 영상 여러분 벌써 13회차 강의네요. 지금도 1,300분 정도 들어와 계신 걸로 보이네요. 마음 같아서는 (무료 강의를) 90일이 아니라 90개월이라도 저는 솔직히 하고 싶습니다. 이슬비(가명) / 로맨스스캠 피해자 강의 도중에 기침하거나 손동작을 하거나 물을 마시거나 전혀 어색하지가 않았거든요. 그때 당시에 전혀 의심 안 했어요. AI, 즉 인공지능으로 사람의 이미지를 합성하는 ‘딥페이크’였습니다. 결국, 이 씨는 2억 원을, 장 씨는 500만 원을 한순간에 날렸습니다. 장명훈(가명.음성대역) / 로맨스스캠 피해자 이번 일을 겪으면서 대인기피증이 생겼어요. 사람을 못 믿겠어요. 같은 수법에 당한 피해자만 백여 명, 피해액은 총 120억 원에 달합니다. 고일한 / 울산경찰청 반부패수사대 팀장 현재 AI를 활용한 딥페이크 기술은 상당히 정교하게 발달했고, 실제와 구분하기 어려운 수준에까지 이르렀습니다. 그래서 피해자들이 좀 쉽게 당하지 않았나, 저희는 그렇게 판단하고 있습니다. 사기극을 설계한 건 캄보디아에 거점을 둔 한국인 총책 부부. 오랜 기다림 끝에 최근에야 이들 부부가 송환됐습니다. 이슬비(가명) / 캄보디아 로맨스스캠 피해자 대표 제가 피해자들을 다 모을 때 그분들이 다 죽겠다고 했어요. 그래서 제가 ‘아, 우리 그러면 가해자라도 잡고 죽자, 지금 죽지 말자’ 제가 그랬어요. 딸 사칭 음성 엄마...빨리 와... 이 사람이 때렸어. 엄마(피해자) 어? 누가? 딸 사칭 음성 술 취한 사람이... 사기범 울지 말라고 야. 엄마(피해자) 아, 아니 저희 딸... 사기범 100만 원 지금 이체하세요. 20초 내로 안 보내면 전화 끊겠다. 지금 (계좌에) 잔액 얼마 남았나? 엄마(피해자) 제가 월급날 다시 드릴게요. 저희 딸만 보내주세요! 다급한 마음에 돈을 보낸 엄마, 하지만 납치는 사실이 아니었습니다. 인공지능 기술은 ‘납치 빙자 사기’에도 악용됩니다. 범인이 직접 목소리를 연기했던 과거와 달리, 이젠 단 몇 초의 음성으로도 가족의 목소리를 복제할 수 있습니다. '급격한 기술 발전이 인간 존재에 대한 근본적인 질문..' 자, 이렇게 돼 있고, 이거(원래 음성)를 러시아어로 바꾼 거. (러시아어 음성) 김명주 / 인공지능안전연구소장 5초만 돼도 러시아 말로 바꿔치기 하잖아요. 그런데 지금은 (필요한 음성이) 3초라니까, 3초 만에 바꿔치기 하는 거죠. 딸한테 전화 걸어서 ‘잘못 걸린 전화’라고 목소리 3초만 딱 따면, AI로 학습시켜서 이렇게 나오는 거죠. 범죄에 필요한 준비 단계 그다음에 비용, 이게 굉장히 줄어들었다, AI가 거기에 크게 기여하고 있다, 그건 사실인 것 같습니다. 딥페이크를 활용한 불법‧과장 광고는 일상으로 쉽게 파고들고 있습니다. (가수 아이유 딥페이크 광고) 치킨**에서 지고 계신가요? 제대로 플레이하는 비법을 알려드릴까요? (축구선수 손흥민 딥페이크 광고) 정식 라이선스를 받아 운영되기 때문에 믿고 이용하실 수 있습니다. ‘가짜 의사’를 동원해 제품을 홍보하기도 합니다. (광고.1) 특허 성분 ****은 서파수면을 유도하는 천연 성장 성분으로.. (광고.2) 저희 남편도 3주 만에 10kg 빠지고 정말 뱃살이 싹 없어졌어요. 한국소비자원은 딥페이크를 이용한 불법 광고가 성행한다며 소비자들의 주의를 당부했습니다. 유현재 교수 / 서강대학교 커뮤니케이션학부 (사람들이) 처음에는 믿지 않았는데 계속해서 반복(노출) 되니까 ‘그럴 것 같더라’... 그리고 더 무서운 건, 아니 내가 약간 의심스러웠는데 조회수가 이만큼이라고 하면 ‘믿을 수 있는 것 아닌가?’라고 생각해서 믿었다는 거예요. (거짓) 광고에 속아서 돈을 잃기도 하고 건강을 잃기도 하고. (광고 음성) 이것은 독일 엔지니어들이 성공적으로 제작한 초현실적인 강아지 장난감입니다. 외관부터 움직임까지 AI 명령에 따라 작동하며... 김현필 / AI 과장 광고 피해자 집에서 가족들하고 같이 유튜브 광고를 보다가 그 강아지 인형 광고에 현혹이 돼서 구입했습니다. 며칠 후, 설레는 마음으로 택배 상자를 열어본 김 씨는 헛웃음만 나왔다고 합니다. 김현필 / AI 과장 광고 피해자 물건을 받아보고 굉장히 웃을 수밖에 없었죠. 아마 고속도로 휴게소 가면 쉽게 볼 수 있는 ‘뾱뾱뾱뾱’ 소리 나는 강아지 인형, 바로 그 물건이 왔습니다. 그새 거래 사이트가 없어져 환불도 안 되는 상황, 강아지 인형은 ‘무료 나눔’으로 처분해야 했습니다. 김현필 / AI 과장 광고 피해자 지금은 제가 모든 영상을 다 의심의 눈으로 봅니다. 그때 그 일을 겪고 나서. AI가 현실과 가상의 경계를 무너뜨리고 있단 우려도 나옵니다. 챗GPT의 창시자인 샘 올트먼조차 인공지능이 불러올 혼돈과 위협을 경고하고 나섰습니다. 김명주 / 인공지능안전연구소장 좀 슬픈 현실이죠. 인류가 지금까지 쌓아왔던 사회 전반적인 신뢰, 이걸 AI가 완전히 무너뜨릴 거다, 완전히 무너뜨리면 그 신뢰를 회복하기 위한 비용이 추가로 드는 거고요. 개인한테는 (모든 걸 의심해야 하는) 피로도가 쌓이는 거죠. 이런 가운데 ‘진짜 같은 가짜’ 콘텐츠가 범람하고 있습니다. (영상 내용) 경찰: 학생이 담배 피우면 안 되지, 얼른 꺼. 학생: 무슨 상관인데요? 경찰: 지금 보디캠에 다 찍혀서 증거로 남아. 학생: 보디캠? 지금 몰카 찍었어요? 미쳤네~ 아니, 경찰이 몰카 찍고 다님? 변태 XX네 진짜. 경찰: 하아~ 요즘 학생들 진짜 미쳐버리겠네.. 문제는, 많은 사람이 이를 ‘사실’로 받아들인다는 점입니다. ▣ 제보하기 ◇ 카카오톡 : 'KBS제보' 검색 ◇ 전화 : 02-781-1234 ◇ 홈페이지 : https://goo.gl/4bWbkG ◇ 이메일 : kbs1234@kbs.co.kr Copyright ⓒ KBS. All rights reserved. 무단 전재, 재배포 및 이용(AI 학습 포함) 금지 #ai #로맨스스캠 #사칭