본문 바로가기 주메뉴 바로가기 검색 바로가기
실시간 딥페이크 로맨스 스캠 등장
상태바
실시간 딥페이크 로맨스 스캠 등장
‘야후 보이즈’라는 사기꾼이 널리 접근이 허용된 얼굴 변경 기술을 동원해 원활하게 실시간으로 대화를 이어가면서 교묘한 로맨스 스캠 범죄를 개시한 과정을 설명한다.
By MATT BURGESS, WIRED US

그녀가 영상통화 도중 답변하는 즉시 마구 칭찬한다. 영상통화 상대인 그는 “자기 너무 예쁘다”라고 말한다. 그의 영상 피드는 그의 모습을 그녀보다는 몇 살은 더 어려 보이는 듯한 짧은 머리를 한 백인 남성 이미지로 보여주었다. 영상 속 그는 체크 셔츠를 입고 카메라 앞에 앉은 듯한 모습이었다.

그녀는 미국식 억양으로 대화를 이어가면서 “턱수염이 없으니 다른 사람 같다”라고 말한다. 그는 그녀의 말을 조금도 놓치지 않고, “멋진 모습으로 보이려고 면도했다”라고 답한다.

하지만 영상통화로 대화하는 그는 실존 인물이 아니다. 그의 영상 피드 속 모습은 가짜이다. 턱수염 유무를 떠나 여성이 영상 통화 도중 본 남성은 실제 대화 상대방의 모습이 아닌 딥페이크가 생성한 가짜 인간이다.

실제로 남성은 얼굴 변경 기술을 이용하여 실시간으로 전혀 다른 외모로 변경하면서 대화한 사기꾼이다. 남성의 가짜 이미지는 피해 여성과는 지구 반대편에 존재하는 것으로 추정되는 사기 공범이 제작했을 수도 있다. 사기꾼의 진짜 모습은 피해자에게 말을 하면서 가짜 페르소나와 함께 노트북을 통해 볼 수 있다.

로맨스 스캠 범죄자가 사기 도중 보는 화면을 직접 촬영한 이미지는 야후 보이즈(Yahoo Boys)라는 이름으로 알려진 사기꾼이 온라인에 직접 게재한 이미지이다. 야후 보이즈는 종종 나이지리아에 본거지를 둔 사기꾼 집단이다. 야후 보이즈의 사기 영상은 딥페이크와 얼굴 변경 기술을 동원하여 로맨스 스캠 피해자를 속이고, 가짜 정체성으로 피해자의 신뢰를 쌓은 뒤 수천 달러를 송금하도록 속이는 과정을 보여준다. 미국 연방수사국(FBI)은 2023년 로맨스 스캠 피해 금액이 6억 5,000만 달러 이상이라고 발표했다.

데이비드 마이몬(David Maimon) 조지아주립대학교 교수 겸 신원 인증기업 센티링크(SentiLink) 사기 분석 사장의 설명에 따르면, 야후 보이즈는 2년여간 딥페이크 영상 실험을 하고, 2023년에는 실시간 딥페이크 영상통화로 전환할 방법을 더 연구했다.

와이어드팀은 야후 보이즈의 영상과 야후 보이즈와 관련된 텔레그램 채널 3곳을 분석하여 딥페이크 애플리케이션과 인공지능(AI)이 개선되면서 로맨스 스캠 수법도 더 진화한 사실을 확인할 수 있었다. 딥페이크 영상통화를 이용하는 사기꾼 세력의 구체적인 전략과 기이한 수법이 문서로 상세히 기술된 사례는 야후 보이즈의 사례가 처음이다.

영상으로 야후 보이즈가 노트북과 스마트폰을 모두 동원하여 사기 준비 단계에서부터 딥페이크를 이용한 사실이 드러났다. 여러 영상을 통해 사기꾼은 피해자의 얼굴은 물론이고, 스스로 얼굴을 확실히 공개하는 사례가 종종 존재한다는 사실을 확인할 수 있었다. 마이몬 교수는 “사기꾼이 얼굴을 당당하게 공개하는 것은 멍청하기 때문이 아니다. 단순히 얼굴을 공개하는 것에 개의치 않고, 사기 행각 발각 후의 여파를 두려워하지 않기 때문이라고 본다”라고 말했다.
 
[사진=Freepik]
[사진=Freepik]

야후 보이즈는 능숙하게 로맨스 스캠 사기를 저지르며, 종종 로맨스 스캠으로 피해자의 돈을 갈취한 사실을 자랑스럽게 떠들기도 한다. 사기 행위와 사기에 동원한 기술을 담은 사진과 영상 모두 페이스북부터 틱톡까지 각종 SNS 플랫폼에서 발견할 수 있다. 나이지리아 왕자 이메일 스캠과도 관련된 것으로 밝혀진 사이버 범죄 조직이 지금도 텔레그램에서 대부분 공개 상태로 활동한다는 논란이 있다.

수천 명이 몸담은 조직인 야후 보이즈는 조직원 개인의 다양한 사기 수법을 체계적으로 갖추면서 홍보한다. 야후 보이즈 소속 사기꾼은 피해자에게 오랫동안 영향을 미칠 정도로 사회적 관계 형성 능력이 뛰어나다. 기업 메일 보안 침해, 암호화폐 사기, 사칭 사기 등을 홍보하는 글이 매일 수백 건씩 게재된다. 사진과 영상 편집 기술을 판매하는 조직원과 피해자의 신뢰를 쌓을 페르소나 형성 과정에 이용할 명백한 사진 앨범 전체를 판매하는 조직원도 찾아볼 수 있다. 가짜 정체성과 실제로 존재하는 인물처럼 보이는 SNS 프로필을 판매하기도 한다. 사기 대본은 무료 다운로드가 가능하다.

야후 보이즈가 10대 성 착취 범죄를 저질러 피해자가 자살하는 결과를 초래한 사건을 조사한 기관인 네트워크 콘태지온 연구소(Network Contagion Research Institute) 소속 정보 애널리스트인 폴 라필(Paul Raffile)은 “야후 보이즈는 조직범죄 요소와 조직화와 거리가 먼 범죄 요소를 모두 갖추었다”라며, “야후 보이즈는 대표 운영자와 조직 관리 구조가 없다”라고 전했다. 대신 집단을 조직하고는 온라인 공간에서 사기 수법 조언과 요령을 공유한다. 텔레그램은 와이어드의 야후 보이즈 채널 관련 의견 공개 요청에 답변하지 않았다. 하지만 와이어드가 텔레그램 측에 연락한 뒤 야후 보이즈 채널 3개 모두 접근할 수 없는 상태로 전환되었다.

마이몬 교수는 야후 보이즈의 사기꾼 세력이 2022년 5월께 로맨스 스캠에 딥페이크를 동원하기 시작했다고 전했다. 마이몬 교수는 “그동안 로맨스 스캠 사기꾼은 직접 영상을 올리고는 외모를 바꾼 뒤 피해자에게 영상을 전송하면서 대화를 시작할 피해자를 끌어모으기 시작했다”라고 설명했다. 이후 본격적으로 로맨스 스캠 범죄를 개시한다.

야후 보이즈는 영상을 제작하려 소프트웨어와 앱 몇 가지를 동원했다. 와이어드는 야후 모방 범죄 발생 가능성을 제한하고자 야후 보이즈가 사용한 특정 소프트웨어 이름을 공개하지 않는다. 다만, 야후 보이즈가 사용한 툴이 사용자가 자신의 얼굴을 연예인이나 인플루언서의 얼굴로 변경하는 등 주로 엔터테인먼트 목적으로 홍보되었다는 점을 전한다.

야후 보이즈의 실시간 딥페이크 영상통화는 두 가지 다른 수법으로 진행된다. 첫 번째 수법은 사기꾼이 스마트폰 두 대를 설정한 채로 얼굴 변경 앱을 사용한다. 사기꾼은 피해자와 통화할 때 사용하는 스마트폰을 들고, 후면 카메라로 두 번째 스마트폰의 화면을 촬영한다. 마이몬 교수는 사기꾼이 피해자와 영상통화를 할 때 주로 줌을 사용하지만, 어느 플랫폼이든 사용할 수 있다고 언급했다. 두 번째 스마트폰의 카메라 방향은 사기꾼의 얼굴로 향한 채로 얼굴 변경 앱을 사용한다. 보통 두 번째 스마트폰은 스탠드에 올려두어 화면이 흔들리지 않도록 한다. 그리고 고리 형태 조명을 이용하여 후면 카메라 변경 앱의 상태를 향상한다.

두 번째 수법은 스마트폰 대신 노트북을 사용한다. 사기꾼은 노트북 웹캠으로 얼굴을 촬영하는 동시에 얼굴 변경 소프트웨어를 실행한다. 설정 영상은 사기꾼이 자기 얼굴과 딥페이크로 변경한 얼굴을 모두 보여준다. 피해자가 실시간 영상통화 도중 보는 화면에는 딥페이크로 변경한 얼굴만 등장한다.

마이몬 교수는 자신이 이끄는 연구팀이 야후 보이즈가 판매한 딥페이크 영상과 사진 앨범 속에 등장한 일부 피해자를 추적하고는 연락하려 했다. 와이어드도 피해자나 사기꾼의 진짜 정체를 확실히 밝혀낼 수 없었다. 로맨스 스캠에 딥페이크가 동원된 횟수도 확실하지 않았다. 하지만 피해자의 모습이 등장한 영상은 사기꾼이 피해자와의 연락망을 구축한 과정을 보여준다.

야후 보이즈의 로맨스 사기를 폭로하는 영상을 통해 사기꾼이 피해자에게 피해자를 사랑한다는 말을 하면서 사기꾼 스스로 외모를 바꾸는 일이 빈번하다는 사실을 볼 수 있다. 야후 보이즈의 사기 영상 중에는 사기꾼이 피해자에게 직접 얼굴을 보고자 캐나다로 가고 싶다는 말을 하고는 즉시 캐나다행 항공비를 결제하라고 말하는 영상도 있다. 이때 피해자는 나중에 돈을 돌려준다는 사기꾼의 거짓말을 믿고 돈을 보낸다. 다른 영상으로는 피해자의 상세 개인 정보도 볼 수 있으며, 사기꾼이 피해자에게서 얻은 신뢰도가 깊다는 사실도 확인할 수 있다. 마이몬 교수는 “피해자 중 섭식장애, 우울증과 같은 질환을 겪고 있다고 털어놓는 이들도 있다”라고 전했다.

와이어드가 본 영상은 야후 보이즈의 로맨스 스캠 활동 중 빙산의 일각일 뿐일 수도 있다. 사기꾼이 공개한 영상 다수는 다른 사기꾼에게 교묘한 사기 수법을 판매할 능력을 과시할 목적도 어느 정도 드러냈다. 라필은 야후 보이즈의 성 착취 사건을 조사하면서 얼굴 교체 소프트웨어 대부분 로맨스 스캠에도 동원된 사실을 확인했다. 하지만 범죄 사실을 담은 사진 중 야후 보이즈가 주장한 딥페이크 나체 이미지 생성 프로그램을 사용한 순간은 찾지 못했다.

AI는 사기 수법이 더 교묘한 방향으로 진화하는 속도를 높인다. 딥페이크 영상은 5년 넘게 존재하여 주로 동의 없는 포르노 생성 목적으로 동원되었다. 하지만 그동안 발견된 딥페이크 영상에는 결함이 많았기 때문에 딥페이크 기술 사용 사실을 손쉽게 감지할 수 있었다. 말하는 순간 입이 동시에 움직이지 않는 영상을 종종 발견할 수 있으며, 가짜 영상임을 알아차리기 쉽다. 하지만 딥페이크 기술이 빠른 속도로 발전하면서 이전보다는 누구나 손쉽게 사용할 수 있는 기술이 되었다.

야후 보이즈의 영상 중 믿을 수 없으며, 가짜임이 분명한 영상도 있다. 반대로 진짜라고 믿을 법한 영상도 있다. 사기꾼의 모습을 인터넷 연결이 불안정한 상태에서 스마트폰을 통해 본다면, 딥페이크 결함이 확실히 드러나는 부분도 가려지기 쉽다. 특히, 사기꾼이 몇 달간 피해자와 사회적 관계를 형성했다면, 의심할 만한 결함도 알아차리기 어렵다.

소셜프루프(SocialProof) 공동 창립자 겸 CEO 레이첼 토박(Rachel Tobac)은 최고 기술 책임자 에반 토박(Evan Tobac)과 함께 와이어드가 입수한 야후 보이즈 영상 몇 편을 검토한 뒤 지난 1년간 로맨스 스캠에 일부 얼굴 변경 소프트웨어가 동원된 사례가 보편적이라는 사실을 인지했다고 전했다. 레이첼 토박은 “2023년, 피해 사례를 조사했을 때는 얼굴 변경 소프트웨어가 누구나 속을 정도로 완벽하지 않았다. 하지만 지금은 많은 부분이 바뀌었다. 특히, 목소리와 상대방이 보는 가짜 인물의 얼굴 중 피부톤, 머리카락, 눈동자 색 등 상세한 특징을 똑같이 바꿀 수 있다는 점이 놀랍다. 얼굴 변경 기능을 갖춘 딥페이크를 동원한 로맨스 스캠을 통제할 수 없는 수준이다”라고 말했다.

야후 보이즈는 종종 기존 페르소나와 얼굴 변경 앱으로 생성한 인물의 가짜 모습을 이용한다. 간혹 목소리까지 딥페이크로 바꾼 듯한 영상도 찾을 수 있지만, 주로 자신의 목소리로 말한다. 와이어드가 본 야후 보이즈의 다양한 영상으로 실시간 화면에 등장하는 인물이 고개를 젓는 모습이 있지만, 몸 전체는 움직이지 않는 모습을 확인할 수 있었다. 입술과 표정도 사기꾼의 진짜 모습을 그대로 반영한 모습이다. 얼굴 변경 툴의 실제와 같은 결과물 생성 능력은 날이 갈수록 발전할 것이다.

신원 인증 기업 아이프루브(iProov) 최고 과학 책임자 앤드류 네웰(Andrew Newell)은 2023년, 얼굴 변경 툴 100개 이상 추적하면서 얼굴 변경 시스템 다수가 과거와는 크게 바뀌었다는 사실을 발견했다. 실시간 얼굴 변경 기능을 지원하는 툴은 극소수이다. 네웰은 “얼굴 변경 툴은 실시간 얼굴 변경 기능 측면에서 놀라운 수준으로 발전했다”라고 전했다.

마이몬 교수는 야후 보이즈가 사기 범죄에 사용할 소프트웨어를 직접 개발하거나 매우 뛰어난 기술 역량을 갖추지는 않았을 수도 있으나 동시에 로맨스 스캠 범죄를 개시할 수 있다고 설명했다. 야후 보이즈는 한 번에 여러 건의 사기 범죄를 개시하며, 동시에 피해자 수십 명과 대화할 수도 있다. 또한, 로맨스 스캠 범죄 전체가 끝날 때까지 여러 명의 역량이 필요할 것이다. 마이몬 교수는 “사기 수법이 끊임없이 진화한다”라고 말했다.

사이버 범죄 피해자 지원 기관인 인텔리전스 포 굿(Intelligence for Good)의 최고 사기퇴치 책임자 로니 토카조위스키(Ronnie Tokazowski)는 야후 보이즈가 로맨스 스캠에 딥페이크를 동원했다는 점에서 다른 사기 범죄에도 딥페이크를 동원할 수 있다고 지적했다. 토카조위스키는 “야후 보이즈의 딥페이크 사기 수법은 초기 경고이다. 사기꾼은 딥페이크를 동원한 수법이 효과가 있다는 사실을 확인하면, 다른 범죄에도 딥페이크를 동원할 수 있다”라고 설명했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
The Real-Time Deepfake Romance Scams Have Arrived
이 기사를 공유합니다
RECOMMENDED