푸틴과 김정은이 놀이공원에서 롤러코스터를 타고, 미녀들에 둘러싸여 환하게 웃는 사진이 온라인상에 공개되며 관심을 끌었다. 이 사진은 AI로 생성한 이미지로 해외 네티즌들이 올린 것이다. AI 인공지능 기술 고도화로 연예인, 정치인, 일반인에게도 딥페이크는 덫이 되고 있다. 진짜 같은 가짜에 누리꾼들은 마치 진짜인 줄 알고 가짜뉴스를 믿게 되는 것이 큰 문제이다. 그로 인한 피해자들의 삶은 무너지고 한번 피해당하면 뚜렷한 해결 방법도 쉽게 찾을 수 없어서 고통을 겪는다.
딥페이크란, 딥러닝(Deep learning)과 페이크(fake)의 합성어로 인공지능 기술을 이용해 진짜처럼 보이도록 조작한 동영상을 의미한다. 거기에 진화된 딥보이스피싱은 짧은 음성 파일로 단 몇 초 면 5분 안에 음성 복제도 가능하다.
범죄자가 만든 가짜음성으로 전화를 걸어서 마치 사실인 것처럼 급한 일이 발생하여 돈이 필요하다고 요구한다. 얼굴을 못 보고 목소리로만 대화하면서 진짜 목소리 같은 가짜 목소리로 통화를 하다 보면 자칫 방심하여 속기 쉽다. AI에 문자를 입력하면 바로 가짜로 생성한 목소리로 상대방과 통화가 가능하기 때문이다.
딥페이크의 장점은 창의성과 엔터테인먼트 활용에 효과적이고 의료분야 연구에도 많은 도움을 주나, 사기와 명예훼손, 가짜 생성, 악의적 목적에 사용, 정치적 혼란, 사생활 침해, 신뢰성 문제, 법적인 문제 야기, 저작권 및 초상권 침해, 사기 등 다양한 문제점이 많다.
현재 가장 큰 악용 사례로는 음란물을 제작하여 N번 방이나 텔레그램 단톡방에서 공유하는 성폭력 범죄이다. 본인도 모르게 본인 얼굴 사진으로 음란물을 만들어서 댓글로 온갖 야유와 비난의 글을 달면서 누리꾼들과 함께 즐긴다는 사실이다.
피해자는 오히려 협박까지 당하고, 공포와 두려움으로 경찰에 신고를 해봐도 해외에서 만들어진 음란물을 삭제할 수도 없고, 범인을 빨리 잡을 수도 없다. 결국 피해자들의 삶은 점점 무너지고 스스로 죽음을 선택하고 싶다는 생각까지도 하게 된다.
언제 어디에서 우리는 피해자가 될지 모른다. 음지에서 우리를 노리고 있는 딥페이크를 만드는 범죄자들에게 우선 얼굴 사진과 신상정보를 되도록 노출하지 않도록 조심해야 한다. 합성사진은 진짜와 구분이 어려울 정도로 앱으로 쉽게 만드는데, 신상정보까지 공개되면 그들의 좋은 먹잇감이 될 수밖에 없다.
요즘은 인스타나 페이스북 혹은 블로그 등에 사진을 올리면서 개인의 일상까지 누구나 쉽게 들여다볼 수 있다. 따라서, 디지털 범죄에 노출되지 않으려면 예방법을 우선 잘 지켜야 한다. SNS상 사진, 음성 등 개인정보 공개를 최소화하고, 금전적 인증을 위한 신분증 사진을 스마트폰이나 SNS상에 보관하는 것을 금한다. 소 잃고 외양간 고치는 것보다, 예방이 우선이다.
피싱을 당하는 대부분은 가족에 속고, 사랑에 속고, 지나친 호의에 속는다. 딥페이크 기술을 활용하여 영상통화를 하면서 가족이라고 하여 계좌이체를 요구하거나 불법 대부업자가 인증 절차로 얼굴을 인증해 달라고 요구하기도 한다. 또한 로맨스 스캠으로 사랑을 범죄로 악용하는 사례가 아주 많다.
특히 인스타나 페북에다 사진이나 개인정보를 올리면 세계 각국에서 친구 요청이 쏟아진다. 친구 요청을 접수하는 순간 계속 메시지를 보내면서 남성들이 여성에게 호의적으로 작업을 시작한다. 처음엔 신뢰감을 쌓기 위해 진실한 것처럼 사진도 보내주고 한결같이 싱글이라면서 접근해 온다.
로맨스 스캠 역시 딥페이크를 이용해서 현장 사진을 만들어서 실시간으로 보내주면 대부분 사실이라고 믿게 된다. 결국 나중에는 금전 요구라는 마지막 단계에서 속내를 드러내지만, 자칫 그들의 호의에 유혹당하여 피싱을 당하게 된다.
딥보이스 피해를 예방하는 한 가지 방법으로는 010-xxxx-xxxx에서 앞번호 ‘010’이 ‘070’으로 떠서 가운데와 마지막의 8자리 숫자가 같아도 전화가 걸려 온다는 점을 악용하는 거다. 따라서 전화가 올 경우 010까지 반드시 확인해 보아야 한다. 가운데 4자리와 마지막 4자리 숫자만 확인하고 같은 번호로 착각해서는 안 된다.
부산의 모 중학교 학생이 만든 교사 나체 사진 유출로 정부에서 충격을 받고 딥페이크 범죄 퇴출에 나선다고 하였다. 중학생이 동급생 얼굴로 음란물을 만들어 판매하여 여학생 7명의 얼굴을 딥페이크 기술로 합성한 사진을 메신저 텔레그램에 올렸었다.
그럴 뿐만 아니라, 모델의 나체에 한 교사의 얼굴로 합성된 사진을 유포하는 것을 아무렇지도 않게 생각하여 만들어 유포하는 학생들까지 우리 사회에 큰 충격을 주었다.
이처럼 AI를 활용한 딥페이크 범죄고 많아지고 있는 가운데 정부에서도 딥페이크와 딥보이스의 악용에 대처하려고 노력 중이나 아직은 오리무중이다. 나날이 진화하는 인공지능의 발달에 맞춰 악용하고 있는 범죄자들의 악용 기술을 앞서가는 방법을 먼저 개발해야 하는 것이 선 과제이다.
