[알아보자] 딥페이크 기술, 딥페이크 성착취물 제작, 시청하거나 소지, 구입, 저장하는 사람도 처벌
1. 딥페이크(Deepfake) 의의
딥페이크(Deepfake) 기술은 인공지능(AI)과 딥러닝(Deep Learning) 기술을 기반으로, 기존의 사진, 영상, 음성 등의 미디어 콘텐츠를 조작하여 새로운 콘텐츠를 만드는 기술입니다. ‘딥러닝’과 ’페이크(Fake)’의 합성어인 딥페이크는 고도로 발전한 컴퓨터 알고리즘을 사용하여 매우 사실적인 가짜 영상을 생성할 수 있는 특징을 가지고 있습니다.
딥페이크 오픈소스 및 상용 스프트웨어
DeepFaceLab
최고의 딥페이크 제작자
deepfacelab.softonic.kr
여러 딥페이크 공용 프로그램(오픈소스 및 상용 소프트웨어)은 다양한 웹사이트에서 제공됩니다. 아래는 딥페이크 관련 프로그램을 다운로드하거나 사용할 수 있는 사이트 목록입니다:
1. DeepFaceLab
• DeepFaceLab은 가장 널리 사용되는 딥페이크 제작 오픈소스 도구입니다. 이 GitHub 페이지에서 소스 코드를 다운로드하고 설치 방법을 확인할 수 있습니다.
2. FaceSwap
• FaceSwap은 딥페이크 영상을 만들 수 있는 또 다른 인기 오픈소스 프로젝트로, GitHub에서 프로젝트 파일을 다운받을 수 있습니다.
3. Zao
• Zao는 중국에서 인기 있는 딥페이크 앱으로, iOS 및 Android에서 이용할 수 있습니다. 주로 모바일 앱 스토어에서 다운로드 가능합니다.
4. Avatarify
• Avatarify는 실시간 딥페이크를 구현하는 오픈소스 프로그램입니다. GitHub에서 다운로드하여 다양한 화상 회의 도구와 함께 사용할 수 있습니다.
5. Reface
• Reface는 인기 있는 얼굴 스왑 애플리케이션으로, 앱 스토어에서 쉽게 다운로드 가능하며, 영상에 간편하게 얼굴을 스왑하는 기능을 제공합니다.
이들 프로그램은 각 사이트에서 다운로드하거나 설치 방법을 안내하고 있으며, 오픈소스인 경우에는 GitHub에서 소스 코드까지 확인할 수 있습니다.
2024.9.27 국회 본회의를 통과한 성폭력처벌법 개정안은 딥페이크 성착취물 제작에 대한 처벌을 기존 최고 5년형에서 최고 7년형
딥페이크 성착취물을 시청하거나 소지, 구입, 저장했을 때에도 3년 이하 징역으로 처벌
아동ᆞ청소년의 성보호에 관한 법률 일부개정법률안
1. 제안이유 및 주요내용
최근 딥페이크 기술을 악용하여 음란물을 합성한 허위영상물이 텔레그램 대화방 등을 통해 유포되는 사건이 잇따라 발생하고 있음.
일부 청소년들 사이에서는 소셜미디어(SNS)에 올라온 사진을 무단 도용하고 딥페이크 기술을 이용하여 동급생 등 지인을 합성한 음란물을 장난처럼 소비하며 아동 청소년성착취물 제작의 피해자가 된 아동ㆍ청소년을 대상으로 해당 아동청소년성착취물을 유포하겠다고 협박하는 사례가 빈번하게 발생하고 있음.
일반적으로 아동ㆍ청소년은 유인행위 및 협박에 취약하다는 점을 고려할 때, 아동 청소년성착취물을 이용한 범죄로부터 아동ㆍ청소년을 보다 강하게 보호하기 위해서는 아동ㆍ청소년성착취물을 이용한 협박ㆍ강요죄의 처벌수위를 「성폭력범죄의 처벌 등에 관한 특례법」보다 높일 필요가 있다는 의견이 제기되고 있음. 이에 아동청소년성착취물을 이용하여 그 아동·청소년을 협박ㆍ강요한 죄에 대해서는 「성폭력범죄의 처벌 등에 관한 특례법」보다 강화된 처벌기준을 적용하도록 함으로써 아동청소년성착취물을 이용한 범죄로부터 아동ㆍ청소년을 두텁게 보호하고 아동ㆍ청소년대상 성범죄 감소에 기여하려는 것임.
또한, 텔레그램 등 SNS 익명 대화방 등에서 허위영상물이 무분별하게 유포되는 상황에서 성범죄 콘텐츠를 적극적으로 수사하고 이를 근절하는 대책 마련이 필요한 상황임. 그러나 현행법상 신분비공개수사 제도가 사전승인제도여서 공휴일에 아동 청소년성착취물을 유포하는 텔레그램방을 발견하였음에도 신분비공개수사 사전승인을 받고자 대기하다가 해당 방이 없어지는 경우도 발생하므로, 야간ㆍ공휴일 등 긴급한 경우, 사전승인을 받지 않더라도 신속히 신분비공개수사가 개시될 수 있도록 하여 선제적 적극적 수사를 위한 제도적 토대를 마련하고자 함.
더불어 디지털 성범죄 피해아동ㆍ청소년의 2차 피해 위험을 방지하고 피해자를 보호하기 위해 수사기관이 선제적으로 신속한 조치를 취할 수 있도록 사법경찰관리가 아동ㆍ청소년대상 디지털 성범죄로 인한 피해확대 방지와 피해자 보호를 위한 조치를 취할 수 있는 근거규정을 마련하려는 것임.
대안의 주요내용
가. 아동ㆍ청소년성착취물을 이용하여 그 아동 청소년을 협박한 자는 3년 이상의 유기징역, 아동청소년성착취물을 이용한 협박으로 그 아동 청소년의 권리행사를 방해하거나 의무 없는 일을 하게 한 자는 5년 이상의 유기징역에 처함(안 제11조의2 신설).
나. 사법경찰관리는 디지털 성범죄에 대하여 제25조의3제1항 및 제2항에 따른 절차를 거칠 수 없는 긴급을 요하는 때에는 상급 경찰관서 수사부서의 장의 승인 없이 신분비공개수사를 할 수 있도록 함(안 제25조의4 신설).
다. 사법경찰관리가 아동ㆍ청소년성착취물이 정보통신망을 통하여 게시ㆍ상영 또는 유통되고 있다는 사실을 확인한 경우 지체 없이 방송통신심의위원회에 이를 삭제 또는 접속차단 등의 조치를 하여줄 것을 요청하도록 하는 등 사법경찰관리에게 디지털 성범죄 피해확산을 막기 위한 조치의무를 부과함(안 제38조의2 신설).
2. 딥페이크의 주요 기술적 원리
1. 생성적 적대 신경망(GAN, Generative Adversarial Networks):
• GAN은 두 개의 신경망이 서로 경쟁하면서 발전하는 방식으로 딥페이크의 핵심 기술입니다. 한 신경망(생성자)은 가짜 데이터를 생성하고, 다른 신경망(판별자)은 그 데이터를 분석해 진짜와 가짜를 구별합니다. 이 과정이 반복되면서 생성자가 점점 더 정교한 가짜 데이터를 만들어냅니다.
2. 얼굴 교체:
• 딥페이크의 가장 흔한 용도는 얼굴 교체입니다. 사람의 얼굴을 다른 인물의 얼굴로 바꾸거나, 특정 인물이 실제 하지 않은 행동을 하게 만들 수 있습니다. 이 기술은 수많은 이미지 데이터셋을 학습하여 얼굴의 움직임과 표정을 자연스럽게 합성할 수 있게 합니다.
3. 음성 합성:
• 딥페이크는 음성 합성 기술도 포함됩니다. 특정 인물의 목소리를 학습하여 그 사람의 목소리로 새로운 음성을 만들어 낼 수 있습니다. 이 기술은 모방 음성을 생성하는 데 쓰입니다.
3. 딥페이크의 활용 분야
1. 엔터테인먼트:
• 영화나 게임에서 배우의 얼굴을 다른 캐릭터로 변형하거나, 사망한 배우의 얼굴을 디지털로 복원하여 등장시키는 데 사용될 수 있습니다.
2. 교육 및 역사적 복원:
• 딥페이크 기술은 역사적 인물의 얼굴과 목소리를 복원하여 다큐멘터리나 교육 콘텐츠에 활용될 수 있습니다.
3. 마케팅 및 광고:
• 유명인이나 인플루언서의 이미지를 사용하여 가상의 광고를 제작하는 데 사용될 수 있습니다.
4. 딥페이크의 문제점
1. 허위 정보 및 가짜 뉴스:
• 딥페이크 기술이 악용되면 가짜 영상을 이용한 허위 정보나 가짜 뉴스를 퍼뜨릴 수 있습니다. 이는 특정 인물의 이미지를 조작하여 명예를 훼손하거나, 정치적 혼란을 야기하는 등 부정적인 영향을 미칠 수 있습니다.
2. 프라이버시 침해:
• 개인의 동의 없이 그들의 얼굴이나 목소리를 조작하는 것은 심각한 프라이버시 침해 문제를 일으킬 수 있습니다. 특히 음란물 제작에 악용되는 경우가 문제로 지적됩니다.
3. 법적 및 윤리적 문제:
• 딥페이크가 만들어내는 콘텐츠는 진짜와 매우 유사하기 때문에 이를 악용하는 경우 법적, 윤리적 문제가 발생할 수 있습니다. 현재 일부 국가에서는 딥페이크 기술의 불법적인 사용을 규제하기 위한 법률을 마련하고 있습니다.
5. 대응 기술
딥페이크를 탐지하는 기술도 빠르게 발전하고 있습니다. AI를 활용한 탐지 시스템은 미세한 디지털 흔적이나 비정상적인 패턴을 찾아내어 가짜 영상을 구별할 수 있습니다. 또한, 수많은 데이터 학습을 통해 진짜와 가짜를 더 정교하게 구분하는 알고리즘이 개발되고 있습니다.
딥페이크 기술은 강력한 도구이지만, 그 잠재적 위험을 고려한 신중한 사용과 법적 규제가 필수적입니다.