새로운 딥페이크의 세계
딥페이크(Deepfake) 영상은 '딥러닝'의 '딥', 그리고 당연히 '가짜'의 '페이크'로 이루어진 혼성어입니다. 딥러닝은 여러 계층의 머신 러닝 알고리즘을 사용하여 원시 입력 데이터로부터 점차 더 높은 수준의 특징(feature)을 추출하는 첨단 인공 지능(AI) 메서드입니다. 사람 얼굴과 같은 비정형 데이터로도 학습할 수 있습니다. 예를 들어, AI는 사용자의 신체 움직임에 관한 데이터를 수집할 수 있습니다.
그런 다음 이 데이터를 처리하여 생성형 적대 신경망, 즉 GAN(Generative Adversarial Network)을 통해 딥페이크 영상을 만들 수 있습니다. 이 역시 전문화된 머신 러닝 시스템의 한 종류입니다. 두 개의 신경망을 사용하는데, 이들이 서로 경쟁하면서 트레이닝 세트(예: 얼굴 사진)의 특징을 학습한 다음 동일한 특징을 가진 새로운 데이터(새로운 '사진')를 생성합니다.
이러한 네트워크에서 생성한 이미지를 트레이닝 세트와 비교하면서 계속 테스트하므로 가짜 이미지가 점점 더 그럴 듯해집니다. 따라서 딥페이크는 더욱 강력한 위협이 됩니다. GAN은 사진 및 비디오 외에 다른 데이터도 위조할 수 있습니다. 실제로 동일한 딥페이크 머신 러닝 및 합성 기술을 사용하여 음성을 위조할 수 있습니다.
딥페이크의 예
유명한 딥페이크 사례를 어렵지 않게 찾을 수 있습니다. 일례로 배우인 조던 필이 버락 오바마의 실제 영상에 자신의 오바마 성대모사를 합성하여 딥페이크 영상에 대한 경고 영상을 만들었습니다. 그는 병합된 영상을 반쪽으로 분리하면 어떤 모습인지도 보여주었습니다. 그의 조언은 무엇이었을까요? 우리는 보이는 것에 의문을 제기할 필요가 있습니다.
Facebook의 CEO, 마크 저커버그가 등장하여 Facebook이 (특히 Instagram에서) 도용된 사용자 데이터를 통해 어떻게 '미래를 통제'하는지 설명하는 영상도 있습니다. 원본 영상의 출처는 러시아의 선거 개입에 관한 그의 연설로, 해당 연설의 21초 분량으로 새로운 영상을 합성할 수 있었습니다. 다만 성대모사는 조던 필의 오바마 성대모사만큼 훌륭하지 않아 별로 실감나지 않았습니다.
하지만 이렇듯 허술하게 만들어진 가짜도 상당한 영향을 미칠 수 있습니다. 낸시 펠로시가 '술에 취한' 모습을 담은 비디오가 YouTube에서 수백만 조회수를 기록했는데, 사실 이 영상은 그녀가 말을 더듬는 듯한 효과를 주기 위해 인위적으로 영상을 느리게 재생하여 만든 가짜였습니다. 그리고 많은 여성 유명인이 자신의 얼굴을 포르노 영화와 이미지로 변형하여 만든 리벤지 포르노로 피해를 입었습니다.
딥페이크 위협 - 사기와 협박
딥페이크 영상은 개인적인 복수 뿐만 아니라 정치적 목적으로도 이용되었습니다. 하지만 협박과 사기의 주요 수단으로 점차 더 많이 사용되고 있습니다.
한 영국 에너지 회사의 CEO는 긴급 자금 이체를 요청하는 모회사 대표의 딥페이크 보이스피싱에 속아 24만 3,000달러를 송금했습니다. 그는 이 가짜 음성이 너무 그럴듯해서 확인할 생각조차 하지 않았으며, 자금은 본사가 아닌 제3자의 은행 계좌로 송금되었습니다. 이 CEO는 문제의 '상사'가 또 다시 이체를 요청했을 때 비로소 의심했습니다. 이번에는 사실을 깨달았지만, 이미 보낸 돈을 돌려받기에는 너무 늦었습니다.
프랑스에서 발생한 최근 사기 사건에서는 딥페이크 기술을 사용하진 않았지만, 장 이브 르 드리앙 외무부 장관의 사무실과 집기까지 꼼꼼하게 흉내 낸 사칭 수법으로 고위직들로부터 수백 만 유로를 가로챘습니다. 사기범 길버트 치클리가 이 장관으로 위장하여 부유층과 기업 임원들을 대상으로 시리아에서 프랑스 인질을 석방하기 위한 몸값을 요구한 혐의를 받고 있으며, 현재 재판이 진행 중입니다.
딥페이크 제작자가 기업에 타격을 줄 딥페이크 영상을 공개하겠다고 회사 대표를 협박할 수도 있습니다. 또는 침입자가 최고 정보 책임자(CIO)에게 온 영상 통화처럼 합성하여 직원들이 암호를 공개하고 권한을 포기하도록 유도한 다음 해커가 민감한 데이터베이스를 샅샅이 뒤지는 방식으로 네트워크 침투가 이루어지기도 합니다.
딥페이크 포르노 비디오는 권력 남용을 폭로한 인도의 라나 아유브와 같은 여성 기자 및 언론인을 협박하는 데 사용되고 있습니다. 딥페이크 기술이 갈수록 저렴해지면서 협박과 사기에 더 많이 사용될 것으로 예상됩니다.
딥페이크로부터 스스로를 보호하려면?
이미 딥페이크 영상의 위협에 대응하기 위한 법안이 발의되고 있습니다. 예를 들어, 캘리포니아 주에서는 지난해 딥페이크의 불법적 요소를 규정하는 두 가지 법안이 통과되었습니다. AB-602는 포르노 제작 시 당사자의 동의 없이 사람 이미지 합성을 사용하는 것을 금지하고, AB-730은 선거 60일 이내에 후보자의 이미지를 조작하는 것을 금지합니다.
하지만 이것으로 충분할까요? 다행히 사이버 보안 기업들은 항상 더 나은 탐지 알고리즘을 출시하고 있습니다. 이들은 비디오 이미지를 분석하여 '위조' 과정에서 발생하는 미세한 왜곡을 찾아냅니다. 예를 들어, 현재 딥페이크 합성기는 2D 얼굴을 모델링한 다음 비디오의 3D 원근법에 맞게 왜곡하는데, 코가 어느 쪽을 향하는 지가 핵심 단서입니다.
딥페이크 영상은 아직 그 징후를 직접 발견할 수 있는 단계에 있습니다. 딥페이크 영상에서 다음과 같은 특징을 찾아보십시오.
- 갑작스러운 움직임
- 한 프레임에서 다음 프레임으로 넘어갈 때의 조명 변화
- 피부 톤의 변화
- 부자연스럽게 깜박이거나 전혀 깜박이지 않음
- 입술과 음성의 동기화 실패
- 이미지에 디지털 아티팩트 포함
하지만 딥페이크가 갈수록 발전하는 추세이므로, 육안으로 확인하는 것보다 우수한 사이버 보안 프로그램의 도움을 더 많이 받게 될 것입니다.
최첨단 위조 방지 기술
비디오 제작자가 비디오를 인증하도록 도와주는 기술이 출시되고 있습니다. 암호화 알고리즘을 사용하여 비디오에 설정된 간격으로 해시를 삽입할 수 있으며, 비디오가 변경되면 해시가 달라집니다. AI와 블록체인을 통해 비디오에 위변조 방지 디지털 지문을 등록할 수 있습니다. 문서에 워터마크를 삽입하는 것과 비슷하지만, 비디오에서는 다른 코덱으로 압축된 경우에도 해시가 남아 있어야 하는 점이 어렵습니다.
딥페이크 시도를 차단하는 또 다른 방법은 특수하게 설계된 디지털 '아티팩트'를 비디오에 삽입하여 얼굴 인식 소프트웨어에 사용되는 픽셀의 패턴을 숨기는 프로그램을 사용하는 것입니다. 그러면 딥페이크 알고리즘의 속도가 저하되고 결과물의 품질도 낮아져 딥페이크가 성공할 가능성이 줄어듭니다.
우수한 보안 절차가 가장 확실한 보호
하지만 기술만이 딥페이크 영상으로부터 보호하는 수단은 아닙니다. 우수한 기본 보안 절차를 준수하면 훨씬 더 효과적으로 딥페이크에 대응할 수 있습니다.
예를 들어, 자금 지급 프로세스에 자동 확인 기능이 내장된 경우 딥페이크 및 이와 유사한 사기를 다수 차단할 수 있었을 것입니다. 또한 다음과 같이 수행할 수 있습니다.
- 직원과 가족에게 딥페이크의 작동 방식과 이로 인해 발생할 수 있는 문제를 알리십시오.
- 딥페이크 식별 방법을 학습하고, 다른 사람에게도 알리십시오.
- 미디어 정보 해독력을 갖추고 양질의 뉴스 소스를 사용하십시오.
- '신뢰하되 검증하라'와 같은 효과적인 기본 원칙을 수립하고 이를 준수하십시오. 음성 메일과 비디오를 잘 믿지 않는다고 해서 절대 속지 않는다는 보장은 없지만, 많은 함정을 피하는 데 도움이 될 수 있습니다.
해커가 가정 및 기업 네트워크에 침입할 목적으로 딥페이크를 배포하기 시작하더라도, 기본 사이버 보안 모범 사례를 따른다면 위험을 최소화할 수 있음을 기억하십시오.
- 정기적인 백업을 통해 랜섬웨어로부터 데이터를 보호하고 공격 받은 데이터도 복원할 수 있습니다.
- 계정마다 서로 다른 강력한 암호를 사용하면, 공격자가 네트워크나 서비스에 침입했더라도 다른 네트워크나 서비스도 역시 공격 당한 것은 아닙니다. 누군가 내 Facebook 계정에 침입했더라도 다른 계정에는 침입하지 못하게 해야 합니다.
- 홈 네트워크, 노트북, 스마트폰을 사이버 위협으로부터 보호하려면 Kaspersky Premium과 같은 우수한 보안 패키지를 사용하십시오. 이 패키지는 안티바이러스 소프트웨어, Wi-Fi 연결 해킹을 방지하는 VPN, 웹캠 보호 기능도 제공합니다.
딥페이크의 미래는?
딥페이크는 계속 진화하고 있습니다. 2년 전만 해도 딥페이크 영상은 조악한 움직임과 눈을 깜빡이지 않는 가짜 얼굴로 쉽게 구분할 수 있었습니다. 그러나 최신 세대의 가짜 비디오는 진화하고 적응했습니다.
현재 15,000개 이상의 딥페이크 영상이 있는 것으로 추정됩니다. 그중에는 단순히 재미 삼아 만든 것도 있고, 사람들의 의견을 조작하려는 시도도 있습니다. 하지만 이제는 하루 이틀이면 새로운 딥페이크가 생성되므로 그 수는 급격히 증가할 수 있습니다.
추천 제품:
