코로나19의 확대로 대면 선거운동이 쉽지 않은 가운데, 각 당의 대통령 후보들은 ‘AI(인공지능)’라는 이름을 붙여 딥페이크 선거운동을 진행하고 있다. 유권자의 호기심을 자극하고 선거운동에 활력을 불어넣는다는 장점도 있지만, 후보를 사칭하는 등 악용될 소지가 있다는 우려도 나온다.

23일 딥페이크 기술을 가장 적극적으로 활용하고 있는 것은 윤석열 국민의힘 후보다. 윤석열 국민의힘 대선후보의 경우 지난달 가상인간 ‘AI 윤석열’을 공개했다. 다양한 분야의 대답을 재치 있게 하면서 2030세대에게 인기를 끌고 있다. 지난 26일 AI 윤석열이 “곶감에 충성하지 않는다”고 밝힌 게 대표적이다. 윤 후보가 검사 시절 건설업체인 삼부토건으로부터 곶감 등 명절 선물을 받고 ‘봐주기 수사’를 했다는 의혹에 대해 답변한 것이다. 이 같은 답변은 청년보좌역들이 작성한 뒤 이준석 대표의 판단을 거쳐 공개되는 것으로 알려졌다. 정치권에 따르면 민주당도 최근 AI 기반 가상인간 제작기술을 보유한 기업과 간담회를 진행하며 가상인간 기술 및 제작 관련 협의를 진행한 것으로 알려졌다.

인공지능(AI) 전문가 등에 따르면 딥페이크에는 정해진 데이터를 학습하는 지도학습과 AI 스스로 정답을 생각하는 비지도학습이 함께 적용된다. 현재 딥페이크 기술은 학습 대상의 표정과 말투, 목소리의 90% 이상을 따라 하는 것으로 평가된다. 딥페이크 기술이 발전하면서 각종 사회 문제도 뒤따르고 있다. 성범죄가 대표적이다. 지난해 방송통신심의위원회 디지털성범죄심의지원단은 한국 연예인을 대상으로 한 614건의 성적 허위영상물을 적발했다.

그러나 정치권에서는 다른 범주로 문제가 발생하고 있다. 이재명 더불어민주당 대선후보의 목소리를 흉내 낸 가짜 욕설 영상이 배포되고 있다는 논란이 제기된 게 대표적이다. 앞서 방송인 김어준씨는 18일 TBS 라디오 ‘김어준의 뉴스공장’에서 “제가 최근 아주 중요한 제보 하나를 받았다”며 “이 후보가 직접 욕을 하는 딥페이크 음성 파일을 모처에서 제작해 모처에 납품했으며 곧 배포할 예정이라는 구체적인 제보를 받았다”고 말했다. 그는 “(파일을) 만들기 시작한 건 대략 보름 전이고, 1차 납품한 건 지난 주말”이라며 “손 볼 곳이 몇 군데 있어 수정 지시가 갔다”고 했다. 구체적인 제보를 받아 구체적으로 이야기할 수 있다며 김씨는 “최종 납품되면 그걸 유포할 계획인데 유력 유포 루트 중 소위 ‘대깨문’이라고 하는 ‘친문재인’을 내걸고 ‘반이재명’ 활동을 하는 그룹(이 있다)”고 했다. 다만 “아직 최종 유포 루트까지는 확정된 것 아닌 것 같다”며 “설 연휴 전 배포 계획인 것 같다”고 했다.

김씨는 “최근 딥페이크 기술은 진짜 목소리와 구분할 수 없는 정도다. 진짜처럼 들린다”며 “하지 않은 말인데 목소리를 만들어 내놓으면 가짜임을 입증하기도 어렵다”고 말했다. 그러면서 “실제 유포되면 그 즉시 어디서 제작했고 어디서 납품받았는지 자세히 얘기하도록 하겠다”며 “누가 의뢰해서 누가 납품받았는지와 ‘대깨문’이라는 연결고리가 가짜뉴스보다 큰 파장이 있다. 두고보자”고 했다.

이 같은 논란이 반복되자 중앙선거관리위원회는 ‘딥페이크 영상 관련 법규운용기준’을 발표했다. 이 기준에 따르면 선관위는 딥페이크 영상을 통한 선거운동 대부분이 선거법을 위반하지 않는다고 판단했다. 후보자나 정당이 단체 채팅방이나 SNS(소셜네트워크서비스)를 통해 딥페이크 홍보 영상을 전파하거나, 공개 연설이나 TV 광고에 이를 활용하는 것도 법적으로 문제가 없다.

다만 선관위는 제3자가 후보자 동의 없이 후보자의 영상과 음성을 합성한 딥페이크 이미지를 제작하거나 활용할 경우 ‘진실에 반하는 성명, 명칭 또는 신분의 표시’ 에 해당해 법 위반이라고 설명했다. 또한 후보자 또는 제3자가 후보자의 영상과 음성을 합성할 경우에도 딥페이크 이미지 영상임을 표시해야 한다고 설명했다. 표시하지 않는 경우 선거인이 실제 후보자의 행위로 오인하게 될 수 있기 때문이다.