앞으로 선거일 전 90일부터 선거일까지 인공지능(AI)을 활용한 인간 이미지 합성 기술인 ‘딥페이크’를 이용한 가상의 음향, 이미지 또는 영상 등을 제작·편집·유포·상영·게시하는 행위가 금지된다. 어기면 7년 이하의 징역이나 1000만원 이상 5000만원 이하의 벌금형을 받는다. 금지 기간이 아닌 때에는 가상의 정보라는 사실을 명확하게 인식할 수 있도록 표기해야 한다. 최근 국회를 통과한 공직선거법 개정안의 골자다. 현행 선거법에 없던 딥페이크 영상과 관련된 신규 규제로 유권자들이 오인할 딥페이크를 활용한 여론조작 행위를 응징하겠다니 환영할 일이다.

수많은 사람이 이용하는 인터넷 공간에서 딥페이크 사진이나 영상 제작을 가능하게 하는 AI 기술은 공정 선거의 최대 적이나 다름없다. 최근 빅테크의 AI 챗봇이 제공하는 선거 관련 정보의 30%가 엉터리라는 연구 결과가 나왔다. 사퇴한 미국 대선 후보를 유력 후보로 제시하는 등 사실을 왜곡했다고 한다. 이 때문에 구글은 내년부터 선거 관련 질문에 대한 자사의 AI 답변을 검증된 후보자, 투표방법, 장소 등으로 제한하기로 했다.

딥페이크 등을 활용한 여론조작을 막으려면 신속한 수사체계부터 구축해야 한다. AI 기술이 발전할수록 가짜와 진짜 구분은 힘들어지고 그만큼 돈벌이나 정치적 목적을 위해 딥페이크 조작에 나설 사람들도 늘 것이다. 2002년 16대 대선 당시 나온 이회창 후보에 대한 병역비리 의혹은 조작된 것으로 최종 판명 났지만 이 후보 낙선이라는 선거 결과를 뒤집지 못했다. 내년 총선에서는 이런 여론조작이 더욱 고도화, 다각화할 가능성이 높다. 대응 속도가 관건인 만큼 중앙선거관리위원회과 수사당국은 신속 대응체계 구축을 서두르기 바란다.