오는 6월 3일 제21대 대통령선거를 앞두고 유력 대선 주자들의 딥페이크 영상이 확산돼 논란이 일고 있다.
14일 각종 소셜네트워크서비스(SNS)에 따르면 이재명 전 더불어민주당 대표를 포함해 한동훈 전 국민의힘 대표, 김문수 전 고용노동부장관 등 주요 대선 주자를 타깃으로 한 딥페이크 영상들이 노출되고 있다.
이 가운데 숏폼 동영상 플랫폼 틱톡 한 계정에는 '차기 대통령 선거 여권 후보 최강 라인업'이란 제목의 딥페이크 영상이 지난 2월부터 올라와 있다. 해당 영상에는 스스로 가발을 벗는 한 전 대표를 비롯해 김문수, 홍준표, 안철수 등 국민의힘 예비후보를 희화화한 모습이 담겼다.
다른 계정에는 이 전 대표가 부인 김혜경씨에게 욕하는 모습을 합성한 딥페이크 영상이 게시돼 논란이 됐다. 지난달에는 이 전 대표가 수의를 입고 구치소에 앉아 있는 합성물이 유포돼 경찰이 추적에 나서기도 했다.
이에 이 전 대표 측은 지난 11일 "이 예비후보가 김혜경 여사에게 욕하는 동영상이라는 내용의 딥페이크 영상을 만들어 유포를 시도한다는 제보가 선대위에 접수됐다"며 "즉시 유포 중지 가처분 및 고발 등 모든 수단을 동원해 법적 책임을 묻겠다"고 경고한 바 있다.
대선 주자들뿐만 아니라 윤석열 전 대통령도 딥페이크 피해를 봤다. 지난 2월 광주에서 열린 '윤석열 탄핵 촉구 집회'에서 윤 전 대통령 부부가 속옷과 수영복 차림으로 거리를 활보하는 허위 영상이 배포됐다.
이처럼 딥페이크 영상이 급격히 확산되는 이유는 제작이 손쉽기 때문이다. 최근 열풍인 챗GPT 등 생성형 AI 프로그램을 이용하면 영상 제작에 5분이 채 걸리지 않는다. 고령층까지도 챗GPT 등으로 영상을 제작할 수 있어 우후죽순으로 퍼지고 있다는 분석이 나온다.
특히 이번 대선 기간에는 딥페이크 제작물 유통을 통제하기 어렵다는 지적도 있다. AI 생성물에 워터마크 표시를 의무화하는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI 기본법)의 시행일은 2026년 1월이라 대선 기간에는 적용되지 않는다.
공직선거법 제82조의8(딥페이크영상등을 이용한 선거운동)에 따르면 누구든지 선거일 전 90일부터 선거일까지 선거운동을 목적으로 딥페이크 영상을 제작·편집·유포·상영 또는 게시하는 행위가 금지된다. 현행 공직선거법에서는 △인공지능 기술을 이용해 만든 △실제와 구분하기 어려운 가상의 △음향·이미지·영상 등을 딥페이크 영상으로 규정한다.
이를 위반하면 7년 이하의 징역 또는 1천만 원 이상 5천만 원 이하 벌금에 처한다. 하지만 이 규정은 2023년에 개정돼 지난해 총선 때 처음 적용됐지만, 당시 처벌 사례가 없었다. 또 법 제정 당시보다 기술이 발달돼 해석이나 판례가 미비하다.
이에 선관위는 국내 인터넷 자율규제 기구인 한국인터넷자율정책기구(KISO)와 핫라인을 구축하고 공직선거법 위반 게시물에 대해 실시간으로 협력 대응할 예정이다. KISO는 윤 전 대통령 파면으로 조기 대선이 실시됨에 따라 전 회원사에 '선거 관련 인터넷 정보서비스 기준에 관한 정책' 규정을 적용했다.
선관위 관계자는 14일 CBS노컷뉴스와의 통화에서 "법적 실효성 강화를 위한 목적도 있지만, 매 선거가 다가오면 KISO측과 업무 협의를 통해 허위사실 공표·비방에 대한 대응 강화에 집중하고 있다"고 밝혔다.
또 선관위는 대선 본투표일까지 운영될 '허위사실 공표·비방 특별대응팀'을 지난 9일 설치했다. 대선 기간 온라인상에서 각종 허위사실이 유포되는 데 대해 대응할 방침이다.