중앙선거관리위원회(이하 중앙선관위)는 2025년 제21대 대통령선거를 앞두고 생성형 AI와 딥페이크 기술을 이용한 영상·이미지 제작이 일상화되는 가운데, 선거운동에 이를 사용할 경우 공직선거법 위반 소지가 있다며 유권자들에게 각별한 주의를 당부했다.
중앙선관위는 최근 전 세계적으로 유행하는 생성형 AI 이미지 제작 트렌드를 언급하며, 누구나 쉽게 AI로 만든 음성, 이미지, 영상 등을 SNS나 커뮤니티 사이트에 게시하고 있지만, 선거와 관련된 콘텐츠에 해당 기술을 사용할 경우 공직선거법 제82조의8에 따라 처벌 대상이 될 수 있다고 경고했다.
딥페이크 선거운동, 최대 징역 7년 또는 벌금 5천만 원 처벌
공직선거법 제82조의8은 “누구든지 선거일 전 90일부터 선거일까지 선거운동을 위하여 인공지능 기술 등을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지, 영상 등을 제작·편집·유포·상영 또는 게시해서는 안 된다”고 규정하고 있다. 이를 위반할 경우 최대 7년 이하의 징역형 또는 1천만원 이상 5천만원 이하의 벌금형에 처해질 수 있다.
예컨대 지지 후보자의 딥보이스 음성이나 딥페이크 이미지를 SNS에 지지글과 함께 게시하거나, 반대 후보자에 대한 딥페이크 영상을 제작해 낙선을 유도하는 커뮤니티 게시물은 모두 위법이다.
미국 대선에서도 악용된 딥페이크 기술
딥페이크 기술은 해외에서도 선거과정에서 악용된 사례가 있다. 특히 미국 뉴햄프셔주에서는 유권자들에게 조 바이든 대통령의 목소리를 모방한 전화가 걸려와, 민주당 대선 경선 투표를 하지 말라고 권유한 사건이 있었다. 이는 인공지능이 실제 인물의 음성을 사실적으로 재현할 수 있는 수준에 도달했음을 보여주는 사례로, 딥페이크 기술의 선거 악용 가능성에 대한 경각심을 일깨워주고 있다.
특별대응팀 운영 및 유관기관 협업 대응 강화
중앙선관위는 지난 4월 9일부터 중앙 및 시·도 선관위에 '허위사실공표·비방 특별대응팀'을 구성해 위법 게시물에 대한 상시 모니터링을 강화하고 있다. 또한 4월 15일에는 검찰·경찰 및 포털사(네이버, 카카오 등)와 공동 대응 방안을 논의하는 등 대응체계를 본격 가동했다.
특별대응팀은 위법성이 의심되는 게시물을 포털사에 신속히 삭제 요청하며, ‘시청각적 탐지→프로그램 감별→AI 전문가 감별’의 3단계 체계를 통해 딥페이크 여부를 판별한다. 이 과정에는 국립과학수사연구원(NFS), 한국전자기술연구원(KETI) 등이 개발한 기술도 활용된다.
자정 캠페인 및 ‘통지 및 게시중단’ 제도 병행 운영
선관위는 SNS 플랫폼과 협업해 딥페이크 영상 게시 중지 안내, 웹 배너 게시 등을 통한 자정 캠페인도 전개 중이다. 후보자가 직접 위법 게시물로 인해 권리침해를 신고한 경우에는 ‘통지 및 게시중단(Notice and Takedown)’ 제도를 활용해 게시물 삭제를 선제적으로 요청할 계획이다.
중앙선관위는 “딥페이크 기반 허위사실 유포나 비방 행위는 후보자에게 회복할 수 없는 피해를 입힐 수 있고, 유권자의 올바른 선택을 방해하여 선거 결과를 왜곡시킬 수 있다”며 “특히 악의적인 콘텐츠를 유포한 경우에는 고발 등 엄중한 법적 대응을 할 방침”이라고 밝혔다.
