⚡ 핵심 요약 3줄
- 6·3 지방선거 D-7, 딥페이크 선거범죄가 2025년 대선 대비 최대 27배 폭증 중
- 선관위 딥페이크 전용 대응 예산은 0원 — 단속 기관이 빈손인 상황
- 정부는 92% 정확도 AI 탐지 모델을 처음 투입하지만, 범죄자들은 이미 더 진화했다
📌 민주주의를 흔드는 AI, 이제 선거판까지 들어왔다
대한민국은 2026년 6월 3일 전국동시지방선거를 7일 앞두고 있다. 광역단체장, 기초단체장, 지방의원, 교육감까지 수천 명의 당락이 결정되는 선거다. 그런데 이번 선거에는 낯선 변수가 끼어들었다. 바로 AI 딥페이크(deepfake)다.
딥페이크란 인공지능이 실존 인물의 얼굴·목소리를 학습해 만든 가짜 영상·음성이다. 한때는 전문가만 다룰 수 있었지만, 이제는 스마트폰 앱 하나로 누구나 10분 만에 정치인이 하지도 않은 말을 하는 영상을 만들 수 있다. 문제는 이 기술이 선거 직전, 가장 민감한 시기에 유권자의 판단을 흔드는 무기로 쓰이고 있다는 것이다.
* 2026 지선은 5월 21일 기준. 선거일(6월 3일)까지 추가 증가 예상. 출처: 중앙선거관리위원회
2025 대선 딥페이크 폭증
딥페이크 전용 예산
정확도
최대 징역형
🔍 단순 합성을 넘어 '뉴스 형식'으로 진화한 수법
초기 딥페이크는 얼굴만 어색하게 붙이는 수준이었다. 그런데 이번 선거에서 적발된 사례들은 차원이 다르다. 실제 방송 포맷을 그대로 모방한 뉴스 화면 속 AI 아나운서가 "특정 후보가 비리를 저질렀다"고 보도하는 형식이다. 심지어 하단에는 방송사 로고 비슷한 로고까지 삽입됐다.
입후보예정자 A씨는 자신이 외국 유명 시사주간지에 '지역 발전을 이끌 인물'로 선정됐다는 내용의 AI 생성 영상을 표시 없이 SNS에 게시·유포했다. 유권자들은 실제 외국 언론 보도로 오해했다. 또 다른 유튜브 채널 운영자는 AI 여성 아나운서를 내세워 경쟁 후보가 감옥에 수감된 이미지를 35회 반복 게시했다. 공직선거법 위반으로 3명이 고발됐다.
경찰청에 따르면 국내 사이버성폭력 범죄 중 딥페이크를 이용한 허위영상물 범죄는 2024~2025년 사이 전년 동기 대비 35% 증가했다. 선거판에서만 늘어나는 게 아니다. 사회 전반에서 딥페이크가 일상화되는 추세 속에, 선거라는 가장 민감한 공간에도 침투한 것이다.
⚖️ 법은 있다, 예산은 없다 — 구멍 뚫린 방어선
현행 공직선거법 제82조의8은 선거일 90일 전부터 AI 딥페이크를 이용한 선거운동을 전면 금지한다. 위반 시 7년 이하 징역 또는 1,000만~5,000만 원의 벌금이다. 지난 3월 4일부터 금지 기간이 이미 시작됐다. 90일 이전 기간이라도 AI 생성물 표시 없이 유포하면 처벌 대상이다.
문제는 단속이다. 더팩트 단독 보도에 따르면, 선관위에 편성된 딥페이크 전용 예산은 사실상 0원이다. 위반자들은 고가 유료 AI 서비스로 탐지를 피하는 교묘한 영상을 만드는데, 단속 기관은 맨손이다. 선관위 관계자는 "담당 직원들이 개인적으로 각종 온라인 도구를 써서 모니터링하는 실정"이라고 털어놨다.
⚠️ 구조적 아이러니: 법을 만든 국회가 단속 예산을 주지 않았다. 딥페이크 금지 규정은 2024년 1월 시행됐지만, 이후 3년이 지나도록 선관위에는 전담 예산이 배정되지 않았다. "법만 만들고 운영은 알아서"라는 셈이다.
🛡️ 정부가 꺼낸 AI 방패 — 92% 탐지 모델, 충분한가?
정부도 손을 놓고 있진 않다. 행정안전부와 국립과학수사연구원은 'AI 딥페이크 탐지 분석 모델'을 공동 개발해 이번 6·3 지방선거에 처음 투입한다. 전체 영상 흐름을 분석하는 '글로벌 분석'과 얼굴·입술·피부 질감 등을 정밀 분석하는 '로컬 분석'을 결합한 방식으로, 정확도는 약 92%라고 발표했다.
하지만 전문가들은 92%로는 부족하다고 지적한다. 나머지 8%의 오류 영상이 SNS를 타고 수십만 회 공유되는 시간이 탐지보다 훨씬 빠르기 때문이다. 더욱이 AI 생성 기술은 탐지 기술에 맞춰 즉각 업그레이드된다. "탐지 모델이 나오면 그 모델을 역으로 학습해서 탐지를 우회하는 딥페이크가 나온다"는 게 보안 전문가들의 공통된 경고다.
🌐 한국만의 문제가 아니다 — 전 세계 민주주의가 흔들렸다
딥페이크 선거 개입은 글로벌 현상이다. 2024년은 '슈퍼 선거의 해'로 전 세계 40개국 이상에서 대규모 선거가 치러졌고, 딥페이크는 빠짐없이 등장했다.
미국: 뉴햄프셔주 예비경선 직전, 바이든 대통령이 "투표하지 말라"고 요청하는 AI 음성 전화가 유권자들에게 대량 발송됐다. 인도: 유명 배우의 딥페이크가 특정 정당 지지 발언을 하는 영상이 바이럴됐다. 슬로바키아: 선거 이틀 전 딥페이크 오디오가 부정선거를 논의하는 것처럼 조작돼 확산됐다. 튀르키예: 딥페이크 동영상 논란으로 한 후보가 대선에서 자진 사퇴했다. 2023~2024년 사이 38개국에서 공인 대상 딥페이크 82개가 공식 확인됐다.
이 사례들이 공통으로 보여주는 패턴이 있다. 딥페이크는 사실 여부가 밝혀지기 전 이미 수십만~수백만 명에게 퍼진다는 것. '정정 보도'는 원본의 2~5%밖에 도달하지 못한다는 연구도 있다. 처음 본 것이 기억에 남는 인간의 심리가 민주주의의 취약점이 됐다.
🙋 내 한 표가 AI의 작품을 보고 결정된다면?
이 문제가 추상적으로 느껴질 수 있다. 하지만 생각해보자. 당신이 지난 한 달간 SNS에서 지방선거 관련 영상을 한 번이라도 봤다면, 그 중 하나가 AI 합성물일 가능성이 수치상으로 존재한다. 이미 9,000건이 넘는 허위 영상이 유통됐다.
더 심각한 건 확증 편향이다. "내가 싫어하는 후보가 나쁜 짓을 했다"는 딥페이크는 믿고 싶어진다. "설령 가짜라도 그럴 것 같다"는 생각이 드는 순간, 딥페이크는 목적을 달성한 것이다. AI는 인간의 감정을 이용한다.
✅ 선거 D-7, 딥페이크에 속지 않는 법 — 5가지 체크리스트
'AI 생성물' 표시가 있는지 확인. 없으면 의심하라.
눈 깜빡임·입술 움직임이 어색하면 AI 합성 가능성 높다.
영상의 출처와 날짜를 반드시 확인. 공식 채널인지 검증하라.
의심스러운 영상은 선관위 신고(☎1390)에 제보하라.
공유 전 3초 멈춤. 내가 공유하면 나도 유포자가 될 수 있다.
🔮 전망: 기술 싸움은 이제 시작이다
정부는 6·3 지방선거에서 AI 탐지 모델을 처음 현장에 투입했다. 국무총리는 "딥페이크 선거범죄에 법이 허용하는 최대 형량을 적용하겠다"고 선언했다. 국제적으로도 개인정보보호위원회(GPA)가 딥페이크 공동 대응 선언문 채택에 참여했다.
하지만 전문가들은 "이번 선거는 서막에 불과하다"고 말한다. AI 생성 기술의 비용이 계속 내려가면서, 2027년·2028년 선거에서는 지금보다 훨씬 정교한 딥페이크가 등장할 것이 확실하다. 근본적 해결책은 기술 탐지뿐 아니라 미디어 리터러시 교육, 플랫폼의 자체 검열 의무화, 선관위 전용 예산 신설이 동시에 이루어져야 한다는 게 전문가 공통 의견이다.
민주주의는 '정보'가 생명이다. 유권자가 올바른 정보를 바탕으로 투표할 수 있어야 한다. AI가 그 정보를 조작하기 시작한 지금, 선거는 단순히 정치의 문제가 아니라 기술과 인간 신뢰의 전쟁터가 됐다.