지난 2020년 한 방송프로그램에서 어떤 음악그룹이 출연해서 노래를 불렀다. 그런데 이 음악그룹을 이끄는 리더는 2008년에 사망한 사람이었다. 그룹의 리더를 AI로 재현해서 12년만에 다른 멤버들과 함께 무대에 오른 것인데 그를 그리워하던 많은 팬들에게 감동을 선사했다고 한다.

이미 세상에 없는 사람을 다시 등장시킨 방법은 무엇이었을까? 바로 딥페이크 기술이다. 딥페이크는 딥러닝과 가짜를 뜻하는 영어단어를 결합한 용어로, AI를 기반으로 한 이미지 합성 기술을 의미한다.

딥페이크가 세상에 처음 모습을 드러냈을 때 한 사람의 얼굴이 다른 사람의 얼굴로 바뀌는 모습을 보며, 사람들은 신기하고 재미있어했다. 특히 드라마, 영화, 오락 등 영상 분야에서 새로운 가능성을 열어주면서 창의적인 도구로 활용되고 있다.

하지만 늘 그렇듯이 첨단기술문명은 동전의 양면을 지니고 있다. 딥페이크도 다르지 않다. 딥페이크를 활용한 음란물 합성 제작과 유포가 심각한 사회문제로 대두되고 있는 것이다.

특히 딥페이크에 속수무책으로 노출되고 있는 청소년 범죄가 심각하다. 최근 3년(2021~2023년)간 경찰에 신고된 딥페이크 불법 합성물 사건의 피해자는 총 527명이었는데 이 중 315명(59.8%)이 10대인 것으로 집계되고 있다.

전북지역을 놓고 보면, 올해 7월까지 접수된 딥페이크 피해 신고는 21건으로, 수도권을 제외하면 전국에서 가장 많은 수준이다. 하지만 범인 검거율은 50%에도 못 미친다. 더욱 우려스러운 것은 딥페이크 범죄가 도내 초·중·고 학교현장까지 덮쳤다는 것이다. 실제 2022년부터 지난 8월까지 딥페이크 범죄로 학폭위 징계 처분을 받은 도내 학생수는 19명이나 된다.

가해 대상이 연예인과 같은 유명인이 아닌 일반인을 향하고 있다는 점에서 ‘나도 피해자가 될 수 있다’는 불안감도 더욱 커지고 있는 상황이다.

이러한 상황에서 올해 열린 미스코리아 대회에서 딥페이크 문제를 희화화하는 질문이 딥페이크 논란에 불을 지폈다. 논란이 된 질문은 “딥페이크 영상 속 내가 더 매력적이라면, 진짜 나와의 갭은 어떻게 줄일 수 있을까요?”였다. 이 같은 사실이 알려지면서 대중들은 ‘딥페이크 영상 피해자 대다수가 여성인데 이 대회에서 나올 질문인가’를 비롯해서 ‘집단 성희롱이다’, ‘질문 의도가 무엇인가’ 등 거센 비판을 쏟아냈다.

정부에서는 지난달 26일 딥페이크 성착취물에 대한 처벌을 강화하는 성폭력범죄의 처벌 등에 관한 특례법 개정안, 이른바 딥페이크 소지 처벌법을 통과시켰다. 딥페이크를 활용한 불법 합성 성착취물을 소지하거나 시청할 경우 최대 징역 3년에 처할 수 있도록 처벌을 강화한 것이다.

그럼 다른 나라는 어떨까? 딥페이크라는 용어가 처음 등장한 미국에서는 27개 주정부에서 딥페이크를 규제하는 법안을 마련했다. 그리고 유럽연합(EU)은 지난 5월 세계 최초로 포괄적 성격의 AI 규제법을 최종 승인했다. 영국에서는 딥페이크 음란물 제작자는 해당 이미지가 유포될 경우 제한 없는 벌금과 징역형을 부과하는 법안이 발의됐다.

전북자치도는 2022년 12월 디지털성범죄 예방 및 피해자 보호·지원 조례를 제정해 시행 중이다. 조례에 따르면 매년 디지털성범죄 예방 및 피해자 보호·지원계획을 수립·시행해야지만 그동안 여성폭력방지정책 기본계획으로 대체해 왔고, 10월에서야 보호·지원계획을 별도로 수립할 계획이다. 디지털성범죄 피해자 지원사업도 디지털성범죄 특화형 통합상담소를 운영하는 것이 전부다.

딥페이크 범죄 예방의 최선은 교육이다. 가해자들 대부분은 딥페이크를 단순한 장난이나 놀이처럼 생각하지만 피해자가 겪는 고통은 심각하다. 이 둘의 간극을 줄이기 위해서는 딥페이크 불법 합성물 제작이 중대한 범죄라는 사실을 인식할 수 있도록 하는 교육이 필수적이다.

딥페이크와 같은 AI 기술의 발전은 우리의 삶을 빠르게 변화시키고 있다. 이제 우리는 AI 기술 속에서 어떤 미래가 우리를 기다리고 있는지, 그리고 그 미래를 위해 어떤 선택을 해야 하는지를 진지하게 고민해야 할 시점에 와 있다.

김희수 전북특별자치도의회 부의장 / 새전북신문. 2024.10.17(목)