테일러 스위프트부터 K팝 아이돌까지 당했다, AI 기술 발전의 그림자 ‘딥페이크’

테일러 스위프트 얼굴이 포르노에? 딥페이크 영상 일파만파
유명인 얼굴·목소리 덧입힌 딥페이크 콘텐츠, 곳곳에서 악용
일반인 대상 범죄부터 가짜 뉴스 생산까지, 제도적 울타리 시급

미국의 유명 팝 가수 테일러 스위프트(Taylor Swift)가 딥페이크 피해에 직면했다. 26일(현지시간) 테크크런치 등 외신은 최근 테일러 스위프트의 사진을 악용한 불법 딥페이크 포르노 영상이 X(옛 트위터) 등 SNS를 통해 확산하고 있다고 보도했다. 한 게시물은 삭제되기 전까지 2만4,000회가량 공유되며 4,500만 회 이상의 조회수를 기록한 것으로 확인됐다. AI(인공지능) 기술이 꾸준히 발전을 거듭하는 가운데, 기술 고도화의 ‘폐해’가 사회 곳곳에서 본격적으로 가시화하는 양상이다.

딥페이크 악용 사례 급증

딥페이크는 AI와 딥러닝을 활용한 인간 이미지·음성 합성 기술로, 생성형 AI의 발전과 함께 새로운 사회적 문제로 거론되고 있다. 유명인을 대상으로 딥페이크 기술을 악용하는 사례가 꾸준히 증가하는 추세기 때문이다. 사이버 보안 회사 딥트레이스의 연구에 따르면, 딥페이크로 제작된 영상 중 약 96%가 포르노인 것으로 알려졌다. 논란이 된 테일러 스위프트의 딥페이크 콘텐츠 역시 포르노에 테일러 스위프트의 얼굴을 합성한 불법 영상물인 것으로 전해진다.

외신에 따르면 테일러 스위프트의 딥페이크 영상은 생성형 AI로 불법 이미지를 만드는 한 텔레그램(인터넷 모바일 메신저) 채팅방에서 제작됐다. 해당 채팅방은 주로 마이크로소프트(MS)의 생성형 AI를 활용해 딥페이크 콘텐츠를 만드는 것으로 파악됐다. 딥페이크 생성을 제한하는 MS 규정을 우회하며 기술을 악용한 것이다. 피해 상황이 드러나자 테일러 스위프트의 팬들은 딥페이크 영상 검색을 방해하는 SNS 캠페인을 실시하기도 했다.

딥페이크 콘텐츠의 위협은 단순 포르노에만 국한되지 않는다. 지난 9일 디지털 미디어 언론사 404미디어는 딥페이크를 이용한 사기성 광고 영상 1,633개가 유튜브에 게재됐으며, 총조회수가 2억 회에 육박한다고 보도했다. 조사 대상이 된 영상들은 지난해 10월 이후에 업로드됐으며, 현재는 대부분 삭제된 상태다. 문제가 된 딥페이크 영상 중에는 테일러 스위프트를 비롯한 유명인의 얼굴·목소리를 악용한 콘텐츠도 다수 포함된 것으로 알려졌다.

더 이상 ‘딥페이크 안전지대’는 없다

우리나라 스타들 역시 딥페이크의 위협에서 벗어날 수는 없었다. 당장 포르노 사이트 곳곳에서는 K팝 가수의 얼굴을 합성한 딥페이크 포르노가 공공연하게 공유되고 있다. 지난 2021년 틱톡에서는 아이돌 가수의 얼굴을 덧씌운 각종 딥페이크 콘텐츠가 단순 ‘재미’로 소비되기도 했다. 당시 틱톡에서는 아이돌 멤버의 얼굴을 노출이 심한 옷차림의 영상에 합성한 선정적 콘텐츠가 대거 양산됐다. 일각에서는 이들의 얼굴을 기괴하고 잔혹하게 망가뜨리는 형식의 콘텐츠가 유행처럼 번졌다.

더 큰 문제는 딥페이크 기술의 악용 범위가 점차 확대되고 있다는 점이다. 네덜란드 딥페이크 탐지 기술업체 딥트레이스는 미국 내 학교에서 일부 여학생들이 반 친구들로부터 딥페이크 범죄의 표적이 되고 있다고 전했다. 국내의 경우 오는 4월 국회의원 총선거를 앞두고 이 같은 딥페이크 기술이 ‘가짜 뉴스’ 생산에 악용될 수 있다는 우려가 제기되고 있다. 이에 선거관리위원회는 AI 감별반을 구성해 딥페이크를 활용한 선거 운동 단속에 나선 상태다.

기술 악용 사례가 누적되자 딥페이크 범죄 차단을 위한 제도 개선 필요성 역시 부각되고 있다. 현재 국회에는 △딥페이크 워터마크(식별 표시) 의무화 △타인의 의사에 반한 딥페이크 유통 금지 및 처벌 규정 마련 등 딥페이크 관련 대응 법안이 다수 발의된 상태다. 하지만 이들 법안은 21대 국회 임기 만료가 다가오는 현재까지도 소관 상임위원회 문턱을 넘지 못했다. 딥페이크의 위협이 본격적으로 일상을 좀먹기 시작한 가운데, 업계에서는 하루빨리 최소한의 제도적 울타리가 마련될 필요가 있다는 비판이 쏟아지고 있다.