제니 특정한 영상 온라인 확산. 출처·원본 확인 없이 실제 장면처럼 소비
트와이스·아이유 딥페이크 피해 현실화…AI 시대 달라진 영상 검증법
[미디어펜=김민서 기자] 출처도 원본도 확인되지 않은 영상이 특정 연예인의 실제 모습과 사건을 담은 것처럼 유통되고 소비됐습니다. 최근 그룹 블랙핑크 제니를 특정해 온라인에 확산된 짧은 영상에서 주목해야 할 핵심입니다.

해당 영상은 제니의 일본 공연 장면이라는 설명과 함께 빠르게 퍼졌지만 최초 출처와 원본, 제작·가공 과정은 공개적으로 확인되지 않았습니다. 그럼에도 영상 속 장면을 실제 상황으로 전제한 게시물과 주장이 잇따랐습니다.

이런 가운데 제니의 소속사 OA엔터테인먼트는 지난 18일 아티스트의 외형적 특징을 악의적으로 편집·재가공하거나 특정 사진과 영상의 일부 장면을 반복적으로 게시·재게시·유포하는 행위, 허위사실을 결부하는 행위 등에 법적으로 대응하겠다고 밝혔습니다. 다만 온라인에서 확산된 특정 영상의 내용이나 제작 방식에 대한 판단은 내놓지 않았습니다.

생성형 인공지능(AI) 시대에는 그럴듯한 영상이 존재한다는 사실만으로 실제 사건을 입증하기 어려워졌습니다. 더구나 완전한 AI 생성물이 아니더라도 합성, 편집, 재가공을 거치며 전혀 다른 콘텐츠가 만들어질 수 있습니다.

   
▲ 제니 사례의 핵심은 ‘진위 논쟁’이 아니다. /사진=AI 제미나이 제작


AI 잼 리포터는 이렇게 분석했습니다.

▲ 제니 사례의 핵심은 ‘진위 논쟁’이 아니다

이번 사례에서 먼저 경계해야 할 것은 출처가 확인되지 않은 영상을 놓고 진짜인지 가짜인지부터 추측하는 일입니다.

온라인에 유통된 콘텐츠의 원본과 최초 게시 경로가 확보되지 않았다면 영상 속 장면을 사실관계의 출발점으로 삼을 근거가 부족합니다. AI로 만들어졌는지, 다른 방식으로 가공됐는지를 판단하는 문제는 그다음입니다.

제니 측의 법적 대응 방침 역시 해당 영상의 사실 여부를 판단할 근거로 사용할 수 없습니다. 소속사가 밝힌 것은 사진·영상의 악의적 편집과 재가공, 허위사실 유포 등 아티스트의 권리를 침해하는 행위에 대응하겠다는 입장입니다.

결국 이번 사례가 보여준 것은 특정 영상의 진위보다 검증되지 않은 영상도 확산되는 순간 실제 사건을 보여주는 ‘증거’처럼 기능할 수 있다는 위험입니다.

   
▲ 연예인 딥페이크는 이미 현실의 피해. /사진=AI 제미나이 제작


▲ 연예인 딥페이크는 이미 현실의 피해

이 같은 위험을 키우는 배경에는 실제로 급증한 AI 합성 콘텐츠가 있습니다.

그룹 트와이스의 소속사 JYP엔터테인먼트는 2024년 8월 소속 아티스트를 대상으로 한 딥페이크 영상물이 확산되고 있다며 관련 자료를 수집하고 법적 대응에 나섰습니다. 소속사는 이를 명백한 불법 행위로 규정했습니다.

가수 겸 배우 아이유 측 역시 같은 해 형사고소 현황을 공개하면서 대응 대상에 AI를 활용한 사진·영상 불법 합성물인 딥페이크의 제작과 유포를 명시했습니다.

수사기관을 통해 드러난 피해 규모는 더 컸습니다. 경기북부경찰청은 지난해 여성 아이돌과 배우, 인터넷 방송 진행자 등을 대상으로 성적 허위영상물을 제작·유포한 텔레그램 대화방 운영자 23명을 검거하고 이 가운데 13명을 구속 송치했습니다. 대화방 참여자 60여 명도 추가로 검거했습니다.

주요 운영자 가운데 한 명은 여성 연예인 30여 명을 대상으로 약 1100건의 성적 딥페이크 영상물을 만들어 유포한 혐의를 받았습니다. 또 다른 운영자는 AI 음성 합성 기술인 ‘딥보이스’를 활용해 연예인이 실제 하지 않은 말을 한 것처럼 영상을 조작한 것으로 조사됐습니다.

누군가의 얼굴과 목소리만 있으면 실제 하지 않은 행동과 말을 영상으로 만들어낼 수 있는 환경이 이미 현실이 된 것입니다.

   
▲ AI만 찾다가는 더 단순한 조작을 놓친다. /사진=AI 제미나이 제작


▲ AI만 찾다가는 더 단순한 조작을 놓친다

그렇다고 모든 의심스러운 영상을 ‘딥페이크냐 아니냐’의 문제로만 볼 수도 없습니다.

기존 영상의 일부를 잘라내고 특정 장면을 확대하거나 속도를 조절하는 것만으로도 원래와 다른 인상을 줄 수 있습니다. 앞뒤 맥락을 제거한 뒤 자극적인 설명을 붙여 반복적으로 유통하는 방식도 마찬가지입니다.

AI 생성, 얼굴·음성 합성, 기존 영상의 편집과 재가공은 기술적으로 서로 다른 방식이지만 결과는 비슷할 수 있습니다. 실제로 존재하지 않았던 상황을 사실처럼 보이게 하거나, 확인되지 않은 이야기에 시각적 설득력을 부여한다는 점입니다.

따라서 영상 검증의 질문도 ‘AI가 만들었나’에서 한 단계 넓어져야 합니다. 이 콘텐츠는 어디에서 시작됐고 지금의 형태가 되기까지 무엇을 거쳤는가를 확인해야 합니다.

   
▲ AI 콘텐츠, 어떻게 확인할 수 있을까. /사진=AI 제미나이 제작

▲ AI 콘텐츠, 어떻게 확인할 수 있을까

AI 생성 콘텐츠를 확인하는 방법도 다양해지고 있습니다.

미국 국립표준기술연구소(NIST)는 합성 콘텐츠에 대응하기 위한 기술로 AI 생성물 탐지뿐 아니라 콘텐츠의 출처와 이력을 확인하는 인증 기술, 워터마킹 등을 함께 다루고 있습니다.

구글 딥마인드가 개발한 ‘신스아이디(SynthID)’는 구글 AI로 생성된 이미지와 영상, 음성, 텍스트에 디지털 워터마크를 삽입해 AI 생성 콘텐츠를 식별할 수 있도록 돕는 기술입니다. 현재 Gemini에서는 이미지와 영상, 음성에 신스아이디가 있는지 확인해 구글 AI로 생성되거나 편집됐는지를 확인할 수 있습니다.

다만 이런 기술 역시 각각 확인할 수 있는 범위가 다릅니다. 특정 영상의 사실 여부를 판단하려면 탐지 결과만이 아니라 최초 출처와 원본, 확인 가능한 생성·편집 이력 등을 함께 살펴야 합니다.

결국 AI 시대의 영상 검증은 ‘AI가 만들었나’를 가리는 데서 끝나지 않습니다. 어디에서 시작됐고 어떤 과정을 거친 콘텐츠인지 확인하는 것이 더 중요해지고 있습니다.


   
▲ 소속사는 권리 보호, 언론은 ‘사실화’ 막아야. /사진=AI 제미나이 제작


▲ 소속사는 권리 보호, 언론은 ‘사실화’ 막아야

연예인의 신체나 성적인 내용을 담았다고 주장하는 영상이 유포됐을 때 소속사에 해당 영상의 진위를 공개적으로 확인해 달라고 요구하는 것도 적절한 해법은 아닙니다.

그 자체로 아티스트에게 민감한 사안의 사실 여부를 해명하도록 요구하고, 답변이 다시 자극적인 콘텐츠로 소비될 수 있기 때문입니다.

소속사는 악의적인 편집과 재가공, 허위사실 유포, 사생활·인격권 침해를 차단하고 증거를 확보해 필요한 법적 조치에 나서는 역할에 집중할 수 있습니다.

반면 언론의 책임은 검증되지 않은 콘텐츠를 ‘실제로 벌어진 사건’으로 굳히지 않는 데 있습니다. 출처가 불분명한 짧은 영상을 근거로 사실을 단정하거나 해당 장면을 다시 캡처해 확산시키면 보도 자체가 허위·조작 콘텐츠의 2차 유통 경로가 될 수 있습니다.

확인할 수 없는 장면은 사실관계에서 제외하고, 검증된 정보와 온라인상의 주장을 분명하게 구분해야 합니다.

   
▲ 제니 영상 논란…‘봤다’는 확신의 함정. /사진=AI 제미나이 제작


▲ AI 잼 리포터 총평

제니를 특정한 영상이 이번 논란의 출발점이 됐지만, 핵심은 그 영상의 진위를 추측하는 데 있지 않습니다. 출처와 원본조차 확인되지 않은 콘텐츠가 특정인의 실제 행동을 보여주는 자료처럼 유통되고 소비됐다는 데 있습니다.

딥페이크는 이미 실제 피해를 만들고 있고, AI를 쓰지 않은 편집과 재가공만으로도 사실과 전혀 다른 인상을 만들어낼 수 있습니다. 이제 화면에 보인다는 이유만으로 믿을 수 있는 시대는 끝났습니다.

확인되지 않은 영상을 사실처럼 받아들이고 퍼뜨리는 순간, 가짜는 기술이 아니라 우리의 확신을 통해 완성됩니다.

AI 시대의 첫 번째 검증 대상은 영상이 아니라, 그것을 ‘진짜’라고 믿어버리는 우리의 확신입니다.
[미디어펜=김민서 기자] ▶다른기사보기