AI로 잡는 AI 가짜영상, 효과는?

인공지능 딥페이크 기술을 이용해 오바마 전 미국 대통령의 영상을 조작해, 그가 하지 않은 말을 마음대로 조작하는 비디오 영상이 만들어져 딥페이크 영상의 위험성이 알려졌다. 유튜브 캡처.

[구본권의 사람과 디지털]
페이스북 “사실 오도하는 조작영상 금지” 발표
딥페이크 확대 이전의 선제적 조처 평가에도
빠져나갈 빈틈 많아…기술적 방안 근본적 한계

인공지능 딥페이크 기술을 이용해 오바마 전 미국 대통령의 영상을 조작해, 그가 하지 않은 말을 마음대로 조작하는 비디오 영상이 만들어져 딥페이크 영상의 위험성이 알려졌다. 유튜브 캡처.

인공지능 방패로 인공지능 창을 막는 것은 얼마나 효과적일 수 있을까. 전국시대 모순(矛盾)의 고사를 연상하게 하는 인공지능 창과 방패의 대결이 ‘딥페이크(Deep Fake)’를 놓고 벌어지고 있다. 딥페이크는 인공지능을 이용해 만든, 사람이 진위 여부를 식별하는 게 거의 불가능한 허위 조작영상을 의미한다.

페이스북은 지난 6일 페이스북에서 딥페이크 영상의 게시를 금지한다고 밝혔다. 페이스북은 이날 모니카 비커트 글로벌 규정관리 부사장 명의의 블로그를 통해 “허위 조작영상이 늘면서 산업계와 사회에 중대한 위기를 가져오고 있다”며 앞으로 이를 삭제하겠다고 밝혔다. 올해말 치러질 미국 대선을 앞두고 난무할 것으로 보이는 딥페이크 영상에 대한 선제적 조처다.

구체적 방안은 공개되지 않았지만 인공지능을 이용한 자동화에 의존할 것으로 전망된다. 페이스북 최고경영자 마크 저커버그는 2018년 4월 미 의회 청문회에서 페이스북이 허위 정치정보를 유포하는 플랫폼이라는 거센 비판을 받자 인공지능을 해결책으로 제시한 바 있다. 저커버그는 당시 청문회에서 인공지능을 30번 이상 언급하며 허위 왜곡정보에 맞설 해결책이 될 것임을 강조했다. 페이스북이 6일 발표한 딥페이크 영상 금지는 인공지능을 이용해 딥페이크를 해결하겠다는 그동안의 페이스북 정책이 구체화한 실행안이다.

비커트 부사장은 ‘오해를 유도하는 조작된 미디어’라고 딥페이크를 정의하며, 게시 금지 대상 콘텐츠의 조건을 구체화했다. “보통사람들이 알아챌 수 없는 방식으로 편집되고 합성된 영상으로, 영상의 주인공인 실제로 하지 않은 말을 한 것처럼 믿게 만드는 영상”이다. 그리고 “인공지능과 기계학습을 이용해 영상을 바꾸거나 합치고 중첩시켜 사실인 것처럼 보이도록 만든” 결과물이다.

구글은 24일 블로그를 통해, 인공지능 딥페이크 조작 영샹의 탐지 연구를 지원하기 위해 자신들이 그동안 만들어온 딥페이크 동영상 3000세트를 개방했다. 구글 제공.

페이스북의 ‘딥페이크 영상 삭제’ 방침이 공개되자, 미국의 정보기술 전문지 <와이어드>는 “딥페이크 영상이 큰 영향을 끼쳐 사실과 거짓이 뒤섞이는 대혼돈에 이르기 전 단계에 페이스북이 명확한 방침을 제시한 것으로 주목할 만하다”고 긍정 평가했다. 또다른 정보기술 전문지 <원제로>는 이에 대해 “없는 것보다는 낫지만 딥페이크를 대응하기에 매우 미흡한 정책”이라고 평가했다.

페이스북의 이번 딥페이크 금지 방침은 허위 조작 정보를 적발하고 차단하는 문제의 한계와 어려움을 드러냈다. 기본적으로 사람의 개입과 판단없이 인공지능과 알고리즘을 이용해 딥페이크 차단을 최대한 자동화하고자 한 데서 비롯했기 때문이다.

미국 정보기술 전문지들이 지적한 페이스북 시도의 한계와 빈틈은 여럿이다. 왜곡 의도와 함께 딥페이크와 인공지능의 결과물, 동영상이라는 조건이 충족될 때만 적용되기 때문이다.

우선, 인공지능과 기계학습을 통한 딥페이크 아닌 ‘재래식 방법’의 허위 왜곡정보는 대상이 아니다. 한 예로, 동영상 재생 속도를 의도적으로 낮춰 낸시 펠로시 미 하원의장의 발언을 술취해 말하는 것처럼 보이게 만든 영상은 이런 기준에서 제외된다.

2019년 미 하원의장 낸시 펠로시가 술에 취한 것처럼 어눌하게 발언하는 동영상이 논란을 불러일으켰다. 동영상의 재생 속도를 고의로 약간 늦춰서 플레이해서 만든 왜곡 영상이었지만, 페이스북은 이 영상을 삭제하지 않았다. 유튜브 캡처.

또 우려되는 점은 발언 조작 영상에 국한함으로 인해, 말을 하지 않는 조작영상은 금지되지 않을 가능성이다. 예를 들어 한 정치인이 국기를 불태우거나 테러리스트와 웃으며 기념사진을 찍은 것처럼 영상을 조작할 경우, 말 한마디 없지만 선거여론에 큰 영향력을 끼칠 수 있다.

또 다른 빈틈은 페이스북이 딥페이크 금지 조처가 ‘풍자와 패러디’에는 해당하지 않는다고 밝힌 점이다. 노골적인 조작 영상을 유포하면서 ‘풍자’라는 태그를 달고 패러디라고 주장한다면, 차단 여부 판단이 쉽지 않다.

인공지능을 활용해 딥페이크를 적발하고 차단하려는 페이스북의 방침 발표와 시도는 의미가 있지만, 살펴본 것처럼 새로운 빈틈과 문제를 불러온다. 인공지능의 발달로 진짜와 식별하기 어려운 허위 조작정보가 점점 늘어날 것이 분명하지만, 쉽고 근본적인 해결방안은 나타나지 않을 것으로 본다. 기술을 최대한 활용하되 콘텐츠를 배경과 맥락 속에서 수용하고 무엇이든 비판적으로 읽어내는 이용자의 미디어 리터러시가 요구된다. 구본권 선임기자 [e-mail]