[01] 딥페이크

1. 딥페이크(deepfake)란?

https://youtu.be/xn39Iw92zjo

 

딥러닝과 페이크의 합성어로, 인공 지능 기술을 활용해 기존에 있던 인물의 얼굴이나, 특정한 부위를 영화의 CG처리처럼 합성한 영상편집물 또는 이를 만드는 과정

 

2017년 미국의 레딧 사이트에서 '딥페이크스'라는 가명을 가진 회원이 여러 개의 가짜 포르노 비디오를 올렸고, 그 중에 영화배우 들의 딥페이크 콘텐츠가 주목을 받으며 등장

이 때의 방식은 주로 기존 영상에 유명인의 얼굴을 덧입히는 방법으로 제작되었으며, 케라스나 텐서플로 같은 오픈소스 이용

그가 사용한 데이터들은 일반적으로 구할 수 있는 데이터를 활용한 것으로, 누구나 쉽게 딥페이크 영상을 만들 수 있음을 보여주고, 레딧의 이 회원 아이디에서 딥페이크라는 용어가 일반화

 

 

2. 원리

합성하려는 인물의 얼굴이 주로 나오는 고화질의 동영상을 통해 딥러닝하여, 대상이 되는 동영상을 프레임 단위로 합성시키는 것.

 

 

3. 문제점

딥페이크 포르노 영상을 제작할 경우, 초상권을 침해하는 행위로 판단됨.

유명 정치인들에 대해 모략할 목적으로 가짜 뉴스를 생성하는데 동원할 수 있다.

 

이미 레딧 사이트에 많은 외국 유명 탤런트들과 한국 여자 아이돌 멤버들이 포르노에 얼굴이 합성되어 떠돌았다.

 

 

4. 느낀 점

IT 기술이 발전함에 따라 악용되는 사례에 딱 적합하다고 생각한다.

저 유투브 동영상을 보면서 느꼈지만, 정말 말하는 입모양이 너무 정교하게 들어 맞는다.

이 딥페이크는 어떻게 생각해보아도 좋은 쪽으로 쓰일 수 있을 지가 떠오르지 않는다.

정말 이 딥페이크 포르노를 제작하는 사람들을 처벌하는 조항들이 빨리 생겼으면 좋겠다.

이러한 기술들이 빠르게 발전함으로써, 이를 제재하는 법들이 빨리빨리 생기지 못하는 것들에 대해 굉장히 안타깝게 생각하지만, 법이라는게 만들자고 해서 뚝딱뚝딱 생기는게 아니므로... ㅜㅜ

 

 

5. 출처

   1) (2019년-Vol.08)KISA REPORT

   2) https://namu.wiki/w/딥페이크