Moobee의 '자질구레 이야기'

딥페이크 뜻 본문

Daily~/기타 소식

딥페이크 뜻

Moobee79 2020. 3. 27. 18:29

딥페이크 뜻

안녕하세요? Moobee 입니다. 오늘은 유명 아이돌 딥페이크 텔레그램방으로 문제가 되고 있는 소식을 알려드리도록 하겠습니다.

딥페이크 뜻

딥페이크란 특정 인물의 얼굴 등을 인공지능(AI) 기술을 이용해 특정 영상에 합성한 편집물을 말하는데요. ‘딥러닝(deep learning)’과 ‘거짓(fake)’의 합성어입니다. 미국에서 ‘딥페이크’라는 네티즌이 온라인 커뮤니티 레딧에 할리우드 배우의 얼굴과 포르노를 합성한 편집물을 올리면서 시작됐다.

연예인이나 정치인 등 유명인뿐만 아니라 일반인도 대상이 되면서 논란이 확산됐습니다. 딥페이크는 온라인에 공개된 무료 소스코드와 알고리즘으로 손쉽게 제작이 가능하며 진위 여부를 가리기 어려울 만큼 정교하다고 하는데요. 특히 피해자의 신고가 없으면 단속이 어렵다고 합니다. 트위터와 같은 SNS을 통해 제작을 의뢰하고 합성물을 받으므로 계정을 폐쇄하면 밝혀내기가 어려워 처벌하기가 쉽지 않습니다.

한가지 예시로 예전에 인터넷에 올라온 버락 오바마 전 미국 대통령 영상이 화제였는데요. 영상 속에서 오바마는 “트럼프는 완전히 쓸모없는 인간(complete dipshit)이야”라며 도널드 트럼프 대통령을 향해 진지한 표정으로 독설을 내뱉고 하는 영상이였습니다. 하지만 이는 딥페이크를 이용한 가짜 동영상으로 영상 속 오바마는 진짜 오바마가 아닙니다. AI기술로 목소리를 합성해 만들어낸 것이다.

이는 컴퓨터가 데이터를 축적해 스스로 학습하는 딥러닝 방식을 활용해 거짓을 사실로 만들어내는 딥페이크의 위험성을 경고한 것인데요. 이에 대해 외신들은 가짜뉴스의 위력을 훨씬 능가하는 딥페이크가 1~2년 내 정치권과 외교권에 악용된다면 큰문제를 가져올 것이라고 경고했습니다.

YTN의 관련 뉴스를 보시면 잘 아해가 사길 겁니다.

https://www.youtube.com/watch?v=krOXHbPcTrs

한편 n번방 이슈 이후 추가적으로 국내 여성 아이돌 그룹을 비롯한 연예인들의 얼굴 등을 성인 비디오(AV) 배우 등과 합성한 사진, 영상을 공유하는 이른바 '성인 딥페이크물' 전용 텔레그램 비밀방이 다수 확인됐습니다.

텔레그램에서 연예인을 소재로 한 '성인 딥페이크물' 전용방을 4개 확인이 되었다고 하는데요. 이중 여성 아이돌 가수를 대상으로 한 딥페이크 전용 방에는 최대 2000명이 넘은 회원들이 딥페이크 사진과 동영상을 올려 공유하고 있는 것으로 파악됐습니다. 이들 방은 초대 등으로 유입되는 n번방과 달리 모두 복잡한 가입 주소를 직접 확보, 입력해야만 들어갈 수 있는 방식으로 운영됐습니다.

이곳에 올라온 사진과 영상들은 사진편집 전용 프로그램으로 정교하게 만들어진 것으로 추정됩니다. 사진을 본 한 아마추어 사진작가는 "얼굴 음영이나 그림자 위치 등을 보면 실제처럼 만들기 위해 (사진 1장당) 최소 수시간 이상 작업이 걸렸을 것"이라고 말했습니다. 미친…. 참 쓸 때 없는데 소중한 시간을 보내는 군요.

가장 인원이 많은 채팅방에는 500여개의 성인 딥페이크물이 올라와 있었다고 하는데요. 방 이름에 'Ver.4'가 붙은 것을 보아 폭파와 재결집이 이뤄졌음을 짐작할 수 있습니다. 해당 채팅방은 지난 13일 새로 개설됐다고 합니다. 지난 16일 '박사방' 운영자 조주빈(25)이 검거되는 등 경찰의 수사망이 한창 좁혀지고 있을 때인데요. 간도 크네요. 3번째 방에 해당하는 'Ver.3'은 지난해 6월부터 약 9개월간 운영됐다고 합니다.

텔레그램 특성상 문제의 사진과 영상을 직접 발견해 삭제를 요청하지 않는 이상 이 같은 음란물을 걸러낼 모니터링 수단이 전혀 없다고 합니다. 국산 메신저 카카오톡 등은 금칙어 모니터링 등을 하고 있고 음란 정도가 심할 경우 계정 정지나 삭제 조치 등을 합니다.

경찰청 관계자는 “텔레그램에 불법촬영물을 삭제해달라는 메일을 보내면 2~3일 뒤에 해당 사진·영상이 삭제되지만, (수사를 위해) 게시자 인적사항을 제공해달라는 요청에는 응답하지 않고 있는 상태다"라고 밝혔습니다.

딥페이크물 피해를 받은 여성 아이돌 그룹의 기획사 관계자는 "텔레그램에서 딥페이크물이 유포되고 있다는 사실은 처음 알게 됐다"며 "알고도 사실상 손을 놓을 수 밖에 없는 상태다"라고 토로했습니다. 악성 댓글 등은 법무팀의 고소·고발로 실제 처벌이 이뤄지게 하고 있으나 텔레그램의 딥페이크물은 채팅방 이동이 잦고, 생산자·유포자를 특정하기 쉽지 않기 때문입니다. 그는 "강경 대응을 언급할 경우 해당 가수가 받게 될 이미지 타격도 문제라 여러모로 골칫거리다"라고 말했습니다.

경찰은 지난 25일 출범한 디지털성범죄 특별수사본부에서 유명인 합성 성인 딥페이크물도 들여다보겠다는 방침인데요. 취재 내용을 전달받은 디지털성범죄 특수본 관계자는 "엄정 수사로 척결할 것"이라고 전했습니다. 앞서 민갑룡 경찰청장도 "(디지털 성범죄 관련) 모든 불법행위의 접촉과 흔적을 찾아서 철저하게 불법 행위자를 퇴출하고 그 행위에 상응하게 엄단할 것"이라고 강조했습니다.

하지만 딥페이크 유포자나 관람자를 잡더라도 솜방망이 처벌이 문제라는 지적이 나옵니다. 수원지법 얀양지원은 지난 2018년 여성 아이돌 그룹과 배우 등의 사진을 나체사진과 합성한 사진 100여장 등 1.8GB 가량의 사진을 파일공유 사이트를 통해 유통한 20대 남성에게 징역 10개월의 집행유예 2년, 보호관찰 1년을 선고했습니다. 당시 재판부는 "(피고인이) 어린 나이로 잘못을 반성하고 있고 초범인 점을 고려했다"고 판시했습니다.

다만 딥페이크 처벌과 관련한 규정인 성폭력처벌법(성폭력범죄의 처벌 등에 관한 특례법) 개정안이 10만명의 동의를 받아 국회 국민동의 청원 1호 법안으로 본회의를 통과되면서 처벌 강화의 움직임은 일부 있습니다.

해당 개정안에는 연예인 등의 사진을 합성해 불법 영상물을 만드는 '딥페이크' 처벌 규정이 추가됐다. 하지만 당시 여성단체들은 n번방 사건에 대한 근본적인 대책과 실질적 처벌 강화책이 빠진 졸속 입법이라고 비판했습니다.