딥페이크 범죄를 막는 방법
안전한 디지털 세상을 위한 생각
누구나 손쉽게 만들 수 있는
딥페이크영상
딥페이크(deepfake) 는
딥 러닝(deep learnaing)과 가짜(fake)의 합성어로
인공지능을 이용한 이미지 합성 기술을 의미한다.
기술적 측면에서 놀라운 발전이지만
범죄에 쉽게 악용될 수 있기에
소위 ‘뜨거운 감자’라고 할 수 있습니다.
요즘에는 스마트폰 앱으로
얼굴을 바꾸는 건
너무 쉽게 만들 수 있습니다.
수많은 얼굴을 맘대로 합성하고
심지어 성별까지 바꿉니다.
또, 사진 한 장, 10초 분량의 음성만 있으면
거의 똑같은 AI 인물을
만들어 낼 수 있습니다.
심각한 문제는
이 놀라운 기술을 악용하여
사기 범죄나, 성범죄의 수단으로
이용하는 범죄가 기하급수적으로
늘어나고 있다는 점입니다.
특히 청소년들은
하나의 유희로
너무나 가볍게 생각하고 있어
문제가 더 심각합니다.
최근 딥페이크 학교 명단이
나돌고 있기도 하다.
딥페이크 범죄
어떻게 막을 수 있을까요?
” 딥페이크는 명백한 범죄이며
강력한 처벌이 뒤따른다는
사실을 알아야 합니다.”
2020년 소위 ‘n번방 사건’ 으로
디지털 성범죄에 대한
명확한 처벌 기준을 마련해달라는
‘국민 동의 청원 1호’의 취지를 담은
성폭력 개정안이 2020년 3월 5일
국회 본회의를 통과했습니다.
국민 동의 청원을 통한 첫 입법 사례로
이 개정안은 특정 인물의
얼굴과 신체를 합성해 편집하는
‘딥페이크’ 영상을 만들고
유통했을 경우
5년 이하의 징역에 처하고,
영리 목적으로 유포하면
7년 이하 징역에 처합니다.
딥페이크를 악용하는 범죄에는
강력한 처벌이 뒤따른다는
사실을 널리 알리고 자각해야 합니다.
또한, 딥페이크 관련 법률을 제정하고,
이를 통해 딥페이크의 제작과
유포를 규제하는 것도 중요합니다.
사실 21대 국회에서 딥페이크 영상에
워터마크 표시를 해야 하는 법률안이
여러 가지 이유로
결국 폐기되고 말았습니다.
딥페이크로 인한
학교 성범죄로 난리가 났지만
사실 소 잃고 외양간 고치는 격입니다.
AI로 생성된 영상을
AI로 가려내는 기술도 개발되고
구글 오픈 AI 등 빅 테크 기업들도
대책을 내놓고 있습니다.
유명인이나 사람이 관여된
폭력 음란 혐오 이미지는
아예 생성을 금지하고
눈에 안 보이는 식별표시
디지털 워터마크를
삽입하도록 하고 있습니다.
딥페이크 범죄 피해를
예방하기 위한 수칙
1. 온라인에 개인정보(사진,이름 등)을
올리거나 전송하지 마세요.
♥ 특히 인스타, 카톡에
얼굴 사진 많이 올리면 안 됩니다.
2. 가급적이면 인스타그램 등
SNS 계정은 공개로 전환해야 합니다.
3. 타인이 동의 없이
사진, 영상을 찍거나
전송(게시) 하면 안 됩니다.
4. 특히, 장난이라는 이유로
타인의 사진(합성사진)을
유포하거나 게시한다고
협박하면 형사처벌됩니다.
5. SNS 등에서 딥페이크 범죄로
의심되는 글을 발견했을 경우,
112·117로 신고하거나
학교전담경찰관(SPO)과
즉시 상담해야 합니다.
혼자서 괴로워 끙끙대거나,
혹시라도 범죄자와 연루되면
더 심각한 문제를 야기할 수 있습니다.
용기를 내어 즉시 주위에 알리고
도움을 받아야 합니다.
디지털피해자성범죄지원센터
가해자가 떳떳한데,
피해자가 숨거나 도망가면 안 됩니다.
어쩌면 딥페이크 범죄를 막는
확실한 방법은 없습니다.
이미 디지털화되어 버린 세상에서
스마트 기기와 떨어져서
살 수 없는 일상에서
결국 각자도생해야 합니다.
스스로 주의와 노력이 필요합니다.
딥페이크 영상을 접했을 때,
이를 무분별하게 공유하지 않고,
진위 여부를 확인하는
습관을 기르는 것이 중요합니다.
또한, 딥페이크의 위험성을 인식하고,
이를 방지하기 위한 노력을
기울이는 것도 중요합니다.