딥페이크 범죄, AI 발전과 함께 증가하는 AI 범죄

최근 여성 얼굴에 음란물을 합성한 영상을 제작과 유포하는 ‘딥페이크’ 성범죄가 이슈화가 되면서 대한민국이 발칵 뒤집혔다.

https://n.news.naver.com/article/056/0011801160?sid=102

아이돌 딥페이크 피해도 ‘심각’…“누구나 접근·제작”

한창 자라나는 청소년들에게 엄청난 피해와 고통을 주고 있는 엄청난 범죄인데 아무렇지 않게 학교별로 단체방도 생기고 사진 하나로 영상을 쉽게 만들 수 있다는 안일한 생각이 범죄 영상을 더 많이 만들고 있다.

오늘은 딥페이크가 무엇인지, 이에 대한 범죄 현실과 현실에 대해 글을 적어봤다.

딥페이크란?

특정 인물의 얼굴을 인공지능에 학습시킨 다음, 그 얼굴을 다른 사람이 나온 사진이나 영상에 교묘하게 합성시켜 만든 콘텐츠를 의미한다.

최근 딥페이크 불법 합성물과 아동/청소년 성 착취물을 해외 SNS를 통해 판매한 10대들이 경찰에 붙잡히기도 했다.

이를 악용한 다양한 음란물이나 범죄 영상들이 만들어지고 있고, 이를 이용한 협박이나 2차 가해들까지 늘어나고 있다.

이는 단순히 우리나라만의 문제가 아니다. 전 세계적으로 딥페이크 관련 범죄들이 늘어나고 있으면서 이에 대한 규제 사항들도 늘어나고 있다.

청소년 스마트폰 사용의 부작용

요즘 사람들은 자신의 SNS에 자신의 소식을 알린다. 각자 찍은 사진들을 올리고 이를 통해 소통을 다양한 사람들과 진행한다.
청소년들도 자신의 사진을 올리곤 하는데 이 사진들을 같은 학교 학생들이 무단으로 사용해서 음란물로 합성한다.

하지만 특수한 경우를 제외하고 대부분 사건은 교육적 차원의 보호 처분으로 종결된다.
익명성과 손쉬운 접근성 때문에 재범률이 높지만, 범죄의 재발을 막기 위한 실질적인 대응이 부족한 상황이다.

청소년들의 과도한 스마트폰 사용은 온라인 내에서 싸움을 일으키기도 한다.
친구와 문제가 생기면 온라인에서 익명성 뒤에 숨어서 남을 비방하는 저격 행위도 일삼고 있다.
과거에는 같은 학교 내에서 학교 폭력 문제가 오프라인에서 발생했다면, 요즘에는 SNS를 통해 시간과 공간의 제약 없이 폭력이 일어나면서 청소년들에게 많은 상처를 남긴다.

스마트폰이 처음 생겼을 때에는 휴대폰을 수거하는 경우가 많았지만, 요즘은 학생들의 자율성 보장을 위해 교사들이 전원을 끄라고만 할 수 있다.
하지만 대부분의 학생들은 말을 듣지 않는다. 심지어 수업 중에도 음악을 듣거나 영상을 보는 등의 수업을 방해하는 행위가 많이 일어나고 있다.
수업 도중에 교사를 몰래 불법 촬영하거나 공기계를 제출 후 교사들의 지시를 무시하는 경우도 많다고 한다.

스마트폰 사용으로 학생들의 학습 능력도 저하되고 있다. 학생들의 맞춤법 실수가 늘어나고 기본적인 문해력도 떨어지고 있다.

틱톡 같은 숏폼 콘텐츠 유행으로 학생들의 집중력도 많이 떨어지는 문제가 발생했다. 짧은 영상들만 보다 보니 한 가지 주제에 집중하는 것을 어렵게 만들고 긴 글을 읽는 등의 인내심이 필요한 행동에 어려움을 느끼고 있다.

10대의 딥페이크 범죄 현실

양부남 더불어민주당 의원이 말하길, 딥페이크 범죄 가해자 중 미성년자 비중이 70%를 넘는다고 한다.
2021년에는 65.4%에서 2023년에는 75.8%까지 비중이 올랐다. 피해자의 절반 이상도 10대였다.

이번에 딥페이크 문제가 이슈화된 것도 10대에서 일어난 범죄가 많았기 때문이다. 이유가 무엇일까?

가장 큰 원인으로는 스마트폰의 사용 시간 증가다.
정보통신정책연구원에 따르면 작년 10대 청소년들의 스마트폰 이용 시간은 하루 평균 2시간 41분이다. 대부분의 시간을 자극적인 콘텐츠의 쇼츠, 릴스 등 숏폼 콘텐츠에 사용하면서 몰입도와 중독성이 커졌다.

무엇보다 글로벌 플랫폼의 접근이 쉬워지며 유해 콘텐츠를 쉽게 접할 수 있게 되었다. 10대가 주로 사용하는 유튜브, 인스타그램, 틱톡 등의 SNS는 성인 인증이 없다. 그 상태에서 영상 알고리즘은 불법, 유해 콘텐츠 확산을 부추긴다. 성매매나 마약 거래 등을 암시하는 콘텐츠들이 끊임없이 이어진다. 이런 자극적인 콘텐츠는 사용자들이 더 오래, 자주 사용할 수 있도록 하는 것이다.

처벌과 예방법이 있을까..?

현재 딥페이크 성 착취물을 처벌할 수 있는 조항이 있다.
“성폭렬 처벌 특례법 14조의 2”에 따르면 허위 영상물 등을 제작, 배포하면 5년 이하의 징역이나 5000만 원 이하 벌금에 처한다고 규정한다.

하지만 단순히 딥페이크 영상을 시청하거나 소지하는 것에 대한 처벌은 없는 것이 한계점이다. 유포자를 처벌할 수 있지만 유포 목적이 입증되어야 하기 때문에 처벌이 사실상 어려울 수 있다는 한계점도 있다.

게다가 범죄가 많이 일어나고 있는 연령대인 만 10세 이상 14세 미만 청소년들은 촉법소년이기 때문에 범죄를 저질러도 형사처벌을 면하고 범죄 기록도 남지 않는다.

 

다른 나라에서 딥페이크 범죄는 어떨까?

 

그렇다면 다른 나라는 이러한 범죄에 대한 처벌이 어떤지 알아보자

유럽연합(EU)은 5월에 세계 최초로 포괄적 성격의 AI 규제법을 최종 승인했다. AI로 만든 영상이나 이미지에는 AI로 만들어졌다는 표시가 의무가 되었다.
플랫폼 사업자에게 불법, 유해 콘텐츠 제거 의무를 지게 하는 “디지털서비스법”을 도입했다. 

 

미국은 세계적인 팝스타 테일러 스위프트 얼굴이 합성된 음란물 이미지 유포 후 법 제정 움직임이 강해졌다.
최근 피해자가 딥페이크 음란물의 제작/유포/소지자에게 15만 달러 손해배상을 청구할 수 있는 “저항법”을 발의했다.

우리나라의 현실은 조금 아쉽다.
2021년 디지털 성범죄 피해 영상물이 발견되면 수사기관이 이를 즉시 삭제할 수 있도록 권한을 부여하는 법안이 발의되었다.
작년에는 디지털 성범죄의 징역형 상안 올리는 법안도 발의되었다.
하지만 이는 모두 회기 만료로 폐기됐다.
게다가 현재 한국에는 플랫폼에 책임을 지우는 법이 아예 없다.

결론

오늘은 조금 무거운 주제를 다루어봤다.

지금 대한민국 학부모들의 가장 큰 고민이자 걱정거리가 되고 있는 것이 딥페이크다.

지금도 온라인에서는 선량한 학생들의 사진이 음란물 범죄에 이용되고 있다. 이에 대한 처벌도 부족하고 대처도 부족한 것이 현실이다.

앞으로 AI는 더욱 발전할 것이고 이를 악용한 범죄는 더 다양해질 것이다.

이에 대한 대책과 예방이 함께 발전했으면 하는 바램이다.