AI 딥페이크와 리벤지 포르노: 기술의 어두운 그림자와 사회적 대응

 

인공지능의 폐해: 딥페이크 포르노라는 경고

 

인공지능(AI)의 발전은 우리 삶을 편리하게 만들어 주었으나, 그 이면에는 심각한 폐해가 존재합니다. 최근 미국에서 도널드 트럼프 대통령이 서명한 '테이크 잇 다운 법안(Take It Down Act)'은 AI 기술의 오용이 초래하는 사회적 문제를 보여주는 대표적인 사례입니다.

 

그림 : 백악관에서 진행된 법안 서명식 장면 (출처: 백악관 홈페이지)

 

이 법안은 동의 없이 배포된 노골적인 이미지나 AI로 생성된 딥페이크 콘텐츠를 불법으로 규정하며, 이를 엄격히 처벌합니다. 이는 AI가 개인의 프라이버시를 침해하고, 특히 취약 계층을 대상으로 한 디지털 폭력을 조장할 수 있다는 경각심을 반영합니다. 딥페이크 포르노는 기술이 악의적으로 사용될 경우 개인의 삶을 파괴할 수 있는 강력한 도구임을 보여줍니다.

 

 

표현의 자유와 규제 사이: 미국의 딜레마

미국은 표현의 자유를 강력히 옹호하는 국가로, 포르노 콘텐츠조차 합법적으로 인정받습니다. 그러나 이번 법안은 연방 정부 차원에서 처음으로 인터넷 플랫폼에 콘텐츠 삭제를 강제하며 자유의 한계선을 그었습니다. '테이크 잇 다운 법안'은 소셜 미디어 기업이 피해자 요청 후 48시간 이내에 해당 콘텐츠를 삭제하도록 요구하며, 이를 위반한 플랫폼에 책임을 묻습니다.

 

하지만 디지털 권리 단체들은 법안의 모호성이 합법적인 콘텐츠 검열로 이어질 수 있다고 우려합니다. 이는 규제를 가하는 쪽과 그것으로 인해 피해를 입는 쪽의 입장차가 보이는 장면이기도 하면서 동시에 기술 오용 방지와 표현의 자유 보호 사이의 균형을 찾으려는 미국의 시도를 보여주는 것이기도 합니다.

 

 

불법 영상의 폐해: 개인과 사회에 미치는 영향

딥페이크 포르노와 리벤지 포르노는 피해자에게 심각한 정신적, 사회적 피해를 초래합니다. 예를 들어, 동의 없이 배포된 이미지는 피해자의 명예를 훼손하며, 직장이나 대인 관계에서 신뢰를 잃게 만듭니다. 특히 딥페이크는 실제와 구분하기 어려운 가짜 영상을 만들어 피해자가 자신의 이미지를 통제하지 못하게 합니다. 이는 심리적 트라우마나 극단적으로 자살 충동과 같은 결과를 초래할 수 있으며, 소셜 미디어 확산으로 사회적 낙인과 차별을 증폭시킵니다.

 

미국에서 있었던 대표적인 사례를 몇 가지 언급해 보면... 

• Gal Gadot 사례 (2017) : 원더우먼으로 잘 알려진 이스라엘 출신 배우 겔 가돗의 얼굴이 포르노 배우의 몸에 합성되어 공개된 사례가 있었고, 이는 결국 캘리포니아와 뉴욕 주의 딥페이크 관련 법안 도입에 영향을 미쳤다고 합니다.
• 테일러 스위프트 사례 (2024) : 팝스타 테일러 스위프트의 딥페이크 이미지가 X에서 확산되어 문제가 되기도 했습니다. 

우리나라의 경우, 피해자가 주로 여성과 미성년자로, 텔레그램과 같은 추적이 어려운 플랫폼을 통해 진행되는 경우가 많다고 합니다. 2023년 964건의 딥페이크 성범죄 중 23건만 체포로 이어질 정도로 수사와 처벌도 미흡한 상황이구요. 참고로 현재 국내에서는 2024년 9월 딥페이크 포르노의 소지 및 시청을 불법화하여 최대 3년의 징역, 제작과 유포는 최대 7년의 징역으로 처벌을 강화했습니다. 

 

왜 이런 문제가 계속 이어질까?

 

딥페이크와 리벤지 포르노 문제가 지속되는 이유는 기술의 접근성과 익명성에 있다고 볼 수 있습니다. AI 도구는 점점 정교해지고, 누구나 쉽게 딥페이크 콘텐츠를 제작할 수 있습니다. 온라인 플랫폼의 익명성은 가해자가 책임을 회피하게 만들며, 소셜 미디어 기업의 느슨한 콘텐츠 관리는 문제를 악화시킵니다. 이번 미국의 법안은 플랫폼에 책임을 부여하긴 하나, 실질적으로 기술 발전 속도를 규제가 따라잡기란 쉽지 않을 것 같습니다. 해결해야 하는 숙제는 어어지기 때문에 지속적으로 국내/글로벌 간의 협력이 필요할 것입니다. 국내에서 문제되는 경우도 대부분의 서비스가 해외에 있는 서버에서 제공되는 경우가 많으니까 말이죠.

 

동시에 이런 것으로 경제적인 이익을 볼 수 있는 구조도 문제가 있습니다. 잡히더라도 솜방망이 처벌을 받는 헛점도 있구요. 최근 보면 무분별하게 유튜브 상에 가짜 영상, 유인 영상을 올려대는 사례가 많이 있지만 개별적인 법적 대응 대신 유튜브 수익화를 막았을 때 더 큰 효과가 생겼다는 사실도 딥페이크 문제에 대해서 어떻게 접근해야 할 지에 대한 한 아이디어가 될 수 있을 것 같습니다. 

 

우리나라에 미칠 영향은?

우리나라에서도 딥페이크와 리벤지 포르노는 심각한 문제로 대두되고 있습니다. 미국의 '테이크 잇 다운 법안'은 한국에 중요한 시사점을 제공합니다. 'n번방 사건'과 같은 디지털 성범죄로 인해 이미 강력한 대응이 논의되고 있으나, AI 기술 오용에 대한 구체적인 규제는 부족합니다. 미국의 사례는 플랫폼 책임 강화와 피해자 보호 조치를 촉진하는 계기가 될 수 있습니다. 

 

---

 

AI 기술은 무한한 가능성을 열어 주지만, 그 오용은 심각한 피해를 초래합니다. 미국의 이번 법안은 기술의 어두운 그림자를 해결하려는 첫걸음입니다. 하지만 이는 시작일 뿐이며, 개인, 기업, 정부의 협력이 필요할 겁니다. 폐해가 너무 커지면 그로 인한 규제가 강화되므로, 문제가 발생한 초기에 빠르게 대응해서 '사회적인 합의'를 사람들이 받아들일 수 있도록 하는 것이 필요할 것 같습니다. 주주의 국가에서는 서로 다른 요구를 하는 양쪽의 균형을 맞추는 것은 정말 쉬운 일이 아닌 것 같습니다. 

 

자신의 삶을 스스로 결정할 권리가 있다는 측면은 동의합니다. 하지만, '나의 자유나 권리' 주장이 '상대방의 자유나 권리'를 침해할 수도 있으니 혼자 따로 떨어져 살지 않는 한 서로 간의 경계를 인정하고 이를 통제하기 위한 규범을 지키는 것에 동의하는 것은 당연하겠죠. 저는 개인적으로 좀 더 나아가서 'Fine City'라 불리는 싱가포르처럼 아주 강력한 처벌을 통해 사전에 발을 못 붙이도록 하는 것이 더 좋다는 생각입니다. 지금의 우리 사회에서는 쉽게 받아들여지지 않겠지만요... 

 

갑자기 떠오른 생각~ 브루나이...

'아주 강력한 처벌이나 규제'를 떠올리다 뜬금없이 브루나이를 떠올렸습니다. 얼마 전 브루나이와 관련된 영상을 본 적이 있었거든요. ^^;

 

브루나이는 동남아에 있는 보르네오 섬(세계에서 3번째 큰 섬)에 있는 작은 나라로 술탄(정치 지도자, 국가원수의 개념으로 왕에 해당)이 통치하고 있습니다. 연식이 오래되신 분들은 '보르네오'라는 가구 브랜드를 기억하시겠지만 젊은 분들은 대부분 잘 모르실 것테죠. 그런데다가 이 나라가 동남아 최부국 가운데 하나라는 얘기를 들으면 '엥?' 하며 고개를 갸웃하실 수도 있습니다. 대부분 싱가포르를 떠올리실테니까요. 실제로 브루나이는 IMF가 선정한 구매력 평가 기준 1인당 GDP가 세계에서 네 번째로 높은 국가라고 합니다!

그림 : 브루나이는 보르네오섬 북부에 위치한 작은 나라

 

실제 브루나이는 동남아의 소국이지만 천연가스와 원유로 막대한 부를 얻은 국가로 철저한 이슬람 왕정 국가이기도 합니다. 국민들 가운데 70% 가량을 차지하는 무슬림 말레이인에 대해서는 교육, 의료 등이 거의 무상으로 제공되며 저렴한 주거, 세금 면제 등 복지제도도 잘 발달되어 있죠. (참고로 나머지는 이민자, 화교 등인데 차별이 심하다고 합니다)

 

이 나라의 경우, 술, 담배, 도박 등이 전면 금지되어 있고 표현의 자유, 집회의 자유는 제한적이며 정부 비판도 금기시되고 인터넷과 미디어도 검열된다고 합니다. 하지만... 의외로 국민 대다수(앞서 언급한 무슬림 말레이인)는 높은 생활 수준과 복지, 그리고 사회, 문화적인 관심으로 인해 큰 불만이 없이 살아간다고 합니다. 결이 좀 다르긴 하지만 싱가폴의 사례도 비슷하지 않나 싶습니다.