최근 인공지능을 통한 각종 프로그램이 유행인 가운데 이를 악용한 일부 어플리케이션 이나 웹사이트가 하나 둘 생겨나면서 많은 사람들이 걱정을 표하고 있습니다. 특히나 성과 관련된 범죄 기준이 애매모호하기 때문에 더욱이 정신적인 트라우마를 겪고있는 피해자들이 늘어나고 있다고 하는데요.
방문자만 무려 2,400만명…
지난 2023년 12월 10일 블룸버그통신은 서비스형 소프트웨어 기업 그래피카가 발표한 놀라운 소식을 전했는데요. ‘AI를 통해 옷을 벗기는 딥페이크 사이트’에 무려 한달동안 2,400만명이 넘는 인원이 방문했다는 것이죠.
거기다 (구 트위터)X와 레딧 등의 SNS에서 집행된 ‘AI 옷 벗기기 어플 광고’의 클릭은 2023년 초 대비 무려 2,400%가 늘어난 것으로 발표되었다고 합니다.
그렇다면 도대체 어떤 어플리케이션 이길래 이런문제를 야기하고 있는 것일까요?
사신속의 인물은 대부분 여성
최근 인공지능(AI) 기술이 현실적인 이미지 생성에 널리 활용되고 있습니다. 이 기술은 특히 여성 인물을 중심으로 활용되고 있는 것으로 보여집니다. 그러나 이와 관련해 AI 기술의 발전이 범죄에 악용될 수 있다는 우려가 제기되고 있습니다.
예를 들어, 소셜미디어에서 사람들의 사진을 동의나 통제 없이 사용하여 음란물로 만들고 배포하는 것과 같은 법적·윤리적 문제가 발생할 가능성이 있습니다. 이러한 상황은 AI 기술의 발전이 가져올 수 있는 부정적인 영향에 대한 중요한 논의를 촉발하고 있습니다.
유명인 뿐만이 아니라 힘없는 일반인도 표적대상…
이 기술은 유명 인사뿐만 아니라 일반인들의 사진까지 활용하여, 몇 번의 클릭만으로 사진 속 인물의 옷을 제거하는 것이 가능해졌다고 합니다. 이와 같은 기술의 발전은 개인정보 보호 전문가들에 의해 심각하게 우려되고 있습니다.
일렉트로닉 프론티어 재단의 에바 갈페린 사이버보안국장은 일반인을 대상으로 한 이러한 행위가 증가하고 있으며, 특히 학생들 사이에서 이런 일이 발생하고 있다고 지적했습니다.
이에 대응하여, 여러 플랫폼들이 조치를 취하고 있습니다. 예를 들어, 구글은 성적으로 노골적인 콘텐츠를 금지하고, 관련된 광고를 삭제하고 있다고 밝혔습니다. 레딧과 틱톡도 가짜 음란물의 동의 없는 공유를 금지하고 관련 키워드를 차단하는 등의 조치를 취하고 있습니다.
딥페이크는 AI를 기반으로 실제와 유사하게 얼굴이나 다른 부분을 조작할 수 있는 기술로, 딥러닝과 페이크(fake)의 합성어입니다. 이 기술의 부작용과 관련된 사회적, 법적 논의가 활발히 이루어지고 있습니다.
