오늘 '서울대 N 번 방' 사건의 공범이 1심 재판에서 징역 5년을 선고받았습니다. 이 사건은 대학 동문들이 딥페이크 기술을 활용하여 여성의 얼굴을 합성한 음란물을 제작하고 유포한 사건으로 딥페이크 기술이라는 인공지능 기술을 이용하여 음란물 제작 및 유포한 악용사례입니다.
딥페이크란?
딥페이크(Deepfake)기술은 딥러닝 알고리즘을 활용하여 사진, 영상, 음성 등의 매체에서 사실과 구분하기 힘든 가짜 콘텐츠를 생성하는 기술입니다.
이 기술은 예술, 엔터테인먼트, 의료 등 다양한 분야에서 혁신전인 결과를 가져왔지만, 동시에 심각한 윤리적 문제와 사회적 영향력을 불러일으키고 있습니다.
딥페이크의 긍정적 활용 사례
| 1 | 디지털 디에이징: 제미니 맨(Gemini) | 디지털 디에이징 기술을 활용하여 배우들의 젊은 모습을 구현할 수 있습니다. 영화 " 제미니 맨"에서는 주인공을 맞은 윌 스미스의 젊은 시절의 모습을 딥페이크로 구현하였습니다. 이러한 기술은 배우들이 연기하는 데에도 활용되며, 과거의 모습을 현대적으로 복원하는 데에도 큰 도움을 됩니다. |
| 2 | 신변보호 : 버츄얼 휴먼 | SBS의 프로그램 " 그것이 알고 싶다"에서는 딥페이크를 통해 피해자의 얼굴을 보호하면서도 감정을 생생하게 전달하는 방식으로 활용하여 범죄자의 얼굴을 딥페이크로 가려 신원을 보호하거나, 피해자의 얼굴을 보호하면서도 감정 표현을 살리는 데에도 활용될 수 있습니다. |
| 3 | 질병 예방 : 이미지 패턴 캐칭 | 딥페이크를 의료 분야에 적용하여 암 진단과 같은 이미지 패턴 매칭 기술을 개발했습니다. 정확한 딥페이크 의료 영상을 활용하여 인공지능이 질병을 정확하게 학습하고 진단할 수 있게 되었습니다. 이를 통해 의료진은 빠르고 정확한 진단을 내릴 수 있으며, 환자의 생명을 보호할 수 있습니다. |
| 4 | 새로운 추모 방식 : 딥노스텔지아 | 마이페리티이(MyHeritage)에서는 딥페이크를 통해 고인의 모습을 현식적으로 재현하는 딥노스텔지아 서비스를 제공합니다. 생전의 사진이나 그림을 딥페이크로 자연습럽고 생동감 있게 복원하여 추모의 새로운 방식을 제공합니다. 이를 통해 고인을 기리고 가족들에게 위로를 전할 수 있습니다. |
| 5 | AI 음악 프로젝트 : 다시 한 번 | AI 음악 프로젝트 "다시 한번"에서는 딥페이크와 음성 복원기술을 결합하여 그리운 가수들의 목소리와 완전체 모습을 다시 볼 수 있게 했습니다. |
딥페이크의 대표적인 악용 및 범죄 사례
| 1 | 음란물 제작 | 딥페이크는 성인물 영상을 제작하는데 쓰이는 경우가 많습니다. 유명한 연예인의 얼굴을 합성하여 음란물을 제자하고 배포하거나 서울대 N번방 같은 범죄가 빈번하게 발생하여 사회적 문제를 일으키고 있스빈다. |
| 2 | 보이스피싱 또는 사기 | 특정인의 목소리나 얼굴을 합성하여 지인에게 연락하여 송금을 받거나 돈을 건네받는 경우도 있습니다. |
| 3 | 정치조작 | 딥페이크인해 정치적 혼란이 발생할 수 있습니다. 정치인의 얼굴이 합성되어 가짜 뉴스를 만들거나 조작된 영상이 확산되는 문제가 있습니다. |
딥페이크를 이용한 서울대 N번방 사건
서울대 졸업생을 포함한 남성들이 여성 지인들의 사진을 음란물과 합성해 유포한 사건으로 확인된 피해자만 60여 명에 달하며, 이 가운데 서울대 동문 12명도 포함되었다. 이 사건에 연루된 박 모씨는 허위 영상물 400여 개를 직접 제작하고, 피해자 얼굴등을 들어간 사진과 여상 1,700여 개를 텔레그램을 통해 게시하거나 전송했다고 한다. 2024년 8월 28일 1심에서 법원을 징역 5년의 실형을 선고했다.
재판부는 " 일상을 촬영하고 기록으로 남기기 위해 SNS에 게시하는 현대인의 일상적 행위가 범죄 대상이 돼 허위 영상물로 편집, 제작돼 평범하고 평화로운 일상이 성범죄 표적이 됐다는 사실을 알게 된, 또는 알게 될 피해자가 느낄 불쾌감 및 정신적 충격을 헤아릴 수 없다"라고 했다.
딥페이크의 법적 처벌 및 관련 법
딥페이크 범죄에 대한 처벌은 명예훼손, 사기, 초상권 침해 등으로 처벌을 받을 수 있다. 특히 아동이나 미성년자를 대상으로 한 음란 영상의 경우는 시청하고 소지한 것 만으로도 강력한 처벌을 받을 수 있다. 이와 관련도 법규정은 개인정보보호법, 성폭력 범죄의 처벌등에 관련 특례법, 명예훼손 등 다양한 처벌의 근거를 마련하고 있다.
결론
칼이 요리사의 손에 있으면 맛있는 요리를 할 수 있는 도구가 되고, 살인자의 손에 있으면 살인도구가 된다.
딥페이크라는 새로운 기술로 당신은 어떻게 사용하실건가요?
서울대 N 번 방 사건을 계기로 딥페이크라는 기술을 악용사례가 사회의 큰 충격을 주고 있다.
딥페이크라는 기술도 발전함에 따라 인공지능의 윤리적 정책의 수립 법적 제도의 강화가 필요하다.
하지만 무엇보다 기술을 사용하는 창작자들이 개인의 윤리를 가지고 사회에 좋은 영향을 끼치는 양질의 콘텐츠를 생산하려는 마음을 가져야 할 것이고, 또한 사용자들은 정보를 판별할 수 있는 능력을 키우고 딥페이크의 위험성을 인식하여야 할 것이다.