[이미지 촬영=대한민국청소년기자단 장혜수 대학생기자] 

인공 지능 기술을 활용해 기존 인물의 얼굴이나, 특정 부위를 합성할 수 있는 영상 편집 기술, 딥페이크. 이러한 딥페이크를 이용한 범죄가 잇따르자 지난해 6월 ‘딥페이크 처벌법’이 시행되었다. 하지만 최근, 딥페이크 처벌법이 딥페이크 범죄를 막지 못한다는 비난이 일고 있다.

딥페이크 처벌법이 시행되고 경찰에 붙잡힌 딥페이크 범죄 피의자 45명 중 기소가 된 건 단 5명으로 기소율이 겨우 10% 수준에 머무는 것으로 확인됐다. 개정된 '성범죄 특례법'에 따라 딥페이크 범죄를 처벌할 수 있게 됐지만 실제로 처벌받는 사례는 극히 드문 것이다.

이러한 저조한 기소율 아래 딥페이크 피해는 끊이지 않고 있다. 최근, 해외 인터넷 채팅앱 ‘디스코드’에서 여성 연예인뿐 아니라 일반인을 합성한 딥페이크 음란물이 판매되고 있는 정황이 드러나 큰 충격을 주었다. 이에 여성 연예인을 합성한 딥페이크 음란물을 엄벌해달라는 청와대 국민청원이 40만 명 이상의 동의를 받는 등 딥페이크 범죄에 대한 강력한 수사와 처벌을 촉구하는 목소리가 높아지고 있다.

많은 여성단체는 이렇게 딥페이크 처벌법이 시행됐음에도 딥페이크 범죄가 기승을 부리는 이유를 딥페이크 처벌법이 가진 근본적인 문제 때문이라고 입을 모아 말한다. 그들은 딥페이크 처벌법에 딥페이크 성착취물을 제작, 유포한 이들에 대한 처벌 규정만 있을 뿐, 구매하거나 소지한 이들에 대한 처벌 규정은 없는 것이 그 근본적인 문제라고 말한다.

실제 딥페이크 처벌법에 따르면 딥페이크 기술을 활용하여 음란물을 제작하거나 반포했을 경우나 이를 영리적인 목적으로 판매, 유포했을 경우 5년 이하의 징역형 또는 5,000만 원 이하의 벌금형에 처한다. 구매자나 소지자에 대한 처벌 규정, 딥페이크 성착취물 제작 의뢰자에 대한 처벌 규정은 찾아볼 수 없다.

전창배 한국인공지능윤리협회 이사장은 “딥페이크 악용 사례들이 계속 발생하고 있는 이유는 아직 많은 사람이 딥페이크가 무엇이고, 왜 악용하면 안 되는지, 악용했을 때 어떤 피해가 발생하는지에 대해 잘 모르고 있기 때문입니다. 특히 청소년들은 큰 죄책감 없이 단순히 재미로 이런 기술을 악용하는 범죄행위를 저지를 수 있습니다.”라고 말했다.

또한 이러한 딥페이크 피해를 줄이기 위해선 법적 처벌과 제도화도 중요하지만, 근본적으로 ‘인공지능 윤리 교육’이 매우 중요하고 시급하다고 지적했다. 이에 전창배 이사장은 “초중고등학교 학생들, 대학생, 일반 시민들에게도 교육을 통해 인공지능 윤리가 무엇이고 왜 중요하고 인공지능 기술을 어떻게 만들고 사용하는 것이 옳은 것인지를 지속적으로 가르치고 교육해야 합니다. 또한 AI기술이 발전할수록 또 다른 AI윤리 문제가 생길 수 있기 때문에 AI기술의 발달과 함께 AI윤리 교육도 지속해서 이루어져야 딥페이크와 같은 범죄를 예방할 수가 있습니다.”라고 말했다.

한국인공지능윤리협회에서는 딥페이크에 대해 정확히 알리고 악용해서는 안 된다는 점을 명확히 인식시키기 위한 목적으로 현재 ‘딥페이크 추방 캠페인’을 펼치고 있다.

[대한민국청소년기자단 IT·과학부= 2기 대학생기자 장혜수]