흉악범의 얼굴과 음성을 인공지능(AI)으로 학습해 만든 가짜 영상과 이미지가 국내 소셜미디어를 통해 급속히 확산되면서 피해자 2차 가해와 범죄 희화화 논란이 동시에 불거지고 있다. 한국에서 시작된 이 흐름은 영문 매체를 통해 해외에까지 보도되며 글로벌 차원의 AI 콘텐츠 규제 논의로 번질 조짐을 보이고 있다.
지난 5월 2일 뉴시스, 파이낸셜뉴스, 머니투데이 등 다수 매체에 따르면 유튜브, 틱톡, 인스타그램 등 주요 플랫폼에는 죄수복을 입은 강력 범죄자들이 교도소에서 식사를 하거나 시설 안을 돌아다니는 모습을 AI로 구현한 영상이 ‘교도소 근황’ ‘교도소 식사’ 등의 제목을 달고 유포되고 있다. 신상이 공개된 범죄자들의 사진과 음성 데이터를 학습한 결과물로, 실제 영상과 구분이 어려운 수준으로 정교하게 제작됐다.
대표적인 사례는 ‘n번방’ 사건의 주범 조주빈을 등장시킨 영상이다. 죄수복 차림의 조주빈이 카메라를 향해 “오늘은 제가 제일 좋아하는 치즈돈가스가 나왔다”, “이러니 제가 살을 뺄 수가 없다”는 식으로 너스레를 떠는 장면이 연출됐다. ‘계곡 살인 사건’의 가해자 이은해가 “된장국에 돼지갈비찜이 나왔는데 식재료가 중국산이라 맛없다”고 불평하는 영상도 같은 방식으로 만들어졌다. 일부 영상은 조회수가 수백만 회에 달하며 한 영상의 경우 약 260만 회까지 기록한 것으로 전해졌다.
여기에 ‘청주여자교도소 5인방’이라는 제목으로 여성 강력범 5인을 한데 모아 정면을 응시하는 모습으로 합성한 AI 화보도 확산됐다. 화보에는 계곡 살인 사건의 이은해, 또래 토막 살해 사건의 정유정, 전 남편을 살해한 뒤 시신을 유기한 고유정, 약물이 든 음료로 남성 2명을 살해한 김소영, 남편과 내연남을 약물로 살해해 사고사로 위장한 뒤 보험금을 챙긴 ‘엄 여인 사건’의 엄인숙 등이 나란히 배치됐다. 이은해 사진에 “계곡 갈래?”, 고유정 사진에 “카레 먹고 갈래?” 등의 문구를 합성한 게시물도 함께 유통됐다.
해당 콘텐츠를 접한 누리꾼들은 “사형시켜라”, “세금 아깝다”, “소름 돋는다” 등의 비판을 쏟아냈지만, 동시에 밈(meme) 형태로 빠르게 소비되면서 범죄 자체가 오락거리로 변질됐다는 우려가 확산되고 있다. 피해자와 유족 입장에서는 가해자의 얼굴과 이름만 봐도 트라우마가 자극될 수 있는 상황에서, 명예나 초상권을 침해당하는 주체가 자신이 아닌 가해자이기 때문에 직접 법적 대응에 나서기도 어렵다는 지적이 나온다. 범죄자가 친근한 캐릭터처럼 묘사되면서 범죄의 심각성이 희석된다는 비판도 제기됐다.
문제는 이러한 콘텐츠를 직접 제재할 법적 근거가 사실상 부재하다는 점이다. 현재 방송미디어통신심의위원회가 플랫폼 사업자에 삭제·접속차단을 요청할 수 있을 뿐이며, 경찰 역시 관련 법령 적용이 쉽지 않다는 입장이다. 전문가들은 해당 콘텐츠가 명예훼손이나 초상권 침해 소지가 있는 만큼 AI 활용에 대한 명확한 원칙과 기준을 입법으로 마련해야 한다고 강조하고 있다. 이번 사안은 영문 경제지 서울경제 영문판(Seoul Economic Daily)을 통해 해외에도 보도되며 ‘AI 딥페이크’ ‘K-크라임’ 등의 키워드로 글로벌 주목을 받고 있다.
이번 논란은 지난 1월 22일 시행된 한국 인공지능기본법의 사각지대를 그대로 드러냈다는 분석도 나온다. 인공지능기본법은 딥페이크 등 실제와 구분하기 어려운 AI 생성물에 표시 의무를 부과하고 위반 시 최대 3000만 원 이하의 과태료를 부과하도록 규정했지만, 시행 후 1년간 규제 유예 기간을 두고 있어 사실상 즉각적 단속이 어려운 상황이다. 또한 이번 사례처럼 사망하지 않은 실존 범죄자를 대상으로 한 풍자성 콘텐츠는 음란물·정치적 허위정보 중심으로 설계된 기존 규제 틀에서 벗어나 있어, AI 생성 콘텐츠의 윤리·법적 경계를 둘러싼 새로운 사회적 합의가 시급하다는 목소리가 커지고 있다.
