딥페이크와의 전쟁…네이버 ‘경고 노출’ vs 카카오 ‘워터마크’

209

[아이뉴스24 정유림 기자] 네이버와 카카오가 딥페이크(AI로 만든 영상·이미지 합성 조작물)와의 전쟁에 나섰다. 4월 치러지는 국회의원 선거를 앞두고 악용 우려가 큰 딥페이크에 대한 대책을 마련한 것이다. 자사 인공지능(AI) 서비스가 부적절한 콘텐츠 제작에 악용되지 않도록 하는 방안도 준비했다.

네이버·카카오 로고 [사진=네이버·카카오]

24일 네이버에 따르면 회사는 딥페이크 관련 키워드 검색 결과에 경고나 주의 문구를 노출하는 방안을 검토하고 있다. ‘딥페이크 사이트’나 ‘딥페이크 만드는 방법’처럼 딥페이크라는 단어가 들어가거나 연관 있는 단어를 이용자가 검색했을 때 주의를 환기하는 형태가 예상되고 있다.

네이버 관계자는 “기존에도 블로그나 카페 등에 부적절한 콘텐츠를 게재해서는 안 된다거나 상대방의 권리를 침해하면 안 된다는 취지의 안내를 해왔는데 딥페이크와 관련해서도 피해를 막기 위해 다양한 방안을 고려하는 것의 일환”이라고 설명했다.

자사의 AI 모델이나 서비스가 엉뚱하게 악영향을 미칠 수 있다는 판단에 따라 사전 대책도 마련했다.

네이버는 자사 AI 서비스 클로바X에서 음란성 콘텐츠나 얼굴 합성을 요청하는 경우 결과물(답변)을 제공하지 않도록 했다. 클로바X는 이용자가 질문하면 네이버의 AI가 적합한 답변을 제공하는 대화형 AI 서비스다. 클로바X에서 이미지 삭제나 변경이 가능한 편집 기능을 제공하게 되면서 AI에 부적절한 콘텐츠 생성을 요청하는 경우와 관련해 조치를 취한 것이다.

카카오도 4월 총선을 앞두고 딥페이크 게시물의 정치적 악용을 차단하기 위해 총력을 기울이고 있다. 카카오의 AI 전문 자회사 카카오브레인은 자체 개발한 이미지 생성 AI 모델 ‘칼로’에 비가시성 워터마크 기술 도입을 검토 중이다. 비가시성 워터마크란 일반 이용자에게는 워터마크가 보이지 않지만 기술적으로 AI를 활용해 만들어진 이미지임을 알 수 있게 하는 기술을 말한다.

카카오 관계자는 “AI가 만든 콘텐츠(이미지)의 출처나 진위 판단을 위한 워터마크 도입 논의가 이뤄지면서 카카오도 관련 연구를 진행해 왔다”며 “구체적인 일정은 미정이지만 최대한 빠르게 기술 도입을 하려고 한다”고 설명했다.

올해는 우리나라를 비롯해 전 세계적으로 큰 선거를 앞두면서 구글과 메타(구 페이스북) 등 대형 기술 기업들이 대응책을 마련하고 있다.

메타는 지난 6일(현지시간) 자체 AI 도구 ‘메타 AI’를 사용해 만든 이미지에 ‘이매진드 위드 AI'(Imagined with AI)라는 꼬리표(라벨)을 붙이겠다고 밝힌 바 있다. AI 콘텐츠를 식별하는 공통 기술 표준을 마련하기 위해 업계 파트너들과 협력하고 있다고 덧붙였다. 구글도 지난 1일 자사 AI 챗봇 서비스에 이미지 생성 기능을 추가하면서 AI 조직인 딥마인드가 개발한 워터마크를 적용하기로 했다.

+1
0
+1
0
+1
0
+1
0
+1
0