[아이뉴스24 정유림 기자] 한국인터넷기업협회 회원사인 네이버와 카카오, SK커뮤니케이션즈는 악의적 선거 딥페이크(AI로 만든 영상·이미지 합성 조작물) 사용 방지를 위한 공동 선언을 채택했다고 8일 밝혔다.
이번 공동선언은 주요 IT 기업들이 선거에 영향을 미치기 위해 악의적으로 제작 편집한 딥페이크에 대응하기 위해 자발적으로 구성한 자율 협의체 활동의 일환이다. 제22대 국회의원 선거 기간 동안 참여 기업 간 협력 기조를 세우기 위해 마련됐다.
공동 선언문은 악의적 선거 딥페이크의 위험을 낮추기 위한 탐지·신속한 조치 노력을 기울이고 대응 정책 공개 등을 통해 대응 투명성을 높이며 확산 방지를 위한 논의, 정보·의견 교류 활성화 등의 내용을 담고 있다. 다양한 시민단체, 학계 등 외부 전문가와의 교류·논의, 악의적 선거 딥페이크에 대한 대중들의 인식을 높이기 위한 노력 등의 내용도 포함하고 있다.
공동 선언문 채택 기업들은 인공지능(AI) 생성 콘텐츠에 대한 플랫폼 운영 기조와 자율규제의 중요성을 공고히 하는 한편, 선거 관련 허위 정보 신고 채널 운영, 딥페이크 주의 안내 문구 표시 등 방안을 마련했다.
기업별로 제공하는 서비스의 형태가 다양해 각 특성에 따른 추가 조치 방안도 준비하고 있다. 네이버는 콘텐츠의 출처 정보를 확인할 수 있는 글로벌 기술 표준(C2PA) 채택 추진과 비가시성 메타 정보 피처 반영, 생성 콘텐츠를 탐지하는 기술 확보를 중장기 목표로 연구·개발 중이다.
카카오는 생성형 AI로 작성한 기사에 대해 AI 기술 적용 사실을 표시하고 생성형 AI 이미지 생성 모델 ‘칼로’에 비가시성 워터마크를 부착하는 기술 도입을 준비하고 있다. 포털 네이트를 운영하는 SK커뮤니케이션즈는 AI를 이용한 이미지 생성 시 주요 정치인의 이름에 관한 검색어 제한 조치를 통해 선거 관련 딥페이크 제작을 방지한다.
구글코리아, 메타(페이스북코리아), X(구 트위터코리아) 등 해외 기업들은 국내 기업들과의 자율 협의체 활동을 통해 제22대 국회의원 선거 기간 동안 대응에 동참한다.
협회 측은 “빅테크(대형 IT 기업)들은 뮌헨 협약을 통해 기만적 AI 선거 콘텐츠 대응 방침을 밝힌 바 있다”며 “기술 협정에 따라 이번 선언문을 채택한 국내 기업들과의 자율 협의체 활동에 참여할 것”이라고 설명했다.
