방미통위, AI 거짓정보 판별 캠페인 10~11월 전개…진짜 대 가짜 퀴즈·확인템 챌린지

톱셀럽(topceleV) 2026년 10월 02일 오후 09:21 조회수

국민 10명 중 4명이 생성형 AI를 써 본 시대에 들어서면서 정부의 대응도 사업자 규율에서 이용자 역량 강화로 넓어지고 있다. 올해 1월 22일 시행된 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)이 생성형 AI 결과물에 AI 생성 사실을 표시하도록 의무화한 데 이어, 방송미디어통신위원회는 9월 30일 AI 생성물 게시자의 표시 의무와 포털·플랫폼의 관리 책임을 담은 정보통신망법 개정 방침을 내놨다. 여기에 정보를 받아 보는 이용자가 스스로 진위를 가리는 습관을 들이도록 하는 공공 캠페인이 더해진다.

방송미디어통신위원회(방미통위)는 10월과 11월 두 달 동안 인스타그램과 유튜브를 비롯한 자체 SNS 전 채널에서 ‘AI 시대, 확인템 장착이 국룰!’ 캠페인을 진행한다고 10월 1일 발표했다. 생성형 AI로 만들어진 거짓 정보가 퍼지거나 범죄에 악용되는 위험을 알리고, 정보를 그대로 믿기보다 한 번 더 확인하고 의심하는 습관을 국민이 갖도록 하는 것이 목적이다. 확인템은 확인하는 아이템, 국룰은 누구나 지키는 규칙을 뜻하는 신조어로, 캠페인은 SNS와 생성형 AI 이용률이 높은 MZ세대와 청소년을 중점 대상으로 삼으며 참여를 끌어내기 위한 상품과 쿠폰도 준비된다.

10월에는 ‘진짜 대 가짜’ 판별 퀴즈가 카드뉴스와 숏폼 영상으로 순차 공개된다. 온라인에서 흔히 접할 수 있는 사례를 바탕으로 실제 정보와 조작된 정보를 나란히 보여주고 이용자가 어느 쪽이 진짜인지 직접 가려보는 방식이다. 11월에는 참여형 ‘확인템 장착 챌린지’가 이어진다. 이용자가 자신만의 정보 확인 방법을 숏폼이나 카드뉴스로 만들어 소개하는 활동으로, 별도로 운영되는 확인템 인증 사이트에 사진을 올리면 캠페인 상징 배지가 자동으로 합성된다. 완성된 이미지를 자신의 SNS에 공유해 인증한 참여자 가운데 선착순 1,000명이 쿠폰을 받는다.

방미통위는 캠페인 기간에 생성형 AI가 만든 정보를 접했을 때 이용자가 스스로 점검할 수 있는 거짓 정보 판별 체크리스트와 불법합성물(딥페이크) 관련 유의사항을 카드뉴스로 제작해 배포한다. 이용자가 생성형 AI 서비스에서 겪은 위험성이나 부작용을 제보하면 해당 내용을 사업자에게 전달하고 필요 시 개선을 요청하는 ‘생성형 AI 이용자 참여 플랫폼’의 이용 방법도 함께 안내한다.

캠페인과 별도로 방미통위는 5월부터 ‘AI서비스 이용자 보호 민관협의회’ 2기를, 6월부터 ‘AI 범죄 대응 범부처 협의체’를 운영하고 있다. 민관협의회 2기는 5월 12일 학계·산업계·법조계·시민단체 전문가 35명으로 출범해 이원우 서울대 법학전문대학원 교수가 위원장을 맡았고, AI 서비스 안에서의 아동·청소년 보호를 첫 의제로 다뤘다. 범부처 협의체는 6월 26일 방미통위와 과학기술정보통신부, 법무부, 경찰청 등 10개 기관이 참여한 첫 회의에서 딥페이크 성착취와 AI 금융사기, AI 허위·부당광고에 대응하는 ‘AI 범죄 근절 종합 대응계획’을 논의했으며, 방미통위는 이 계획을 국가AI전략위원회 등과 협의를 거쳐 발표할 예정이다.

반상권 방미통위 대변인은 “생성형 인공지능서비스가 고도화되며 국민 생활 깊숙이 확산되고 있는 만큼 스스로 정보를 확인하고 의심하는 습관이 중요하다”며 “이번 캠페인을 통해 국민이 안심하고 신뢰할 수 있는 인공지능 이용 환경을 만드는 계기가 되길 바란다”고 말했다.

캠페인의 배경이 된 수치도 있다. 방미통위와 정보통신정책연구원(KISDI)이 5월 28일 발표한 ‘2025년 지능정보사회 이용자 패널조사’에 따르면 만 18~72세 응답자 4,324명 가운데 38.9%가 생성형 AI를 이용한 경험이 있다고 답했다. 2023년 12.3%, 2024년 24.0%에 이어 3년 연속 늘어난 수치로, 이용 경험자의 하루 평균 이용 시간은 49.6분이다. 같은 조사에서 생성형 AI 역기능에 대한 우려는 모든 항목에서 높아져 허위정보 유포 우려는 전년보다 9.6%포인트, 범죄 악용 우려는 9%포인트, 진위를 구별하기 어려운 콘텐츠 생성 우려는 8.9%포인트 올랐다.

이번 캠페인은 방미통위가 발표 전날인 9월 30일 의결한 ‘제1기 비전 및 주요 시책’과 같은 방향에 놓여 있다. 방미통위는 해당 비전에서 AI 생성물을 게시하는 이용자에게 표시 의무를 지우고 표시를 훼손하거나 위·변조하지 못하도록 하며, 포털·플랫폼 사업자에게는 표시 여부를 관리할 의무를 부과하는 정보통신망법 개정을 추진하겠다고 밝혔다. 추천 알고리즘의 작동 원리와 변경 사항을 약관과 투명성 보고서로 공개하도록 하는 개정도 함께 추진하며, 목표 시점은 내년 6월이다. 방송사가 AI를 활용할 때 인간의 최종 검증과 책임을 원칙으로 하고 AI 생성 콘텐츠를 화면이나 음성으로 표시하도록 하는 ‘방송 분야 AI 활용 윤리원칙’은 12월에 마련한다. 캠페인 발표 당일에는 개정 정보통신망법에 따라 대규모 정보통신서비스 제공자의 투명성 보고서 검증과 민간 사실확인 활동을 지원하는 ‘정보통신서비스 투명성센터’가 시청자미디어재단 안에 출범했다. 생성·유통 단계는 표시 의무와 플랫폼 책임으로, 이용 단계는 판별 습관으로 대응하는 구조다.

버추얼 콘텐츠 업계에도 무관하지 않은 흐름이다. AI 기본법은 생성형 AI 결과물에 AI 생성 사실을 표시하도록 하되, 실존 인물을 기반으로 한 딥페이크에는 눈에 보이는 표시를 요구하고 웹툰·애니메이션처럼 비교적 식별이 쉬운 생성물에는 눈에 보이지 않는 디지털 워터마크를 허용하며, 정부는 제도 안착을 위해 1년 이상의 계도기간을 두기로 한 상태다. 방미통위 1기 비전에는 생성형 AI 사전 시각화와 AI VFX·디지털 휴먼 등 콘텐츠 제작 단계별 기술 개발을 지원하고, 중소·영세 방송사업자에 AI 기반 3D 배경과 자동 영상편집, AI 휴먼 제작 솔루션 도입 비용을 바우처로 지원하는 내용도 담겼다. AI로 만든 영상과 음성을 제작에 활용하는 버추얼 스트리머·버추얼 아이돌 제작사로서는 제작 지원책과 표시·고지 의무가 동시에 구체화되는 셈이다.

범부처 협의체의 AI 범죄 근절 종합 대응계획 발표와 내년 6월을 목표로 한 정보통신망법 개정이 예고된 만큼, AI 생성물을 만드는 쪽에는 표시 의무가, 받아 보는 쪽에는 확인 습관이 함께 요구되는 국면이다.