오픈AI가 이미지 생성 인공지능(AI) 모델에 대한 콘텐츠 정책을 변경하며, 그동안 제한해왔던 민감한 이미지 생성에 대한 규제를 대폭 완화했다. 이에 따라 유명인 묘사나 혐오 상징 표현 등이 AI를 통해 생성될 수 있게 돼, 창의적 자유 확대와 함께 부작용에 대한 우려도 커지고 있다.
조앤 장 오픈AI 모델행동 총괄은 지난 27일(현지시각) 블로그와 소셜미디어 엑스(X·옛 트위터)를 통해, 최근 출시된 ‘챗GPT-4o 이미지 생성’ 모델에 맞춰 콘텐츠 정책을 조정했다고 밝혔다. 그는 이번 조치가 “포괄적인 거부에서 실질적인 피해 방지로의 전환”이라고 설명했다.
장 총괄은 “AI 연구소가 이용자들이 무엇을 만들지 결정하는 중재자가 되어서는 안 된다”며 “실질적인 피해를 방지하면서도 창의적 자유를 극대화하는 방향으로 정책을 수정했다”고 말했다.
이로 인해 그동안 AI 생성이 제한됐던 공인 이미지, 특정 집단을 모욕할 수 있는 표현, 혐오 상징 등도 허용되는 범주에 포함됐다. 특히 유명인 이미지와 관련해서는, 특정 인물을 ‘충분히 중요한 사람’으로 판단해 차별적인 기준을 적용하는 대신, 생성에 반대하는 당사자가 직접 ‘옵트-아웃’ 방식으로 제외 요청을 해야 제한이 걸리는 방식으로 변경됐다.
예를 들어, 사용자가 “이 사람을 좀 더 아시아인처럼 보여달라”거나 “더 뚱뚱하게 만들어달라”는 요청을 해도, 이전처럼 자동으로 거부되지 않고 이미지 생성이 가능해졌다고 장 총괄은 설명했다. IT매체 테크크런치도 챗GPT-4o 이미지 생성기를 테스트한 결과, 실제로 이러한 요청들이 수용되는 것을 확인했다고 보도했다.
또한 나치의 상징인 스와스티카 문양도 교육적·문화적 맥락에서 사용될 수 있다는 이유로 완전한 금지 대상에서 제외됐다. 장 총괄은 “유해한 오용은 기술적으로 식별하고 거부할 수 있도록 반복적으로 개선하고 있다”고 강조했다.
테크크런치는 “이제 챗GPT는 도널드 트럼프, 일론 머스크 등 이전에는 제한됐던 유명 인사들의 이미지 생성도 가능해졌다”며, “AI 콘텐츠를 둘러싼 문화적 논쟁이 본격화될 수 있다”고 전했다.
한편, 오픈AI의 챗GPT-4o 이미지 생성기는 일본 애니메이션 제작사 ‘스튜디오 지브리’ 스타일을 모방한 이미지로 이용자들의 관심을 끌었으나, 저작권 침해 논란도 함께 제기된 바 있다.
- 경찰, 4월 이륜차 헬멧 미착용 집중단속
- 이틀 앞으로 다가온 4·2 재보선… 23곳 중 2곳은 당선인 확정
- 경찰, 4월 한달간 불법무기류 자진신고 기간 운영
- 화성 태행산 정상에 폐오일 뿌린 60대 자수 “백패킹족 때문에… 방화 시도 아냐”
- 경찰 “백혜련 의원 계란 투척 사건, 아직 용의자 특정 못 해”
