[한백영의 생생 디자인] AI는 공정하지 않다: 첨단기술에 숨은 불편한 진실에 대하여

필자는 유행에 민감한 얼리어답터는 아니다. 하지만 하고 있는 업무적 특성 때문에 오픈AI의 ‘챗GPT’를 남보다 비교적 일찍 접했고, 작년부터는 아예 유료 구독 중이다.

호기심에 챗GPT를 시작했지만, 요즘은 챗GPT가 없으면 업무 진행이 안될 정도로 유용하게 활용하고 있다. 

유행에 굼뜬 필자조차 유료로 사용을 하고 있지만 의외로 최근까지 챗GPT를 구경도 안해 본 사람들이 꽤 있었다.아무래도 챗GPT는 전문적으로 필요한 사람들만 쓴다는 인식이 있었던 것 같은데, 이를 단숨에 뒤엎은 사건이 있었다.  

바로 ‘챗GPT’로 ‘지브리 이미지 만들기’ 광풍 사건이다.  

얼마전 부터, SNS를 지브리 스타일의 그림이 뒤덮기 시작했다. 지인들이 갑자기 지브리 이미지들을 올리기 시작했다. 하지만 필자는 처음엔 지브리에서 새로 만들고 있는 애니메이션의 예고편 쯤으로 여겼다.  

하지만, 이내 GPT 작품임을 알아차렸고, 이후에도 수많은 지브리 스타일의 이미지 들이 SNS를 가득 채웠다.  

필자도 가족사진을 지브리 스타일로 만들어 보았다.  

지난 3월 오픈AI는 GPT-4o 기반의 이미지 생성 기술을 공개했다. 기능적으로 어마어마하게 진보했는데, 기존 ‘미드저니’나 구글의 ‘이미지FX’ 등 이미지를 생성 AI를 압도할 수 있는 기능들을 선보였다.  

이후 월 이용자 수와 이용시간, 신규 가입자 수가 폭발적으로 늘었다. MAU(월간활성이용자수)는 전월 대비 31.6%(387만명)가 증가하였고, 신규 설치건수도 전월 대비 78.5%(144만건)증가했다.

특히 이 기능 출시 직후 일주일간 1억 3000만명의 이용자가 약 7억개 이상의 이미지를 만들었으며, 유료구독자가 450만명 증가하였고, 전체 가입자는 5억명을 넘어섰다고 한다. 

유료 구독자가 생각보다 적긴 하지만 지난해 말 1550만명에서 불과 3개월만에 30%쯤 증가했다. 상승세로 본다면 엄청나고, 불을 지핀 건 지브리 효과라고 이야기해도 과언이 아닐 것이다.  

오픈AI의 이번 이미지 생성의 기술이 기능적으로 엄청 진보하였기 때문에 사용자가 늘어난 것은 사실이지만, 필자는 사용자가 기술자체보다는 지브리 스타일의 이미지 만들기 같은 밈 때문에 GPT를 사용했고, 또 새로운 사용자도 늘어나지 않았을까 생각한다.

이와 관련해 오픈AI의 CEO 샘 알트먼이 지난 3월 27일 자신의 X(옛 트위터)에 너무 많은 사람들이 생성형 이미지를 만들어 내고 있어 자기 회사의 GPU가 녹아내리고 있다고 밝히기도 했다. 

그런데, 처음부터 궁금한게 있었다. 오픈 AI는 과연 지브리에게 저작권료를 지불했을까? 아니면 허락을 받았을까? 

자료를 찾아보니 허락 받은 적 없었고, 일본의 한 매체에서 지브리에 사실 확인을 했는데 지브리는 아무런 언급도 하지 않고 있다고 한다. 아마도 허락하지 않았다는 의미가 아닐까 싶다.

수상하고 궁금한 대목이다.  

왜냐하면 ‘챗GPT’는 디즈니나 올림픽 이미지를 그려주지 않기 때문이다. 생성을 시도 할 경우“ 저희 콘텐츠 정책에 위배돼 생성해 드릴 수 없습니다.”라는 문구가 뜨며 이미지 생성을 하지 않는다.  

앞서 만들었던 사진을 디즈니 스타일로 바꿔보니, 콘텐츠 정책 위배의 글이 등장한다.  

지브리는 되고? 디즈니는 안될까? 차별 아닌가? 지브리에게 허락 받은 것도 아닌데, 마구 사용하고 있으며 (지브리의 미야자키 하야오나 다른 작가들의 마음은 어떨까? 내 허락 없이 마구 나의 스타일의 그림이 AI를 통해 만들어지고 있다면?) 반대로 디즈니는 엄격히 관리되고 있으니…

이건 AI가 만인에게 평등하고, 데이터(Data)도 분명 공정하게 만들어 질 것이다라는 나의 생각에 의심의 불을 지폈다.   

아래는 글 전문은 지브리 저작권 문제에 대해 GPT와 함께 대담을 나눴고, 그를 다시 GPT를 통해 기사화 하였음을 밝힌다.    

GPT와 나눈 대화를 요약해 봤다.  

AI는 공정하지 않다: 기술에 숨은 불편한 진실 

인공지능(AI)은 흔히 미래 기술의 꽃으로 불린다. 그 만큼 우리 사회에서 AI의 활용 영역은 무궁무진하고 그 영향력 또한 막강하다. 사람들은 흔히 AI가 인간과 달리 편견이나 감정 없이 중립적이고 공정할 것이라고 믿는다. 그러나 이 기대는 커다란 착각일 수 있다. 최근 AI 이미지 생성 도구를 활용하면서 알게 된 몇 가지 사례는 기술에 숨은 편견과 불공정의 현실을 여실히 보여준다. 

기술이 드러낸 편향과 불공정 

이러한 사례 중에서도 특히 흥미롭게 살펴볼 수 있는 사례는 AI가 문화적·법적 기준에 따라 다르게 반응하는 모습을 보여주는 디즈니와 지브리에 대한 태도다. AI는 사용자가 ‘디즈니 캐릭터’를 생성해 달라는 요청을 하면 친절하지만 단호하게 거절한다. 반면, ‘지브리 스타일의 숲’을 요청하면 별다른 저항 없이 아름답고 멋진 이미지가 제공된다.

과연 이 차이는 어디에서 비롯된 것일까? 지브리 스튜디오는 AI가 자신들의 스타일을 활용하도록 공식적으로 허락한 적이 없다. 결국 AI가 지브리 스타일을 ‘허용’한 것은 지브리의 동의가 아니라, 단지 지브리가 디즈니처럼 적극적으로 법적 대응을 하지 않았기 때문이었다. 즉, AI가 중립적인 판단을 하는 것이 아니라, 실제로는 법적 리스크와 외부적 위협 요소를 계산해서 움직이고 있다는 증거다. 

또한, AI는 도널드 트럼프나 일론 머스크 같은 국제적으로 유명한 인물의 이미지는 비교적 자유롭게 생성하지만, 문재인 전 대통령이나 시진핑 주석과 같은 정치적으로 민감한 인물은 회피한다. 반면, 올림픽이나 FIFA 월드컵과 같은 글로벌 스포츠 이벤트와 관련된 이미지 생성 요청은 철저히 차단된다. 이는 국제스포츠기구가 자신들의 상징과 이미지를 엄격히 관리하고, 적극적인 법적 대응을 할 가능성이 크기 때문이다.

AI가 표현의 자유나 창작의 권리를 보호하는 것이 아니라, 그저 정치적, 법적, 외교적 리스크 관리에 따라 기준을 설정하고 있음을 분명히 알 수 있는 사례다. 

AI의 서구 중심주의 분석 

앞서 살펴본 사례들을 통해 정치적, 법적 기준에 따라 AI의 대응이 달라짐을 확인할 수 있었다. 

이제 이러한 편향이 문화적 영역에서는 어떻게 드러나는지를 살펴볼 필요가 있다. 이러한 AI의 편향성은 서구 중심주의적 관점에서도 문제를 드러낸다. AI에 ‘마야 문명의 상징’을 요청하면 무단으로 장식품처럼 소비하거나, 히잡을 쓴 무슬림 여성 이미지를 요청할 경우 의도치 않게 종종 왜곡하거나 심지어 히잡을 삭제하는 경우도 있다.

또한 필리핀이나 인도네시아 노동자의 이미지는 거의 항상 빈곤과 우울한 모습으로 고정되어 표현되며, 중국의 전통적인 인물 이미지는 서구 미의 기준에 맞추어 얼굴이 왜곡되어 표현되곤 한다. 

심지어 ‘아프리카 문화’를 요청하면 부족과 밀림이라는 단편적이고 낡은 이미지만 반복적으로 제시될 뿐, 현대적이고 다양한 아프리카의 모습은 철저히 무시되거나 삭제된다. 

AI 시스템의 구조적 편향과 원인 

이러한 사례들은 결코 단순한 기술적 오류가 아니다. 오히려 AI의 학습 데이터, 알고리즘의 설계 원칙, 그리고 개발자들의 의사결정 과정 자체에 이미 편견과 불균형이 내재되어 있다는 사실을 드러낸다.

실제 AI는 데이터셋에서 서구의 콘텐츠가 과다하게 대표되고, 서구적 가치와 미적 기준이 자연스럽게 표준처럼 간주되는 경향이 있다. 이러한 구조적 불균형과 편향은 기술이 우리 사회에 미치는 영향이 커질수록 더욱 심각한 문제를 초래할 가능성이 높다. 

AI가 중립적이지 않다는 현실은 결국 AI 기술의 윤리적 설계와 운용을 위한 새로운 사회적 합의를 요구한다. AI 기술이 인간의 다양한 문화, 정체성, 전통을 진정으로 존중하려면 단순히 위험을 회피하는 데 그쳐서는 안 된다. 다양한 문화권에서 오는 데이터를 균형 있게 활용하고, 특정 국가나 문화에 대한 표현을 신중하게 다루는 원칙을 정립하며, 문화적 맥락과 윤리를 적극적으로 고려하는 투명한 시스템을 구축해야 한다. 

이제 AI 시대의 인간은 AI를 단지 소비하거나 맹신하는 대상이 아니라, ‘이 AI는 누구의 관점에서 설계된 것인가?’, ‘어떤 문화적 편향이 데이터에 반영되어 있는가?’, ‘이 기술이 사회에 미칠 장기적 영향은 무엇인가?’와 같은 질문을 던지며, 그 기술 뒤에 숨은 원리와 편향성을 비판적으로 바라보는 역할을 맡아야 한다.

기술은 결국 인간이 만들고 사용하는 도구일 뿐이며, 그 도구를 더 공정하고 윤리적으로 설계할 책임도 우리에게 있다. 

결론 및 대안 제안 

AI 기술이 진정으로 중립적이고 공정해지려면 무엇이 필요한지 고민하고, 기술이 우리를 닮아가는 것이 아니라 우리가 바라는 바람직한 방향으로 AI가 발전하도록 만들어야 할 시점이다. 구체적으로, 편향을 최소화하는 다양한 문화권의 데이터 활용, 윤리적이고 투명한 AI 설계 원칙 정립, 그리고 사회적 영향력을 고려한 AI 운영 가이드라인 마련과 같은 실천 전략들이 필요하다. 우리는 기술의 노예가 아니라 주인으로서의 역할을 다시금 명확히 해야 한다.

AI가 정말 모두를 위한 공정한 도구가 될 수 있을지, 그 답은 결국 우리에게 달려있다. 

GPT의 디즈니와 지브리의 저작권 정책에 대해서 GPT에게 물어봤고, 다행히 솔직히 이야기 해준다.  

결론까지 멋(?)지게 정리해 주는 모습에 살짝 무섭기도 하지만, AI 세상 역시 공정하지 못한 모습이 숨어 있었음을 직접적으로 깨닫게 되었다. 조금은 씁쓸한 하루이다.

• 현대모비스, 사상 최대 1Q 실적 기록…영업익 7767억원 43%↑
• 전기 먹는 하마 데이터센터…전력 소비 줄이기 위해 LG전자·한전·한화 맞손
• SKT, SK브로드밴드 지분 인수 위해 카카오 지분 전량 매각
• iM증권 “SK하이닉스, 목표가 20만원으로 하향조정”
• LG전자, “美로 세탁·건조기 물량 이전, 판가 인상 검토”