최근 도입된 ‘카카오톡 AI’ 근황이 심상치 않다 (+카카오톡 입장)

421

카카오톡에 인공지능(AI) 기능이 새롭게 도입됐다. 단 해당 기능은 아직 정식 기능이 아니라 카카오톡 ‘실험실’을 통해서만 이용이 가능하다.

카카오톡 실험실에 도입된 인공지능 기능 / Tada Images-shutterstock.com, 카카오 제공

앞서 카카오는 “카카오톡을 최신버전으로 업데이트하면서 카톡 실험실 기능에 ‘AI 기능 이용하기’ 옵션을 활성화했다”고 지난 18일 밝혔다.

이번에 새로 추가된 AI 기능 중 ‘말투 변경 기능’을 사용하면 작성한 카카오톡 메시지를 ‘정중체’와 ‘이모지체’ 등 다양한 말투로 변경할 수 있다는 장점이 있다.

다만 카카오톡 AI를 이용해 말투를 변경할 시 혐오 표현이 포함돼 있다면 AI가 이를 교정한다. 예를 들어 ‘한남’이라는 단어를 사용하면 ‘태극기’ 이모티콘으로 변경된다.

또 ‘한녀’라는 단어를 사용하면 ‘한녀는 매우 혐오스러운 말입니다’ 등으로 변환된다. 뿐만 아니라 ‘상냥체’, ‘임금체’ 등 다른 말투로 변경했을 때도 ‘한녀’를 쓰면 ‘한남’으로 바뀌기도 한다.

‘한남’과 ‘한녀’는 각각 한국 남자와 한국 여자의 줄임말로, 온라인에서는 흔히 비하할 때 쓰이는 단어다.

‘카카오톡 업데이트 근황’이라는 제목으로 올라온 영상 속 한 장면 / 유튜브 ‘뻑가 PPKKa’

이로 인해 일각에서는 ‘카카오톡 업데이트 근황’이라는 제목으로 여성 혐오 표현과 남성 혐오 표현에 대해 카카오톡 AI가 다른 반응을 보이면서 카카오톡 AI가 남성 혐오적 성향을 보인다는 주장이 제기되기도 했다.

이에 카카오 측은 “실험실 기능을 통해 AI를 도입하는 과정에서 부적절한 데이터가 있어서 이에 대한 기술적 조치를 했다. AI 기능에 대해 사전 테스트를 진행했으나 생성형 AI 특성상 모든 데이터를 확인할 수 없기에 생긴 문제로 보인다”고 설명했다.

그러면서 “이런 일이 발생하지 않도록 계속해서 기술적 고도화를 진행하겠다”고 덧붙였다.

한편 카카오톡 AI 기능은 이용자의 피드백과 검증을 거쳐 기능을 정식 활성화 여부가 결정될 예정이다.

+1
0
+1
0
+1
0
+1
0
+1
1