[스낵커블 마켓] AI라 해놓고 사람이 일일이 수작업?

【투데이신문 최주원 기자】 마이크로소프트(MS)와 카타르 투자청의 대규모 투자를 받으며 ‘AI 혁신 기업’으로 주목받았던 런던의 스타트업 빌더 AI(Builder.ai)가 파산 절차에 들어간다고 발표했습니다. 그런데 이 회사, 몰락 과정에서 충격적인 사실이 드러났는데요.

AI가 자동으로 앱을 만들어준다고 광고했지만, 실제로는 개발자들이 밤낮으로 수작업 코딩을 해왔다는 것입니다. 이는 기존 서비스에 AI라는 포장지만 씌워 파는 ‘AI 워싱(AI Washing)’의 일례로, 전문가들은 과장된 기대와 부실한 재무 관리로 무분별하게 확장하는 AI 기업들의 위험성을 경고하고 있습니다.

초대박 AI 기업의 거짓 신화

빌더 AI는 사용자 맞춤형 앱을 자동으로 생성해주는 플랫폼이라고 홍보해 왔습니다. MS와의 전략적 제휴와 카타르 투자청이 주도한 2억5000만 달러 규모의 투자 유치까지 더해지며 기업 가치는 한때 15억 달러에 달했죠.

하지만 블룸버그 통신이 보도한 내용에 따르면 고객이 요구한 기능에 따라 앱이 만들어지는 작업은 AI가 아닌 인도에 있는 700여 명의 개발자들이 손으로 직접 코드를 작성하며 수행하고 있었습니다.

금융 회사 제로 해시(Zero Hash)의 리나스 벨리우나스 이사는 “해당 회사에는 AI가 없었고 AI로 코드를 작성하는 척하는 인도 개발자 집단일 뿐이었습니다”라고 폭로했습니다.

더 큰 문제는 회계 부정이었습니다. 회사 측은 투자자들에게 허위 매출 수치를 보고하며 지난 8년간 거짓 실적을 기반으로 회사를 운영해 온 것입니다. 올해 초 만프리트 라티아 신임 CEO가 부임한 이후, 회사는 핵심 매출 데이터를 전면 수정하고 최근 2년간의 재무제표를 재감사에 의뢰했습니다. 하지만 이미 투자자들의 신뢰는 크게 흔들린 뒤였죠.

연쇄 도미노, 아마존도 속였다

이와 같은 AI 워싱은 빌더 AI만의 문제가 아닙니다. 세계 최대 전자상거래 업체 아마존도 비슷한 논란에 휘말렸는데요.

지난 2018년 선보인 ‘아마존 고’는 고객이 물건을 들고 나가면 AI 시스템 ‘저스트 워크 아웃(Just Walk Out)’ 기술이 자동으로 계산해 준다고 홍보했습니다. 매장 내 수백 대의 카메라가 고객 얼굴을 인식하고 진열대 센서로 선택한 상품을 파악한다고 설명했죠.

하지만 실제로는 인도 지사에서 고용한 1000여 명의 직원이 각 매장 카메라를 수동으로 체크해 결제를 진행한다는 사실이 드러나 AI 워싱 논란이 제기됐습니다.

소비자 스스로 의심하고 검증해야

전문가들은 AI 기술이 생활 곳곳에 깊숙이 스며드는 만큼, 소비자의 안목이 더욱 중요해졌다고 말합니다.

KB경영연구소 송원호 책임연구원은 “기업들이 AI 기술을 활용했다고 주장할 때 소비자들은 구체적으로 어떤 알고리즘을 사용했는지, 데이터는 어떻게 수집되었는지에 대한 설명이 있는지를 확인해야 합니다”라고 조언합니다. 단순히 ‘지능형’, ‘혁신적’, ‘AI 기반’ 같은 단어에 현혹되어서는 안 된다는 설명입니다.

기술의 발전은 멈추지 않습니다. 그러나 그 발전의 방향이 진짜인지 허상인지 판단하는 것은 사람의 몫입니다. 기술의 혁신성에 현혹되지 않고 실체를 파악하려는 주체적 자세가 현명한 소비의 첫걸음이 될 것입니다.

• [강대성의 혁신수업] 작은 용기에서 피어나는 행복한 나눔
• 대통령실, 안보실 1·2·3차장·AI수석 임명…참모 인선 마무리 단계
• 표류하던 KDDX 사업자 선정, 새 정부 출범 계기로 속도내나
• 책임 최종 고리는 ‘상위 임원’…보험권 ‘책무구조도’ 막바지 정비
• [새 정부에 바란다] ‘시대 착오적’ 공휴일 마트 의무휴업, 업계 재검토 요구