KT, 국산 AI 총집결…’모두의 AI’로 일상 속 확산

KT가 국민이 일상적으로 이용하는 서비스에 인공지능(AI)을 내재화하고, 이를 하나의 AI 경험으로 연결하는 ‘모두의 AI’ 전략을 공개했다. 개방형 AI 생태계 ‘이음 인사이드’를 활용해 공공부터 교육, 금융, 쇼핑 등 다양한 서비스와 산업 전반으로 AI를 확산한다는 계획이다.
KT는 지난 11일 온라인으로 설명회를 열고 대국민 AI 서비스 전략을 구체화했다. 국민이 이용하는 다양한 서비스에 AI를 내재화하고 이를 하나의 범용 AI 에이전트로 연결하는 방식이다. 국민은 앱이나 웹, IPTV 등 접속 채널과 관계없이 여러 서비스를 이용할 수 있다.
KT 컨소시엄은 다음, 솔트룩스, 무신사, 직방, 커넥트웨이브, 매스프레소, 한국교육방송공사(EBS), BC카드, 딥서치, 업스테이지, 모티프테크놀로지스, 엔씨 에이아이(NC AI), 액션파워, 래블업, 리벨리온, 베슬AI코리아 등으로 이뤄져 있다. 신규 AI 모델이나 서비스 기업도 참여할 수 있도록 개방적 구조로 설계했다.
핵심 플랫폼은 모두의 AI지만, 종합 검색 포털 ‘다음’과 컨소시엄 참여 기업의 서비스 접점, KT의 지니TV 등에도 해당 기능을 적용한다. 이를 통해 이용자는 별도의 AI 앱을 이용하지 않고도 평소 사용하던 서비스 안에서 AI 기능을 활용할 수 있다. KT 컨소시엄 참여 기업의 서비스 접점은 합산 6000만개 이상에 달한다.
범용 서비스는 다음 검색을 기반으로 최신 정보를 탐색하고 여러 국산 AI 모델을 결합해 정확도와 신뢰도를 높이며, 메모리 기반 개인화 기능을 통해 기존 검색이나 문의 내용을 바탕으로 맞춤형 정보도 제공한다. 예를 들어 직방에 이음 인사이드가 적용되면 이용자가 보고 있는 아파트의 실거래가와 매물 정보를 분석해 ‘최근 실거래가보다 낮은 매물이 나왔다’는 식으로 알려주는 방식이다.
이진형 KT AX사업본부장(상무)은 “다음의 수많은 검색 정보와 내부 정보를 결합하고, (모두의 AI) 생태계 내 서비스 정보와 계정을 활용하는 형태”라고 설명했다.
공공 서비스는 단순 질의응답을 넘어 이용자 상황에 맞게 선제적으로 필요한 정보를 알리고 맞춤형 혜택을 추천한다. 공공 알림을 비롯해 연령·거주지역 등에 따른 맞춤형 공공 혜택, 대화형 절차 안내, 각종 발급·신청 지원 등을 이음 앱과 웹에서 이용할 수 있도록 한다. KT는 향후 영농·창업 등으로 서비스 영역을 확대할 계획이다.
KT는 필요할 경우 컨소시엄 참여 기업에게 필요한 데이터베이스(DB)에 접근할 수 있도록 오픈 MCP를 구현하고 있다고도 밝혔다. MCP는 AI 모델과 외부 데이터, 실제 개발 도구를 매끄럽게 연결하는 표준화된 프로토콜로, KT는 각 회사 간 파트너십을 진행하고 있다.
토큰팩토리에는 업스테이지의 ‘솔라’, 모티프테크놀로지스의 ‘모티프’, 솔트룩스의 ‘룩시아’, 엔씨 에이아이의 ‘바르코’, KT의 ‘믿음’ 등 다양한 국산 AI 모델이 통합된다. 평소 추론과 에이전트의 툴을 잘 호출하는 AI 모델인 솔라를 주력으로 쓰되, 긴 문맥을 처리할 때는 모티프, 3D나 사운드를 활용해야 할 때는 바르코를 활용하는 방식이다.

또한 국산 반도체인 리벨리온의 신경망처리장치(NPU)를 활용해 AI 비용과 성능을 개선하는 한편, 래블업·베슬AI의 AI 인프라 운영 최적화 기술도 적용한다. 이 본부장은 “정부의 사업이 5년 후에 끝나더라도 계속 운영할 수 있는 형태의, 지속 가능한 체계”라고 자신했다.
토큰팩토리는 사용자가 입력한 프롬프트를 처리하는 단계인 ‘프리필’과 답변을 생성하는 ‘디코드’를 분리해 각 단계에 적합한 자원을 할당한다. 이를 통해 분당 토큰 처리량(TPM)을 약 31% 상승시킬 수 있으며, 다양한 프롬프트 압축 기술을 적용해 입력 토큰을 최대 80%까지 줄여 그래픽처리장치(GPU) 활용도를 높인다.
KT는 토큰팩토리를 통해 컨소시엄 참여 기업들이 비용을 절감하고, 각 기업의 수익모델을 활용할 수 있도록 하겠다는 계획이다. KT의 이음 인사이드를 그 자체로 수익화하는 모델은 현재 별도로 검토하고 있지 않지만, 프리미엄 서비스나 전문가용 에이전트 출시 가능성은 열어뒀다.
이 본부장은 “이음 인사이드를 통한 개방형 AI 생태계 조성으로 국민의 일상을 함께하는 것은 물론 다양한 서비스 접점을 통해 디지털 소외계층까지 포용하는 대국민 AI 서비스를 선보일 것”이라며 “국내 최고 수준의 멀티모델과 KT 역량이 응축된 토큰팩토리를 바탕으로 빠르고 정확하며 안정적인 최적의 AI 서비스를 제공하도록 최선을 다하겠다”고 말했다.