SKT, 멀티 LLM 기반 엔터프라이즈 AI 사업 추진

265

SKT AI 서비스 에이닷용 슈퍼컴퓨터 '타이탄'

SK텔레콤이 ‘멀티 거대언어모델(LLM)’로 기업·공공용 생성형 인공지능(AI) 시장을 공략한다.

SKT는 자체 LLM과 함께 타사 LLM까지 포함한 라인업으로 ‘멀티 LLM’ 사업을 추진한다. 자체 개발한 에이닷 LLM과 대용량 텍스트 입력에 강점을 가진 엔트로픽 LLM, 한국어 데이터가 풍부한 코난 LLM 등을 조합해 기업·공공기관 등에 고객 맞춤형으로 제공할 계획이다.

우선 한국어 기반 SKT 에이닷 LLM은 8월부터 엔터프라이즈용 기본모델을 출시하고 고객사 대상 모델을 학습시키고 최적화 작업을 진행한다. 협력 측면에서는 코난 LLM도 활용할 계획이다. 최근 지분 투자한 엔트로픽의 경우 SKT 주요 기업간거래(B2B) 서비스에 LLM 기능을 결합해 판매하는 방식을 협의 중이다. 기능 통합 작업이 완료되는 올해 4분기부터 실제 서비스 제공이 가능할 것으로 기대된다.

SKT는 국내 최고 수준 슈퍼컴 등 GPU 서버 인프라를 갖추고 있어 정교한 서비스 개발이 가능하다. 대규모 AI 개발자 기반을 보유한 만큼 하드웨어 인프라에서 LLM 소프트웨어에 이르기까지 엔터프라이즈 AI 분야에서 풀스택 서비스가 가능할 것으로 기대된다. SKT는 지분투자한 페르소나AI와 컨택센터 분야 LLM 구축 사업 협력을 추진하는 등 다양한 방식의 LLM 사업 생태계를 구축, 확대해 나갈 계획이다.

SKT 기업 및 공공사업 담당 구성원들이 멀티LLM 교육을 받고 있다.

SKT가 제공하는 기업공공분야 LLM 서비스는 ‘산업별 특화 LLM 서비스’ 제공을 지향한다. 이를 통해 한국어 기반 구축형 LLM 시장에서는 에이닷을 중심으로 시장을 선점한다. 초거대 AI 중심 경쟁이 예상되는 클라우드형 LLM의 경우 엔트로픽 LLM 등을 활용해 시장을 공략할 계획이다.

회사 관계자는 “최근 LLM 시장은 각 산업 분야별로 고객이 필요로 하는 구체적 서비스를 가장 비용 효율적으로 제공할 수 있는 방식으로 경쟁의 축이 이동하고 있다”면서 “고객별 특성에 가장 잘 맞는 LLM 서비스를 가장 비용 효율적으로 공급하는 엔터프라이즈 AI 사업자가 될 것으로 기대한다”고 밝혔다.

서비스 수요도 확대한다. SKT는 행정안전부, 과학기술정보통신부에서 추진 중인 LLM 기반 시범 사업과 본 사업 참여를 준비 중이다. 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 개별 고객사와 함께 추진한다. SK그룹 내 대형 제조 계열사 등과도 LLM기반 AI 기술의 제조 영역 적용을 위한 협의를 진행하고 있다.

김경덕 SKT 엔터프라이즈 CIC장(부사장)은 “다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다”고 말했다.

박준호 기자 junho@etnews.com

+1
0
+1
0
+1
0
+1
0
+1
0