AWS “생성형 AI 비서 ‘아마존 Q’…개발 생산성 대폭 향상”

16
AWS '생성형 AI 비서 '아마존 Q'…개발 생산성 대폭 향상'
‘AWS 서밋 서울 2024’에서 프란체스카 바스케즈 AWS 프로페셔널 서비스 및 생성형 AI 혁신센터 부사장이 기조연설을 하고 있다. 양지혜 기자

아마존웹서비스(AWS)가 한국 최대 클라우드 기술 컨퍼런스 ‘AWS 서밋 서울 2024’를 열고 자사 생성형 인공지능(AI) 비서인 ‘아마존Q’를 소개했다. AWS는 아마존Q를 통해 모든 개발 단계의 생산성을 높일 수 있을 것이라고 기대했다.

AWS 서밋 서울 2024에 기조연설자로 참가한 프란체스카 바스케즈 AWS 프로페셔널 서비스 및 생성형 AI 혁신센터 부사장은 14일 아마존Q에 대해 “AI 전문가가 아니더라도 개발에 필요한 코드를 생성할 수 있으며 코드를 추가해야 하는 위치도 쉽게 찾을 수 있다”며 “기획, 디자인, 코드 구현 등 개발의 모든 단계에서 생산성을 향상시킨다”고 설명했다. 실제로 아마존Q를 사용하는 영국 통신회사 BT 그룹은 지난 4개월 동안 10만 줄 이상의 코드를 생산한 것으로 나타났다. 바스케즈 부사장은 이를 두고 “지루하고 많은 시간이 소요되는 작업이 자동화됐다”고 평가했다.

바스케즈 부사장은 이날 아마존Q와 베드록을 통해 생성형 AI 애플리케이션(앱)을 개발하는 데모도 직접 시현했다. 특히 △앱의 작동 방식을 파악하고 싶은 경우 △기존 앱에서 업데이트를 해야 할 부분을 알고 싶은 경우 등 여러 사례별로 나누어 아마존Q를 활용하는 방법을 소개했다. 바스케즈 부사장은 “AWS는 줄곧 고객을 대신해 최첨단 기술을 더 쉽게 사용하고 확장하고, 배포할 수 있도록 혁신해 왔다”며 복잡한 생성형 AI 앱도 빠르고 안전하게 구축할 수 있다고 강조했다.

바스케즈 부사장은 생성형 AI 스택을 세 개의 계층으로 분리했다. △파운데이션 모델(FM) 훈련 및 추론을 위한 인프라 △생성형 AI 앱을 구축하고 확장하는 데 필요한 FM 및 거대언어모델(LLM) 등을 제공하는 플랫폼 △FM 및 LLM을 활용해 구축한 앱이 그것이다. 그는 “인프라에 대한 투자가 상위 계층에서 제공하는 서비스의 역량 향상으로 이어진다”며 “AWS는 엔비디아와 전략적 협력을 통해 클라우드에서 엔비디아 H100 그래픽처리장치(GPU)를 제공하고 ‘프로젝트 세이바’를 통해 AI 슈퍼컴퓨터를 구축 중이다”고 말했다.

바스케즈 부사장은 마지막으로 “하나의 모델이 모든 것을 지배할 수 없다”며 “아마존, 메타, 앤스로픽 등 베드록에서 다양한 FM을 고객에게 제공해 여러 모델을 사용할 수 있다”고 강조했다. 이 외에도 안전하게 AI를 구축하기 위한 가드레일 포 베드록도 소개했다.

한편 이날 AWS 서밋 서울 2024에서는 AWS의 고객·파트너사인 배달의 민족, SK텔레콤 등이 나와 자사 사례를 공유했다. 송재하 우아한 형제들 최고기술책임자(CTO)는 “배달의 민족의 월간 활성 사용자 수(MAU)는 2000만 명으로, 연간 11억 건의 배달 주문을 처리한다”며 “AWS 올 인 마이그레이션을 통해 보다 유연적이고 효율적인 업무 처리를 할 수 있었다”고 설명했다. 특히 지난 2020년 핀테크 업계 최초로 결제를 클라우드로 옮긴 점을 강조하며 “당시 접근 방식, 보안 등에서 규제 당국을 설득하며 결제 정산 시스템까지 완전히 클라우드로 옮긴 것은 IT 업계에서 혁신적인 일”이라고 꼽았다.

정석근 SK텔레콤 글로벌·AI테크 사업부장도 “텔레콤 회사에서 AI 회사로 전환하기 위해 많은 노력을 하고 있다”며 “베드록을 기반으로 한 텔코 LLM을 통해 아마존과의 협력 파트너십을 구축하는 한편 글로벌 AI 개인 비서 서비스를 준비 중”이라고 말했다. 이어 정 부장은 “AWS와는 기술적 협력만 하고 있는 것은 아니다”며 “글로벌 확장 준비 중인데 아마존이 이 분야에서 넘버 원이기 때문에 아마존 고객을 통해 우리 플랫폼을 확대하는 것도 기대된다”고 덧붙였다.

+1
0
+1
0
+1
0
+1
0
+1
0