“회사를 통째로 바꿔야 한다” 페이팔이 선언한 ‘지능의 시대’

FORTUNE Korea 2025년 12월 26일 오전 06:00 조회수

744

20세기 중반 세계는 ‘정보의 시대’에 들어섰다. 산업의 중심이 정보기술(IT)로 이동한 시기다. 컴퓨터가 소형화되며 확산했고, 월드와이드웹(World Wide Web) 발명으로 누구나 손끝에서 정보에 접근할 수 있게 됐다. 하지만 일부 테크 리더는 AI 부상으로 그 시대가 끝났다고 말한다. 이제 새로운 기술 시대가 시작됐다는 주장이다.

프라카르 메흐로트라(Prakhar Mehrotra) 페이팔(PayPal) 수석부사장(SVP) 겸 글로벌 AI 총괄은 포춘 브레인스톰 AI(Fortune Brainstorm AI) 콘퍼런스에서 “우리는 정보의 시대에서 지능의 시대로 넘어왔다”고 말했다.

메흐로트라는 ‘지능의 시대’가 무엇을 뜻하는지 설명했다. 핵심은 산업이 ‘데이터를 저장하고 꺼내 쓰는 모델’에서 벗어난다는 점이다. AI 역량이 커지면서 데이터는 더 즉흥적으로 생성될 수 있다. 목표는 일터의 일부 영역에서 자율성(autonomy)을 구현하는 것이다.

기업들은 생산성과 산출을 끌어올리겠다며 AI 적용 경쟁에 뛰어들고 있다. 다만 성과는 엇갈린다. 8월 MIT 연구는 기업용 AI 프로젝트 가운데 95%가 빠른 매출 가속으로 이어지지 못했다고 결론 내렸다.

메흐로트라는 “긴 여정이 될 것”이라고 했다. “기어가고(crawl), 걷고(walk), 뛰는(run) 과정을 거쳐야 한다”고도 말했다. 그는 “10년 전에도 통하던 말이고, 지금도 똑같다”고 했다.

콘퍼런스에서 메흐로트라와 함께 인터뷰한 마크 해밀턴(Marc Hamilton) 엔비디아(Nvidia) 솔루션 아키텍처·엔지니어링 부문 부사장은 앞으로 기업이 AI를 구축하는 방식이 ‘AI 공장(AI factories)’ 투자로 옮겨갈 것이라고 봤다. 기업 내부(on-premises)나 클라우드(cloud)에 AI 공장을 세우는 흐름이다. 기업 운영에 필요한 데이터는 사람이 찾거나 컴퓨터가 조회하는 방식보다, AI가 생성하는 방식이 중심이 될 수 있다는 이유다.

해밀턴은 “예를 들어 ‘이 내용으로 파워포인트(PowerPoint) 슬라이드를 만들어줘’라든지 ‘이 코딩 함수 작업 중인데 코드를 생성해줄래’라고 말하면, 데이터베이스에서 꺼내오는 게 아니다”라고 했다. “모델(model)을 활용해 데이터를 생성하는 것”이라고 설명했다.

메흐로트라는 이런 데이터를 만들려면 연산 능력을 확충해야 하고, 그 과정에서 기업이 새롭게 중시해야 할 ‘원자 단위(atomic unit)’가 생긴다고 강조했다. 토큰(tokens)이다. 토큰은 텍스트 AI가 언어를 이해하고 처리하는 기본 구성요소다. 학습 데이터에 쓰이는 정보 조각이기도 하고, 모델이 프롬프트(prompt)를 받은 뒤 생성하는 결과물이기도 하다.

그는 “모든 기업은 데이터를 토큰 관점으로 생각해야 한다”고 말했다. “그래야 거기서 지능을 뽑아낼 수 있다”는 설명이다.

토큰 생성은 입력과 출력을 동시에 보여주는 지표가 됐다. 특히 테크 기업에서 그렇다. 엔비디아는 5월 자사 칩을 쓰는 마이크로소프트(Microsoft)가 올해 1분기에 100조 개가 넘는 토큰을 생성했다고 강조했다. 전년 대비 5배 증가라는 설명이다. 이런 ‘출력’ 지표는 AI 기업이 투자자에게 성장 스토리를 제시하고 기업가치를 끌어올리는 데 도움이 된다. 다만 토큰이 수요와 이익으로 곧장 이어진다는 상관관계는 기업 설명만큼 강하지 않다는 분석도 나온다.

메흐로트라와 해밀턴은 많은 기업이 토큰이 AI 역량을 키우는 데 도움이 된다는 점은 이해하고 있다고 봤다. 문제는 ‘어떻게 맞출지’다. 어떤 토큰을 외부에서 사야 하는가. 어떤 토큰을 내부에서 만들어야 하는가. 목적은 무엇인가. 결국 기업마다 토큰을 받아들이고, 가치 있는 토큰을 다시 내보내는 자기만의 ‘AI 공장’을 갖게 된다는 얘기다.

메흐로트라는 “근육을 키우는 일”이라고 표현했다. 직원 모두가 토큰과 생성 프로세스 관점으로 생각하기 시작하면 “완전히 다른 회사가 된다”고 말했다.

/ Sasha Rogelberg & 김다린 기자 quill@fortunekorea.co.kr