“AI 에이전트, 보안 메시징에 ‘실존적 위협'”

대다수 기술 기업들이 AI 기능과 AI 에이전트를 핵심 전략으로 삼고 있는 가운데, 시그널(Signal)의 메러디스 위테이커(Meredith Whittaker) 대표는 정면으로 반기를 들고 있다. 그는 포춘과의 인터뷰에서 “AI 에이전트의 확산이 시그널 같은 보안 메시징 앱만의 문제가 아니라, 스마트폰·컴퓨터용 앱을 만드는 모든 개발자에게 실존적 위협이 된다”고 강조했다.

AI 에이전트는 사용자를 대신해 작업을 수행하기 위해 방대한 민감 정보를 접근해야 한다. 계좌 정보, 비밀번호 등까지 포함된다. 그러나 바로 이 지점이 새로운 ‘대규모 공격 표면(attack surface)’을 만들어 사이버범죄자나 정보기관이 개인·기업 데이터를 탈취할 수 있는 통로가 된다는 것이다.

특히 AI 에이전트는 프롬프트 인젝션(prompt injection) 공격에 취약하다. 악성 웹사이트가 숨겨둔 명령을 AI가 그대로 실행해 이메일을 훔치거나 계정을 열람하고, 데이터를 빼내거나 클립보드를 덮어쓰고, 피싱 사이트로 유도하는 일까지 가능하다는 설명이다.

위테이커 대표는 지난주 핀란드 헬싱키에서 열린 ‘슬러시(Slush)’ 기술 콘퍼런스에서 “AI 에이전트는 사용자를 대신해 복잡한 작업을 수행하는데, 이를 위해 수많은 데이터 소스를 들여다본다”며 “그 과정에서 시그널 연락처와 메시지에도 접근해야 한다. 그 접근 자체가 공격 벡터가 되는데, 이는 시그널이 존재하는 이유를 무력화하는 것”이라고 말했다. 

시그널은 고도의 프라이버시 보호와 최소한의 데이터 수집을 내세워 기자·정치인 등이 많이 사용하는 메시징 서비스다. 하지만 운영체제 차원에서 AI 에이전트가 통신 내용을 광범위하게 들여다볼 수 있다면, 이는 새로운 취약점으로 직결된다.

위테이커 대표는 “운영체제 수준에서 AI 에이전트를 통합하는 방식은 사이버보안·프라이버시 기본 원칙을 무시한 매우 위험한 구조적 결정”이라며 “이는 시그널뿐 아니라 애플리케이션 레이어에서 안전하게 개발할 수 있는 환경, 그리고 신뢰성 있는 인터넷 인프라 자체를 위협한다”고 지적했다.

하지만 메타(Meta)의 왓츠앱이나 페이스북 메신저 등 경쟁 메시징 앱들은 AI 기능을 적극 도입하고 있다. 위테이커는 “이용자들이 메시징 앱에 AI를 원하는 게 아니다”라며 “오히려 귀찮다”고 비판했다. 이어 “소비자 관점에서 메시지 요약이나 번역 외에 의미 있는 기능은 거의 없다”며 “이 하품 나올 정도의 편의성을 위해 감수해야 하는 위험이 가치가 있는지 의문”이라고 반문했다.

메타는 신뢰 확보를 위해 일부 AI 기능을 ‘보안 강화용’이라고 설명하며 사용자가 명시적으로 활성화하지 않는 한 메시지를 읽을 수 없다고 강조한다. 그러나 위테이커는 빅테크의 AI 도입 경쟁 그 자체가 인터넷 전반의 보안 리스크를 키우고 있다고 우려한다.

또 그는 AI 인프라 구축에 투입되는 막대한 비용과, 이를 정당화하기 위해 기업들이 실효성 검증 없는 기능을 성급하게 출시하고 있다고 지적했다. 위테이커는 “지금 벌어지는 현상의 일부는, 천문학적 자본 지출을 정당화해야 한다는 불안감에서 나온 것”이라며 “투자자와 주주에게 분기마다 기업 가치를 유지해야 하니 보안팀 검증을 생략한 채 무모한 배포가 늘고 있다. 매우 위험하다”고 경고했다.

/  Beatrice Nolan & 김타영 기자 young@fortunekorea.co.kr

• 현장 지키는 안전캐릭터…삼성E&A ‘애디’ 1년, 한화 ‘한수호’ 첫걸음
• 스페이스X 락업 해제에도 덤덤한 월가 “머스크 맞서는 베팅은 금물”
• 스콧 베센트 “K자형 경제 끝났다”…데이터는 글쎄?
• 美 검찰, NFT 투자자들에게서 1000만 달러 가로챈 암호화폐 창업자 기소
• 현대차 아반떼, 새 역사 썼다…신형 첫날 계약 1만 대