인공지능(AI)이 인류를 멸종시킬 수준의 위협을 가할 수 있다는 경고가 나왔다.
AI 정책 조언 등을 제공하는 민간 업체 ‘글래드스톤 AI’가 미국 국무부 의뢰로 최근에 발표한 보고서에 이 같은 경고가 포함돼 있다.
미국 CNN의 12일(현지 시각) 보도에 따르면 보고서는 AI 시스템이 최악의 경우 인류를 멸종 수준으로 위협할 수 있기에 미국 정부가 개입해야 한다고 적었다.
글래드스톤 AI는 크게 두 가지 위험을 꼽았다.
먼저 가장 발전한 AI 시스템이 무기화돼 잠재적으로 돌이킬 수 없는 피해를 입힐 수 있다고 지적했다.
아울러 자신들이 개발 중인 AI 시스템에 대한 통제력을 상실해 글로벌 안보에 잠재적으로 파괴적인 결과를 초래할 수 있다는 개별적인 우려가 AI 연구실에 존재한다고 밝혔다. AI를 연구하는 이들조차 자신들이 개발하는 AI 시스템에 대해 우려한다는 것이다.
보고서에 따르면 유명한 AI 연구소에 근무하는 한 직원은 특정 차세대 AI 모델이 오픈 액세스로 나온다면 끔찍할 정도로 나쁠 것이라고 지적했다. 그는 해당 모델의 잠재적인 설득 능력이 선거 개입이나 유권자 조작 같은 분야에 사용되면 민주주의를 파괴할 수 있다고 밝혔다.
글래드스톤 AI는 AI와 AGI(범용인공지능)가 부상하면 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다면서 AI 군비 경쟁과 분쟁, 대량살상무기(WMD) 규모의 치명적인 사고를 부를 위험이 있다고 예측했다.
보고서는 AGI와 AGI에 접근하는 능력을 개발하는 것이 미국이 지금까지 직면했던 어떤 것과도 비교할 수 없는 재앙적인 위험을 초래할 것이라고 경고하면서 AI가 무기화된다면 WMD와 유사한 위험을 초래할 것이라고 했다.
이와 관련해 보고서는 AI가 초래할 위협에 대응하기 위해 획기적인 조치를 취해야 한다고 촉구했다. 그러면서 새로운 AI 감독 기관과 긴급 규제 안전장치를 만들고 AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한하는 방안 등을 조치로 제시했다.
보고서는 인간을 뛰어넘을 수도 있는 AGI의 진화 속도가 가장 큰 관건이라고 했다. AGI는 인간과 같거나 심지어 초인간과 같은 학습 능력을 갖춘 가상의 AI 형태다.
보고서는 “AGI는 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다”며 오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아는 모두 2028년까지 AGI에 도달할 수 있다고 공개적으로 밝혀왔다고 적었다.
