[아이뉴스24 박진영 기자] 전 세계적으로 인공지능(AI)의 위험성이 확산되자 영국, 미국, 일본에 이어 우리나라에도 AI 안전연구소가 설립된다. 정부 주도로 AI 안전 표준을 만들어 안전하고 신뢰할 수 있는 AI 생태계를 구성하겠다는 취지다.
14일 과기정통부에 따르면 정부가 AI 안전성 평가를 위한 AI 안전연구소 설립을 추진하고 이달 말부터 연구소 설립을 위한 TF(태스크포스)를 운영한다. TF는 관련 전문가들로 구성되어 연구소의 구체적인 기능과 방향성을 논의할 예정이다. 이르면 내년 초 설립을 목표로 추진하고, 공공기관 내 연구소를 설립하는 방식이 유력해 보인다.
앞서 미국, 영국, 일본 등이 AI 안전연구소 설립 계획을 밝히면서, 정부 주도로 AI 규제에 나서는 모양새다. 이같은 추세에 따라 한국도 자체적인 AI 안정성 평가 기준을 만들고, 자국의 기술 경쟁력을 확보하기 위한 것으로 보인다.
가장 먼저 AI안전연구소 설립 계획을 밝힌 영국은 수낵 총리가 나서서 정부 주도의 AI 안정성 확보의 중요성을 강조했다. 지난해 ‘AI 안전 정상회의’를 앞두고 수낵 총리는 “정부만이 공공 안보 위험을 적절히 평가하며, 기술 개발 업체에 규제를 맡겨선 안 된다”며 “완전히 이해하지 못하면 규제하기 어려우므로, 규제를 서두르면 안 된다”고 말했다.
또 그는 AI 안전연구소와 관련해 “안전연구소 TF에 이미 1억 파운드(약 1637억 원)를 투자했고, 세계에서 가장 우수하고 뛰어난 연구자들을 끌어들이고 있다”고 밝힌 바 있다. 연구소 설립을 통해 새로 형태의 기술 능력을 조사, 평가하고 시험할 계획이다.
미국은 최근 상무부 주도로 민관이 참여하는 AI연구소를 출범시켰다. 최근 발족한 미국의 ‘인공지능 안전 연구소 컨소시엄(AISIC)’에는 오픈AI를 비롯해 구글, 마이크로소프트(MS), 아마존 등 AI관련 기업들이 대거 참여한다. AISIC는 AI 역량평가와 위험 관리, 합성 콘텐츠 워터마킹 지침 개발 등의 업무를 진행하게 된다.
이에 대해 상무부는 “컨소시엄은 지금까지 설립된 테스트 및 평가팀 가운데 가장 큰 집합체”라면서 “AI 안전에 대한 새로운 측정 과학의 토대를 구축하는 데 초점을 맞출 것”이라고 밝혔다.
