“안전한 AI 키우려면 ‘입법’은 필수…유럽은 서두르는 중”

258


[AI 리터러시 키우자③-2, 인터뷰]김형준 한국지능정보사회진흥원(NIA) 지능화법제도센터장

과학기술정보통신부는 일찌감치 2020년부터 ‘인공지능(AI) 법제정비단’을 구성해 AI 법·제도·규제 관련 이슈를 연구해 왔다. AI가 디지털 혁신은 물론 사회 모든 분야의 변화를 이끌 핵심 기술인 만큼, AI 기술은 물론 법제·산업·인문사회 등 다방면의 전문가들이 머리를 맞대고 있다.

법제정비단에 참여한 김형준 한국지능정보사회진흥원(NIA) 지능화법제도센터장은 “국회에 제출된 입법안 역시 AI 기술·산업의 발전, 또 국민의 생명·인권을 보호하는 조치의 균형을 모색하는 등 우리 사회가 수용할 수 있는 방안을 도출하기 위해 노력하고 있다”고 소개했다. 다음은 김 센터장과의 일문일답.

-현재 국회 계류 중인 AI법안을 두고 일각에선 ‘우선 허용, 사후 규제’ 원칙을 우려한다.

▶제출된 법안들을 살펴보면, AI의 윤리·신뢰성 확보에 소홀하다는 의견에는 동의하기 어렵다. 과기정통부는 윤리적이고 신뢰할 수 있는 AI의 개발·활용을 위해 폭넓게 노력하고 있고, 기존 법안들도 AI 윤리 원칙의 제정·확산을 위한 민간 자율의 다양한 방안들을 제시하고 있다. 앞서 ‘지능정보화 기본법’ ‘정보통신 진흥 및 융합 활성화 특별법’ 등에도 ‘우선 허용, 사후 규제’ 원칙을 두고 있다. AI법안에 해당 규정이 포함되더라도, 이는 정보화 전반에 걸친 원칙에 관한 주의 규정으로서의 성격이기 때문에 AI 분야만의 특별한 문제는 아닐 것으로 생각한다.

-법안은 AI의 ‘고위험 영역’을 규정하고 있다. 해당 내용은 어떻게 기능할까.

▶위험 기반의 AI 규율은 미국과 EU(유럽연합) 등 주요국에서도 취하는 규율체계다. 특히 ‘고위험’으로 표현되지만 ‘Dangerous가 아닌 ‘Risk’로서 ‘피해를 줄 위험성을 내포한 상태’로 보는 게 맞다. 결국 고위험에 포함된다고 해서, 그것을 ‘위험한 AI’로 해석해선 안 된다. 오히려 고위험 영역에서 발생할 수 있는 사고 또는 차별을 방지하고, 사고가 AI로부터 유래한 경우 누구도 책임지지 않으면서 적절한 원상회복이나 피해 복구가 이뤄지지 않는 상황을 막기 위해, 더 높은 수준의 사전적 안전장치를 마련할 영역을 식별하는 성격이다.

-국회의 법안에서 AI 부작용을 막을 또 다른 장치를 소개한다면.

▶제출된 법안들은 공통으로 AI 윤리에 대한 국가와 기업·이용자 등 관련 생태계 구성원, 국민 모두의 노력, AI 윤리원칙의 제정·확산을 위한 여러 국가의 노력을 중요시하고 있다. 이는 법률에 의한 규제·처벌 이전에 근본적 사회규범으로서 AI 윤리의 중요성을 표현한 것이다. 그 확산을 위해 AI 리터러시 교육, 인권 보호에 관한 사회적 합의 등 노력이 필요하다.

-흔히 유럽은 AI 규제, 미국은 AI 진흥 쪽에 무게를 둔다고 평가한다. 관련 글로벌 논의는 어떠한가.

▶주요국의 입법 동향을 들여다보면 ‘유럽 대 미국’ ‘규제 대 진흥’으로 양분하는 시각은 부적절하다. 유럽 입법에도 AI 샌드박스 등 혁신 지원 방안이 담겼고, 미국도 생명·인권 보호를 위한 매우 구체적인 안전장치 관련 입법을 적극 추진한다. EU를 탈퇴한 영국도 혁신 친화적 규제백서를 내놓았지만 ‘규제 백서’라는 점을 명확히 하는 등 대부분 국가는 AI 진흥·규제 방안을 동시에 마련하고 있다. 차이점은 나라마다 공동체 가치관과 사회문화적 전통, 국민 법 감정 등을 고려한 결과다. 진흥·규제 중 어느 한쪽만 고집하는 국가·지역은 기술적으로 고립되거나 쇠퇴할 위험성도 있다.

-정부는 AI 법제 마련의 ‘속도’를 강조한다. 반면 우리 국회의 논의는 비교적 지지부진한 상황으로 보인다.

▶산업 현장에서의 불확실성을 제거해 안전한 AI 개발·이용환경을 조성해야 하고, AI 확산을 통한 국민 생활·경제의 도약을 위해서도 AI 기본법제의 입법은 필수다. 예컨대 AI 법체계는 자율주행차 등 산업 영역뿐만 아니라 의료·교육·행정 등 사회 전 영역에 영향을 주기 때문이다. 사회적인 합의의 과정으로서 국회 논의가 신중할 수밖에 없다는 점은 이해한다. 다만 EU 등이 서둘러 AI 입법을 추진하는 점을 고려하면, 우리도 빨리 AI에 대한 합리적인 규율체계를 마련해 AI 기술·산업 진흥의 근거를 신속히 마련해야 한다.


+1
0
+1
0
+1
0
+1
0
+1
0