‘안전한 AI’ 약속한 빅테크…“가짜뉴스 등 위험 최소화”

38

삼성전자 포함 국내외 빅테크 14개사가 인공지능(AI)의 무분별한 개발을 자제하고 안전성을 키우는 데 힘을 모은다. 가짜뉴스(허위정보), 개인정보 침해, 혐오와 편견 학습 등 AI의 부작용과 악용 우려에 한국 포함 주요국 정부가 한목소리로 선제적 대응의 필요성을 강조하자 주요 기업들도 이에 동참하겠다는 뜻을 밝힌 것이다.

‘안전한 AI’ 약속한 빅테크…“가짜뉴스 등 위험 최소화”
삼성전자·구글·오픈AI 등 국내외 14개 빅테크 고위 임원이 22일 서울 성북구 한국과학기술연구원(KIST)에서 열린 ‘AI 글로벌 포럼’에 참석해 AI 안전·혁신·포용을 위한 업계 실천방안인 ‘서울 기업 서약’을 발표하고 있다. 한덕수 총리, 이종호 과학기술정보통신부 장관, 조태열 외교부 장관도 참석했다. 사진 제공=과학기술정보통신부

22일 삼성전자·네이버·카카오·SK텔레콤·KT·LG AI연구원 등 국내 기업과 구글·마이크로소프트(MS)·오픈AI·앤트로픽·어도비·IBM·세일즈포스·코히어 등 해외 기업 총 14개사 대표나 임원들은 서울 성북구 한국과학기술연구원(KIST)에서 정부 주최로 열린 ‘AI 글로벌 포럼’에 참석해 ‘서울 기업 선언’을 발표했다. 전날 윤석열 대통령 주재 ‘AI 서울 정상회의’에서 주요국 정상들의 AI 안전·혁신·포용 관련 협방침으로 발표된 ‘서울 선언’을 기업들도 실천하겠다는 약속을 담았다.

빅테크들은 서울 선언의 주제에 따라 ‘책임감 있는 AI 개발과 사용’, ‘지속가능한 AI 개발과 혁신’, ‘공평한 이익을 보장하는 모두를 위한 AI’ 등 세 가지 가치를 내걸고 각각의 실천방안을 추진한다. 특히 가짜뉴스나 딥페이크 같은 기술 악용 우려에 대응한 ‘책임감 있는 AI 개발과 사용’의 일환으로 프레임워크(개발방식) 도입, 레드팀(테스트 조직) 구성, 거버넌스(의사결정체계)와 정책 마련 등을 통해 AI의 취약점과 위험을 평가하고 관리해나가기로 했다. AI가 만든 콘텐츠에 워터마크를 넣어 가짜뉴스처럼 잘못됐거나 악의적인 정보를 이용자가 식별할 수 있게 한다.

빅테크들은 또 혁신펀드 조성, 기술 컨설팅, 공동 프로젝트 등 중소기업·스타트업 지원책을 확대하고 AI 인재 육성에도 기여하기로 했다. 개발도상국과 신흥국, 사회적 약자도 AI의 수혜를 누릴 수 있도록 국제적 기술 지원과 맞춤 서비스 개발에도 힘쓰겠다고 약속했다. 이종호 과학기술정보통신부 장관은 서약식에서 “서울 기업 서약은 책임감 있는 AI 개발과 이익 공유를 위해 기업이 추구해야 할 방향을 담은 자발적 약속”이라며 “(해외) AI 안전 연구소 등과의 협력을 강화하겠다”고 말했다.

기조강연을 맡은 세계적 AI 석학 앤드류 응 스탠퍼드대 교수는 필요할 경우 정부가 AI 서비스를 규제하더라도 기술 자체의 혁신은 저해하지 말아야 한다고 제언했다. 그는 “AI로부터 다양한 기회를 얻기 위해서는 기술과 애플리케이션(응용 서비스)을 구분하고 그중 애플리케이션을 규제해야 한다”며 “가령 대형언어모델(LLM) 자체는 의료기기, 챗봇, 딥페이크 등 다양한 애플리케이션을 만들 수 있는 기술이며 이 중 어느 것이 좋고 나쁜 애플리케이션인지 구분하는 게 중요하다”고 말했다. 빅테크들에게는 각 사 기술을 중소 개발사들도 사용해 생태계 전체를 키울 수 있게 오픈소스 소프트웨어 형태로 개방해줄 것을 당부했다.

+1
0
+1
0
+1
0
+1
0
+1
0