올트먼, ‘안전 도외시’ 비판에도 오픈AI 전권 잡았다

19
올트먼, ‘안전 도외시’ 비판에도 오픈AI 전권 잡았다

샘 올트먼(사진) 오픈AI 최고경영자(CEO)가 기존 초정렬(SuperAlignment)팀 해체 이후 새로 꾸린 안전·보안 위원회를 이끌게 됐다. 퇴사한 임직원들에게 안전한 인공지능(AI) 개발을 도외시한다는 비판을 받고 있는 올트먼 CEO가 ‘안전위’를 맡게 된 것이다. 축출사태 이후 이사회를 완전 장악한 올트먼 CEO가 오픈AI의 전권을 쥐게 된 셈이다.

28일(현지 시간) 오픈AI는 AI 기술의 안전 및 윤리 문제를 점검하기 위한 새 안전·보안위원회를 구성했다고 밝혔다. 위원회에는 올트먼 CEO와 브렛 테일러 이사회 의장, 애덤 디안젤로 이사 등이 속한다. 오픈AI는 “AI 개발 과정과 안전장치를 더욱 발전시키기 위함”이라고 설명했으나, 기존 안전팀인 초정렬팀이 와해된 후 올트먼 CEO 중심으로 재탄생했다는 점이 의미심장하다.

초정렬팀 해체와 함께 회사를 떠난 일리야 수츠케버 오픈AI 공동창업자는 안전을 도외시한다는 이유로 올트먼 축출 사태를 일으킨 장본인이다. 초정렬팀 공동책임자이던 얀 레이케도 오픈AI 대항마로 불리는 앤스로픽에 합류한다. 앤스로픽은 오픈AI 출신 인물들이 안전한 AI 개발을 위해 창업한 회사다. 레이케는 오픈AI를 퇴사하며 “안전 평가 과정이 AI 제품의 뒷자리를 차지했다”는 비판을 남긴 바 있다.

수츠케버와 함께 올트먼 해고를 주도했던 헬렌 토너 전 오픈AI 임원 또한 축출사태의 배경을 공개하고 나섰다. 그는 한 팟캐스트에서 “챗GPT 첫 출시 당시 이사회가 사전통보도 받지 못하고 트위터(현 엑스)로 소식을 알았다”며 “올트먼이 꾸준히 안전에 대한 부정확한 정보를 제공해 믿을 수 없다는 결론에 이르렀다”고 했다. AGI(일반인공지능) 구현이라는 목표를 위해 달리는 올트먼 CEO는 이 모든 비판에 무신경해 보인다. 오픈AI는 이날 안전위 구성 소식을 전하며 “차세대 모델(GPT-5) 교육을 시작했으며 AGI로 가는 다음 단계를 제공할 것”이라며 “기능과 안전성 모두 최고인 모델을 구축한다는 점을 자랑스럽게 생각한다”고 밝혔다.

+1
0
+1
0
+1
0
+1
0
+1
0