AI, 인간처럼 사회 규범 형성…집단적 행동 패턴 확인

[디지털투데이 AI리포터] 샘 알트먼 오픈AI 최고경영자(CEO)가 “AI 에이전트는 이다음 큰 혁신”이라고 강조한 가운데, 인공지능(AI) 에이전트들이 방치될 경우 독자적인 사회 규범을 형성할 수 있다는 연구 결과가 나왔다고 20일(현지시간) 온라인 매체 기가진이 보도했다.

런던대 시티 세인트조지 캠퍼스와 코펜하겐 IT대 연구진은 AI 에이전트를 대상으로 인간 사회적 관습 연구에 사용되는 ‘이름 정하기 게임’을 적용해 실험을 진행했다. 두 AI 에이전트가 무작위로 짝을 이뤄 동일한 이름을 선택하면 보상을 받고, 다른 이름을 선택하면 페널티를 받는 방식이다.

연구 결과, 인간이 중앙집권적 조정 없이도 규범을 형성하듯, AI 에이전트도 유사한 방식으로 규칙을 만들어가는 것으로 나타났다. 특히 AI 에이전트들이 형성한 규범에는 특정 개체가 의도적으로 개입하지 않았음에도 집단적 편향이 자연스럽게 발생했다.

논문의 주 저자인 안드레아 바론켈리는 AI 에이전트 간 상호작용이 AI 안전성 연구에서 간과된 요소라며, 단일 모델이 아닌 집단적 행동을 고려해야 한다고 강조했다.

• 유상임 장관, LG이노텍 찾아 ICT 수출 지원 방안 논의
• 비트코인 10만달러 시대…금 역할 이어받을 준비 됐다
• 비트코인 10만6000달러 근접…이더리움, 솔라나 급등
• IBK기업은행, ‘중소기업 일자리 창출 25만명’ 달성
• 핀테크 기업 클라르나, AI 도입하자 직원 생산성 2배↑