생성형 AI 보안 기술 스타트업 에임인텔리전스(대표 유상윤)가 주식회사 케이티(이하’KT’)와 ‘AI 기반 모델의 Security&Safety 검증 체계 기술 공동연구 및 위협 대응 기술 구축을 위한 업무 협약(MOU)’ 을 체결했다고 밝혔다.
양 사는 KT 판교빌딩에서 업무 협약식을 열고, ▲생성형 AI 기반 모델의 Security&Safety 검증 체계 기술 공동연구, ▲식별된 취약성을 해소할 수 있는 모델 방어 및 강화 기술을 개발, ▲사이버보안 위협에 대응하고 안전한 생성형 AI 모델 보급 추진 등의 분야에서 상호 협력하기로 합의했다.
에임인텔리전스는 안전한 생성형 AI 모델 보급 추진을 위해 생성형 AI Safety 진단(레드티밍)을 제공하고, 취약점 자동 탐지 및 차단/방어 기술(가드레일) 을 접목할 것이라고 밝혔다.
생성형 AI 레드팀(RedTeam)은 통제된 환경에서 적대적 방법을 사용하여 AI 시스템의 유해하거나 차별적인 결과, 시스템 오용 등 결함‧취약성을 식별하기 위한 구조화된 테스트 활동을 의미한다. 오픈AI, 구글, 네이버클라우드 등 국내‧외 AI 기업도 자체 AI 레드팀을 구성‧운영하는 등 AI 기업이 AI 안전‧신뢰성을 확보할 수 있는 핵심적인 방법으로 주목받고 있다.
에임인텔리전스 레드팀은 지난 4월 과학기술정보통신부(장관 이종호, 이하 ‘과기정통부’)와 한국정보통신기술협회(회장 손승현, 이하 ‘TTA’) 가 주최한「생성형 인공지능 레드팀 챌린지(이하 ‘레드팀 챌린지’)」수상자로 구성되어 있다.
양사는 이번 협약을 통해 생성형 AI 안전성 및 보안을 위한 다양한 활동을 전개한다. 에임인텔리전스와 KT 레드팀 상호 간 협업을 통해 생성형 AI모델의 안전성 평가 기준인 벤치마크를 공동 개발할 예정이다.
KT 정보보호 최고 책임자(CISO) 황태선은 “이번 에임인텔리전스와의 업무협약을 통해 생성형 AI 상용화를 위한 안전성을 공고히 할 수 있었다. 안전한 생성형 AI 모델 보급을 위해 양사 협력에 최선을 다할 것.”이라고 말했다.
에임인텔리전스 유상윤 대표는 “생성형 AI 상용화에 가장 큰 병목은 안전성 및 보안이다. 누구나 믿고 사용할 수 있는 안전한 생성형 AI 서비스를 제공할 수 있도록 케이티와 함께 노력하겠다.”라고 의견을 밝혔다.
한편, 에임인텔리전스는 지난 30일 기존의 사람이 진행하던 생성형 AI 보안 진단 레드티밍 과정을 자동화하는 솔루션 AIM Red와, 진단한 취약점을 자동 탐지 및 차단하는 가드레일 AIM Guard를 출시하였다.
서울대학교 전기·정보공학부 연구실에서 시작한 에임인텔리전스는 네이버투자회사 D2 스타트업 팩토리를 거쳐 생성형 AI 보안을 위한 원천 기술을 연구·개발해왔다. 유상윤 대표는 다가오는 범용 인공지능(AGI)을 위한 보안 기술을 고도화할 것이라고 밝혔다.
- 철강 부산물 활용 자성분말 제조기업 주식회사 ‘포스코어’, 중기부 딥테크 팁스 선정
- CJ, SK, LG, 삼성 다 모였다… 대기업 채용설명회 성지 된 이곳은?
- 핏펫, 중동 진출 첫걸음! 알 파힘 아부다비 개발그룹과 MOU 체결
- 크로마, 시리즈 A 투자 유치로 글로벌 확장 박차
- 저작인접권 공동 투자 플랫폼, 마이뮤직펀드 오픈베타 출시
