카카오·KT클라우드, AI '가드레일'로 안전성 높인다

[카카오 제공. 재판매 및 DB 금지] (서울=연합뉴스) 박형빈 기자 = 카카오가 KT클라우드와 손잡고 인공지능(AI) 서비스의 안전성과 신뢰성을 높이기 위한 AI 안전 기술 협력에 나선다. 카카오는 KT클라우드와 양해각서(MOU)를 체결하고 양사의 기술을 결합해 이용자가 신뢰할 수 있는 AI 서비스 환경과 안전한 AI 생태계 구축에 협력한다고 26일 밝혔다. 양사는 카카오가 자체 개발한 '카나나 세이프가드'를 비롯해 모델 안전성 평가 시스템, 레드티밍 시스템 등 AI 안전 도구를 KT클라우드의 AI 플랫폼에 적용한다. 카나나 세이프가드는 AI 서비스의 안전성과 신뢰성을 검증할 수 있는 자체 개발 AI 가드레일 모델로, 카카오의 주요 AI 서비스에 적용돼있다. 한국어와 한국 문화를 반영한 자체 구축 데이터셋을 활용해 한국어에 특화된 성능을 보유한 것이 특징이다. 양사는 실제 고객 사용 사례를 기반으로 기술을 고도화하고, AI 안전 도구를 통합·관리하는 플랫폼도 공동 개발할 계획이다. 카카오 김세웅 AI 시너지 성과리더는 "이번 협력이 국내 AI 생태계의 안전성을 한 단계 높이는 계기가 되길 바란다"며 "앞으로도 이용자가 안심하고 사용할 수 있는 AI 환경을 만들기 위해 지속해 노력하겠다"고 말했다. binzz@yna.co.kr