카카오-kt클라우드, AI 안전 기술 협력… 신뢰형 AI 생태계 구축 맞손

[미디어펜=배소현 기자] 카카오가 kt클라우드와 손잡고 AI 안전 기술과 클라우드 인프라를 결합한 신뢰형 AI 생태계 구축에 나선다. 양사는 AI 안전성 검증 기술을 실제 서비스 환경에 적용하고 공동 플랫폼 개발까지 협력을 확대할 계획이다.

카카오는 kt클라우드와 AI 안전 기술 협력을 위한 업무협약(MOU)을 체결했다고 26일 밝혔다.

양사는 카카오의 AI Safety 기술과 kt클라우드의 AI 인프라 플랫폼을 결합해 AI 서비스의 신뢰성과 안전성을 높이는 데 협력하기로 했다. 협약식에는 김세웅 카카오 AI 시너지 성과리더와 공용준 kt클라우드 클라우드 본부장이 참석했다.

이번 협력은 AI 안전 기술의 개발과 검증, 확산 등 3단계로 추진된다. 우선 카카오는 자체 개발한 AI 가드레일 모델 '카나나 세이프가드(Kanana Safeguard)'와 모델 안전성 평가 시스템, 레드티밍 시스템 등 AI Safety Tools를 kt cloud AI 플랫폼에 적용할 예정이다.

카나나 세이프가드는 AI 서비스의 안전성과 신뢰성을 검증하기 위한 자체 개발 모델로, 한국어와 국내 문화 특성을 반영한 데이터셋을 기반으로 주요 AI 서비스에 적용되고 있다.

양사는 이후 실제 고객 사례를 기반으로 기술 효용성을 검증하고 성능을 고도화할 계획이다. 최종적으로는 AI Safety Tools를 통합 관리할 수 있는 플랫폼을 공동 구축해 AI 안전 기술 생태계를 확대한다는 방침이다.

업계에서는 생성형 AI 활용이 빠르게 확산되면서 모델 성능 경쟁을 넘어 안전성과 신뢰성을 확보하기 위한 AI 가드레일과 레드티밍 기술의 중요성이 커지고 있다는 평가가 나온다. AI 서비스 상용화가 확대될수록 인프라 기업과 AI 기업 간 안전 기술 협력도 더욱 활발해질 것으로 전망된다.

김세웅 카카오 AI 시너지 성과리더는 "카카오의 AI Safety 기술과 kt클라우드의 인프라 역량이 만나 국내 AI 생태계의 안전성을 한 단계 높이는 계기가 되길 바란다"며 "이용자가 안심하고 사용할 수 있는 AI 환경을 만들기 위해 지속적으로 노력하겠다"고 말했다.