[미디어펜=배소현 기자] KT가 인공지능(AI) 모델을 연결하고 사용량에 따라 요금을 부과하는 플랫폼인 '토큰팩토리'를 선보인다. 자체 데이터센터에서 AI 토큰을 직접 생산해 판매하고, 기존 통신·클라우드 서비스와 결합해 기업 고객을 확보한다는 전략이다. 통신사업에서 쌓은 과금·보안 역량을 활용해 기업의 AI 도입 부담을 낮추고 새로운 수익원을 확보하겠다는 구상으로 풀이된다.
박상원 KT AX사업부문장 전무가 27일 서울 종로구 KT 광화문 WEST 빌딩에서 열린 'KT AX 사업 전략 기자간담회'에서 발언하고 있다./사진=배소현 기자
KT는 27일 서울 종로구 광화문 West 빌딩에서 AX 사업 전략 기자간담회를 열고 오는 30일 기업용 AI 플랫폼 'KT 토큰팩토리'를 출시한다고 밝혔다.
토큰은 AI가 질문을 이해하고 답변을 생성할 때 사용하는 기본 단위로, 입력과 출력에 사용된 양에 따라 비용이 달라진다. 기업들은 번역과 문서 요약, 코딩 등 다양한 업무에 AI를 활용하고 있지만 같은 작업이라도 어떤 모델을 선택하느냐에 따라 비용 차이가 크다. 부서마다 서로 다른 모델을 이용하는 경우에는 전체 사용량과 비용을 파악하기도 쉽지 않다.
KT는 이러한 기업들의 비용 관리 부담을 줄이기 위해 토큰팩토리에서 AI 모델 선택부터 사용량 확인, 비용 관리, 결제까지 한 번에 처리할 수 있도록 했다. 모델마다 별도로 가입하거나 계약할 필요 없이 하나의 응용프로그램인터페이스(API)로 원하는 모델을 이용하고, 사용량 확인부터 비용 관리와 결제까지 한곳에서 처리할 수 있도록 한 것이다.
여기에 KT는 통신사업에서 축적한 과금 기술을 활용해 AI 모델별 사용 내역을 기록하는 '토큰 상세 기록(TDR)'을 도입했다. 이를 통해 기업은 부서별 이용량을 파악하고 AI 사용료를 기존 통신요금과 함께 정산할 수도 있다.
◆ 토큰 직접 생산해 수익 확보… 통신·클라우드 사업과 결합
KT는 자체 데이터센터에서 AI 토큰을 직접 생산하고 기업용 통신·클라우드 서비스와 연계해 수익을 창출한다는 계획이다. 외부 AI 모델을 연결하는 중개 사업과 자체 인프라를 활용한 토큰 생산을 함께 운영하는 방식이다.
이진형 KT AX사업본부장이 27일 서울 종로구 KT 광화문 WEST 빌딩에서 열린 'KT AX 사업 전략 기자간담회'에서 발언하고 있다./사진=배소현 기자
이진형 KT AX사업본부장은 이날 수익모델을 묻는 질의에 글로벌 AI 모델 중개 사업자들이 통상 약 5%의 수수료를 받지만 KT의 주력 수익모델은 자체 토큰 생산이라고 설명했다. 자체 GPU에서 AI 모델을 직접 구동하는 만큼 외부 모델을 중개하는 경우보다 수익 구조를 유연하게 설계할 수 있다는 것이다.
KT는 출시 시점에 총 73종의 AI 모델을 제공한다. 이 가운데 7종은 자체 개발한 '믿음'과 국내 AI 기업의 모델 등을 KT 데이터센터에서 직접 운영하는 방식이다. 내달에는 글로벌 AI 모델 유통 플랫폼 '오픈라우터(OpenRouter)'와의 협력을 통해 이용 가능한 모델을 500개 이상으로 확대한다. 국내 AI 모델을 오픈라우터에 등록해 해외에 공급하는 사업도 추진한다.
기업용 요금제는 '스탠다드'와 '엔터프라이즈' 두 가지다. 스탠다드는 실제 사용량에 따른 후불 정산과 선불 충전을 지원한다. 엔터프라이즈는 사용 규모와 계약 기간에 따라 할인 혜택을 제공하고 전용회선, 보안, 서비스 품질보장 등을 기업별 요구에 맞춰 구성한다.
KT는 기존 기업용 전용망과 프라이빗 클라우드, 통신 부가서비스에도 토큰팩토리를 연계할 계획이다. 이 본부장은 기존 AX 사업과의 차이를 묻는 질의에 기업들이 AI 도입 이후 새로운 모델을 적용하거나 부서별 이용 현황을 통합 관리하는 데 어려움을 겪고 있다며, 토큰팩토리가 이러한 문제를 해결해 기존 AX 구축 사업을 보완할 것이라고 설명했다.
◆ AI 비용 최대 25% 절감… 국내 인프라로 보안 수요 대응
KT는 자체 개발한 '오토 모델 라우터'와 프롬프트 압축 기술로 AI 이용 비용을 최대 25% 절감할 수 있다고 설명했다. 오토 모델 라우터는 업무 난이도와 비용에 따라 적합한 AI 모델을 자동 선택하는 기술로, 글로벌 성능 평가 'RouterArena'에서 종합 1위를 기록했다.
원만호 KT AX플랫폼본부장 상무가 27일 서울 종로구 KT 광화문 WEST 빌딩에서 열린 'KT AX 사업 전략 기자간담회'에서 발언하고 있다./사진=배소현 기자
이날 질의응답에서 김준섭 KT AX미래기술원 에이전트AI랩장은 프롬프트 압축으로 약 20%, 저렴한 모델을 선택하는 라우팅 기술로 약 5%의 비용을 줄일 수 있다고 밝혔다.
보안이 중요한 기업과 공공·금융기관을 위한 기능도 마련했다. KT는 국내 데이터센터에서 직접 운영하는 AI 모델에 데이터 비저장·비학습 원칙을 적용하고, 개인정보와 민감정보 유출을 방지하는 자체 가드레일 기술을 제공한다. 기업별로 금칙어를 설정하거나 특정 AI 모델의 사용을 제한하는 것도 가능하다.
금융기관에는 국내 데이터센터와 보안 기능을 결합한 서비스를 제공하고, 공공기관에는 관련 인증을 갖춘 KT클라우드 환경을 활용할 계획이다. 국내 인프라에서 직접 운영하는 AI 모델도 현재 7종에서 내년 10여 종으로 확대한다. 다만 오픈라우터를 통해 연결되는 해외 모델은 해당 업체의 서버에서 처리되며, 기업이 국내 운영 모델만 선택할 수 있도록 지원한다.
KT는 오는 30일 기업 고객을 대상으로 서비스를 출시하고 12월 말 모델과 기능을 추가한다는 방침이다. 내년 3월에는 개인 개발자와 일반 이용자로 대상을 넓히고 구독형 요금제도 선보일 예정이다. 현재 일부 기업과 서비스 도입을 준비하고 있으며, 국내 AI 모델의 해외 판매를 통해 사업 기반도 확대할 계획이다.
이 본부장은 이날 매출 목표와 향후 사업 계획을 묻는 질의에는 자사의 수익 창출과 함께 국내에서 AI 토큰이 생산·유통되는 생태계를 조성하는 것이 중요하다는 취지로 답했다. KT는 이를 위해 국내 AI 기업과의 협력을 확대하고 토큰팩토리를 통한 해외 진출도 추진한다는 방침이다.
[미디어펜=배소현 기자]