“클로드 쓸 때 3만원, KT는 1500원”…가성비 앞세워 AX 판도...

‘이노베이션 허브·AX 스쿼드’ 가동200여 개사 난제 해결하며 B2B 시장 정조준한국MS와 ‘원팀 파트너십’ 견고“향후 글로벌 빅테크 협력 다각화할 것”자체 엔진 ‘AX 하네스’로 인프라 비용 절감[이데일리 윤정훈 기자]KT가 단순한 인공지능(AI) 기술 공급자를 넘어, 기업 고객이 인프라 도입 효과를 현장에서 즉시 검증할 수 있는 ‘현장 중심형 AX(AI 전환) 가치 파트너’로 체질 개선에 나선다. MS를 시작으로 글로벌 빅테크와 협업을 통해 국내 AX 시장을 주도하겠다는 포부다.KT는 24일 서울 광화문 웨스트 사옥에서 기자간담회를 열고, ‘KT 이노베이션 허브(Innovation Hub)’와 AI 전문가 특공대인 ‘AX 스쿼드(Squad)’를 중심으로 하는 B2B AX 확산 전략을 발표했다.KT AX부문 전승록 AX전략본부장이 설명하고 있다(사진=KT)‘초기 비용 제로’ 이노베이션 허브…200개사 방문해 AX 난제 해결국내 기업의 AI 도입률은 88%에 육박하지만, 실제 AI를 통해 재무적 성과를 거둔 기업은 14%에 불과하다는 것이 업계의 진단이다. 대다수 기업이 막대한 인프라 투자 비용과 불확실한 투자대비성과(ROI) 가운에서 길을 잃고 있는 셈이다.KT는 이러한 기업들의 갈증을 해소하기 위해 광화문에 ‘KT 이노베이션 허브’를 베이스캠프로 구축했다. 기업 고객이 별도의 시뮬레이션 비용 부담(매몰 비용) 없이 다양한 산업군별 AX 사례를 직접 체험하고, 업무 과제를 구체화할 수 있도록 지원하는 공간이다. 이곳에는 120여 명의 AI 전문가가 상주하며 프로토타입 개발부터 프로덕션 단계까지 원스톱으로 연결한다.지난해 10월 개소 이후 8개월간 약 200여 개 기업이 이곳을 찾아 AX 적용 가능성을 타진했으며, 이 중 금융사를 포함한 30~40여 개 기업이 실제 업무 현장에 AI를 성공적으로 도입했다. 실례로 한 대형 금융사는 이노베이션 허브에서 설계한 AI 산출물을 영업 현장에 투입해 실질적인 매출 증대 효과를 거두고 있다.시장 일각에서 제기된 글로벌 파트너십 변화 우려에 대해 KT 측은 일축했다.전승록 KT AX전략본부장은 “지척에 한국MS가 있는데 여전히 강력하고 유효한 파트너십을 이어가고 있다”며 “MS 측에서 먼저 비전 수립을 마친 고객이 KT 이노베이션 허브로 이동해 실제 AI 모델을 개발하는 등 강력한 파트너십이 가동중”이라고 강조했다. 이어 전 본부장은 “MS와의 견고한 동맹을 축으로 삼되, 향후 다양한 글로벌 빅테크 기업들과의 컬래버레이션을 확대하기 위해 준비 중”이라고 덧붙였다.KT 관계자가 AX 솔루션을 설명하고 있다(사진=KT)KT ‘AX 하네스’, 빅테크급 퍼포먼스...토큰비용은 20분의 1KT AX 전략의 핵심 실행체는 컨설팅·개발 인력이 원팀으로 움직이는 ‘AX 스쿼드’다. 이들은 ‘6주 검증 프레임워크’를 바탕으로 고객 현장에 직접 투입돼 AI 에이전트 개발부터 현업 피드백 반영, 효과 실증까지 마친다. 장기화되기 일쑤인 PoC(기술검증) 단계를 압축해 본사업 전환 성공률을 극대화하는 방식이다.이 과정에서 핵심 엔진 역할을 하는 기술이 바로 KT가 자체 개발한 ‘KT AX 하네스(Harness)’다.기존 AI 도구들은 대규모 병렬 실행 시 비용이 폭증하거나, 장시간 구동 시 문맥을 상실하고 답변의 일관성이 무너지는 치명적인 한계가 있었다. KT는 에이전트, 도구, 프롬프트 설계를 완전히 내재화한 ‘AX 하네스’를 통해 외부 인프라 의존도를 낮췄다.KT AX 하네스는 기업 맞춤형으로 최적화된 내부 인프라를 활용하고, 결정적으로 토큰 비용도 절약할 수 있다. 3~5분 분량의 ASR(음성인식) 작업 시, 일반 클라우드 기반 모델을 이용하면 약 3만 원 가량의 토큰 비용이 발생하지만, KT의 하네스 엔진을 활용하면 1500원 수준으로 비용을 20분의 1 가까이 절감할 수 있다. 에이전트별 반복 수행 횟수와 모델 중요도를 내부에서 직접 제어해 불필요한 연산을 원천 차단하기 때문이다.또 빅테크의 오픈소스 프레임워크는 물론, 향후 KT 자체 LLM(믿음 등)까지 고객 입맛에 맞게 교체할 수 있는 구조다. 강력한 보안을 원하는 기업에게는 ‘SPC(Secure Public Cloud)’ 옵션을 함께 제공해 확장성을 높였다.KT AX부문 전승록 AX전략본부장이 설명하고 있다(사진=KT)통신 3사 AI 경쟁 리딩…“3년 내 AX 수익화 대폭발 할 것”KT는 올해 초 AX 부문을 신설하고 전사 조직을 B2B AI 사업에 맞춰 재정렬했다. 지난 2년간 축적한 자체 DX(디지털 전환) 실패와 성공의 노하우를 자산화해, 경쟁사와 차별화된 ‘실전형 솔루션’을 공급하겠다는 전략이다.업계가 주목하는 AX 비즈니스의 본격적인 수익화 시점에 대해 KT는 앞으로의 3년을 분수령으로 꼽았다.KT 관계자는 “이미 지난해부터 B2B AX 비즈니스의 트리거는 당겨졌으며 올해 조직 개편을 통해 사업화 구조를 완성했다”며 “국내 최다 데이터센터를 보유한 KT의 ‘AIDC(AI 데이터센터)’ 인프라 구축이 완료되고, 준비 중인 차세대 AI 플랫폼들이 융합되는 향후 3년 시점부터는 관련 매출과 수익이 폭발적으로 성장할 것”이라고 말했다.