KT, 1200억 파라미터 '믿음 K 3.0 프로' 이달 출시

[아이뉴스24 안세준 기자] KT(대표 박윤영)가 추론과 인공지능(AI) 에이전트 기능을 강화한 자체 AI 모델 '믿음 K 3.0 프로(가칭)'를 이달 말 출시한다. 1200억개 파라미터를 갖춘 전문가 혼합(MoE) 구조를 적용하고, 긴 문서 분석과 외부 도구를 활용한 업무 수행 능력을 강화한 것이 특징이다. 법률 특화 AI 모델도 연내 선보일 계획이다.

13일 통신업계에 따르면 KT는 믿음 K 3.0 프로를 10월 말 출시하는 것을 목표로 준비하고 있다. 모델 성능 수준과 효율성, 사업적 요구 등을 고려해 믿음 K 3.0 기본 모델 대신 프로 버전을 내놓을 계획이다.

믿음 K 3.0 프로는 MoE와 추론 기능을 결합한 하이브리드 모델이다. 전체 파라미터 규모는 1200억개(120B)에 달한다. 이 가운데 추론 과정에서 활성화되는 파라미터는 120억개(12B)다. 필요한 연산 자원을 선택적으로 활용해 성능과 효율성을 함께 확보하는 구조다.

한 번에 처리할 수 있는 문맥 길이(컨텍스트)는 256K 토큰이다. 긴 문서와 대화 이력을 유지하면서 앞뒤 맥락을 연결해 답변할 수 있다. 질문 난이도에 따라 추론 깊이를 조절하는 로우·하이(Low/High) 추론 기능도 지원한다.

AI 에이전트 기능도 강화했다. 외부 도구를 호출해 검색과 분석, 실행을 연결하고 복잡한 업무를 자동화하는 에이전트 추론을 지원한다. 문서를 업로드하면 내용을 파악해 요약·비교·질의응답 등 문서 기반 업무를 수행할 수 있다.

KT에 따르면 믿음 K 3.0 프로는 엔비디아의 네모트론 3 슈퍼(Nemotron 3 Super) 등 경쟁 모델과 비교해 한국어 생성 속도가 30% 빠르다.

법률 특화 AI 모델도 연내 출시를 목표로 개발하고 있다. 법령과 판례를 기반으로 생활법률 질의응답부터 판례 분석, 계약 검토, 법률 문서 초안 작성 등을 지원한다. 현재 KT 내부 사업 제안과 개념검증(PoC)에 활용되고 있다. 정식 모델명은 확정되지 않았다.

KT는 음성·이미지·텍스트를 함께 이해하는 멀티모달 모델 믿음 K 2.0 옴니 베이직도 선보였다. 상세한 답변은 텍스트로 제공하고 핵심 내용은 음성으로 요약해 전달하는 듀얼 리스폰스 기능을 지원한다.

류휘정 KT AX미래기술원 프론티어 AI Lab 팀장은 "믿음 K 3.0 모델은 고품질 한국어 데이터에 기반해 개발되어 한국 기업 환경에 최적화된 모델"이라며 "언어 모델의 온프레미스 배포 및 오프라인 추론 지원 등 기업별 운영 환경과 업무 요구에 유연하게 대응이 가능한 점이 장점"이라고 말했다.