"비용 줄이고, 정확도 높이고"…코난테크놀로지, AI 상용화 전략 공개

[아이뉴스24 윤소진 기자] 생성형 인공지능(AI)이 실제 업무 현장에 적용되려면 '정확한 대답'이 필수다. 코난테크놀로지가 한국어 특화 범용·추론 통합 거대언어모델(LLM)과 기업 내부 데이터와 일반 웹 검색을 동시에 활용해 답변 신뢰도를 높이는 'RAG-X'를 13일 선보였다. 이를 앞세워 공공부터 의료, 국방까지 다양한 시장에 진출한다.

범용·추론 통합 LLM과 자체 개발 RAG 기술로 활용도 UP

이날 코난테크놀로지는 서울 광화문 코리아나 호텔에서 기자간담회를 열고 신제품 3종과 사업 전략을 공개했다. 김영섬 코난테크놀로지 대표는 "생성형 AI의 핵심은 모델 성능 경쟁이 아니라 실제 업무 수요를 반영하고 실질적 가치를 창출하는 것"이라고 밝혔다.

코난LLM 'ENT-11'은 일반 모드와 추론 모드를 하나의 모델에 결합한 것이 특징이다. 단순한 연산은 일반 모드를, 복잡한 문제 해결은 추론 모드를 선택적으로 활용해 효율성을 높인 것이 특징이다.

도원철 코난테크놀로지 연구소 상무는 "한국어로 추론 과정을 보여주는 모델은 코난LLM이 유일하다"며 "범용 모델과 추론 모델을 각각 도입하는 경우 단일 모델을 사용하는 것보다 비용이 1.5~2배 정도 추가된다"고 설명했다. 반면에 코난LLM ENT 11은 1개의 단일 모델로 통합 제공되기 때문에 비용을 크게 절감할 수 있다.

LLM의 고질적인 문제로 꼽히는 환각현상(할루시네이션)을 해결하기 위한 검색증강생성(RAG) 기술도 공개했다. 코난 RAG-X는 사내 문서, 내부 DB, 기존 레거시 시스템은 물론 외부 웹과 공개 데이터까지 연동이 가능하다. 내부 자산은 보호하면서도 외부 지식과 결합된 신뢰도 높은 응답을 제공하도록 설계됐다. 복잡한 시장·트렌드 분석부터 경쟁사·업계 동향 파악 등 다양한 업무에 활용할 수 있다.

임완택 코난테크놀로지 전략기획본부 상무는 "기업간거래(B2B) 온프레미스 LLM의 경우 회사 내부의 지식은 학습하지만 외부 최신 데이터에 대한 활용에 한계가 있었다"며 "RAG-X는 고객사 내부 정보와 인터넷 상의 최신정보, 해외 정보, 최신 연구 논문 등 모든 소스에서 정보를 찾아주기 때문에 기업의 빠른 의사결정, 리스크 조기 감지 및 대응 비용 절감 등의 효과를 가져온다"고 말했다.

자체 LLM 탑재 AI PC 출시…올해 적자폭 축소 기대

코난테크놀로지는 자체 LLM을 내장한 AI PC 'AI스테이션’과 기업형 AI 서버 ‘코난 AI스테이션 서버’를 출시한다. 7B 크기로 경량화된 코난 LLM이 탑재돼 문서요약, 번역, 보고서 생성 등을 지원한다.

AI스테이션은 TG 삼보 PC에 사전 탑재된다. 별도 설치나 설정 없이 오프라인에서도 AI를 바로 사용할 수 있다. TG 삼보는 공공 및 연 40만대 규모의 조달 시장을 중심으로 판매를 추진한다. 현재 조달청 나라장터에 등록 절차를 진행 중이며 6월말 완료를 앞두고 있다. 가격은 900만원선으로 책정됐다.

코난테크놀로지는 올해 신규 LLM과 AI PC 등 AI 제품군 확장을 통해 공공, 의료, 국방 등 다양한 분야에 적극 진출한다는 목표다. 이미 지난해 한국남부발전 생성형AI 구축, 한림대학교 의료원 의무기록지 생성, 국민권익위원회 행정심판 신청서 작성 등 다양한 기관, 기업과 기술검증(POC)를 진행해 성능을 입증했다.

임완택 상무는 "하반기 AI PC 조달시장 규모가 20만대라고 예상하면 이중 5~10% 판매 가능할 것으로 예상된다. 또 지난해 진행한 PoC가 올해 실제 계약으로 이어지는 성과가 다수 기대된다"며 "국방 분야에서도 다양한 활용 논의가 이어지고 있어 올해 매출 성장을 전망한다. 적자도 큰 폭으로 줄일 수 있을 것"이라고 말했다.