AI 도입하면 끝?…기업 AX 현장서 마주한 '데이터의 벽'

[아이뉴스24 박지은 기자] 국내 기업들이 인공지능 전환(AX)에 속도를 내면서 인공지능(AI)을 실제 업무에 적용하기 위한 작업도 본격화하고 있다.

전담 조직을 꾸리고 다양한 프로젝트를 진행하는 가운데 현장에서는 '데이터'가 중요한 과제로 떠오르고 있다.

기업이 가진 데이터를 AI가 제대로 활용할 수 있게 정리하고, 현업의 경험과 노하우까지 학습시키는 과정이 생각보다 쉽지 않아서다. AI뿐 아니라 이를 뒷받침할 데이터와 인력에도 투자가 필요하다는 목소리가 나온다.

AI 도입해보니…첫 관문은 '데이터'

21일 서울 코엑스에서 열린 'AI 서밋 서울 & 엑스포 2026'에서는 AX를 추진하고 있는 기업 관계자들이 이 같은 고민을 공유했다.

이날 기업 관계자들이 공통적으로 꺼낸 화두 중 하나는 데이터였다. 회사에 데이터가 많더라도 이를 그대로 AI에 넣는 것만으로 원하는 결과를 얻기는 어렵다는 것이다.

최용민 우리금융지주 AI전략센터장은 "금융권은 데이터가 정말 많은데 AI를 활용해서 뭔가를 해보면 잘 안 된다"며 "기존 데이터를 AI에 넣어봤더니 생각보다 성능이 잘 나오지 않았고 현업 전문가들의 결과물과도 차이가 났다"고 말했다.

우리금융은 기술검증(PoC) 단계에서 AI가 전문가와 비슷한 수준의 결과를 내기도 했다. 하지만 실제 업무로 범위를 넓히자 다뤄야 할 데이터가 수천개로 늘어났다.

이 가운데 필요한 정보를 골라내고 중요도를 구분하는 데 어려움이 생기면서 기술검증 때보다 AI 성능이 떨어지는 경우도 있었다고 최 센터장은 소개했다.

현업 직원들이 오랜 기간 쌓은 경험도 중요한 문제였다. 같은 재무정보라도 산업에 따라 중요하게 봐야 할 숫자가 다르고, 숙련된 직원들은 수많은 자료 가운데 무엇을 먼저 봐야 하는지를 경험으로 판단하기 때문이다.

LG전자도 비슷한 고민을 겪고 있다. 해외에서 제품이 얼마나 팔릴지 예상하고 생산량과 국가별 공급량을 결정하는 과정에는 여러 조직의 경험과 판단이 축적돼 있다.

황윤희 LG전자 상무는 "각 팀에 암묵지가 쌓여 있다"며 현업의 경험을 데이터로 만들고 데이터 전문가와 같은 기준을 갖도록 하는 과정이 쉽지 않았다고 말했다.

암묵지는 오랜 경험을 통해 쌓여 말이나 문서로 명확하게 설명하기 어려운 개인이나 조직의 지식과 노하우를 뜻한다.

데이터를 한곳에 모으는 것만으로는 부족했다. AI가 실제 업무에 활용할 수 있도록 필요한 데이터를 골라내고 정리·연결하는 작업도 뒤따라야 했다.

황 상무는 "AI들이 실제로 돌아가려면 데이터와 한 몸으로 움직여야 하는데 데이터에는 많은 신경을 쓰지 않는다"고 말했다. AI 투자 못지않게 데이터를 정비하고 이를 다룰 인력을 키우는 작업에도 관심이 필요하다는 설명이다.

AI 성과 내려면…사람·조직 변화도 숙제

AX가 실제 성과로 이어지는 과정에서는 사람과 조직의 변화도 과제로 꼽혔다.

경영진은 업무시간이나 비용을 얼마나 줄였는지, 매출에 얼마나 기여했는지 등 구체적인 숫자를 요구하지만 현장에서는 그에 앞서 기존 업무 방식을 바꾸는 과정이 필요했다는 지적이다.

AI로 대체된 업무를 하던 직원들에게 다른 업무가 주어졌을 때 반응도 제각각이라는 후문이다. 반복 업무가 줄어드는 것을 반기는 직원이 있는 반면 오랫동안 맡아온 업무가 바뀌는 데 부담을 느끼는 직원도 있었다고 했다.

직원들의 노하우를 AI와 어떻게 공유할지도 문제다. 이승환 삼일PwC 부대표는 개인이나 팀이 쌓아온 경험을 AI에 제공하도록 하려면 이에 맞는 보상체계도 고민할 필요가 있다고 봤다.

의사결정권자의 역할도 중요하다는 의견이 나왔다. 현장에서 만난 한 대기업 임원은 "결국 버튼을 눌러 시작하고자 하는 분의 의지가 정말 중요하다"고 말했다.

삼성은 임원평가까지…AX 실행 속도

기업들은 AX를 현장으로 확산하기 위한 장치도 마련하고 있다. 삼성은 최근 전 그룹사 임원 2300여명을 대상으로 'AX 캠프'를 진행한 데 이어 전 계열사 임원의 목표관리(MBO) 평가에서 AX 추진 실적에 20%를 배정한 것으로 전해졌다.

삼성전자 디바이스경험(DX)부문에서는 이달 구성원들이 자신의 업무를 1~7단계 레이어(L)로 나눠 작성하는 작업도 진행됐다. 업무의 순서와 방식을 세부적으로 정리해 AI 적용을 준비하는 작업의 하나로 전해졌다.

현대차그룹도 2019년부터 차량 기획·개발·생산·판매 등에 흩어진 데이터를 연결하고 업무 체계를 정비해왔다. 최근에는 AI를 활용해 연구개발(R&D) 자료 탐색 시간을 약 90% 줄이는 등 성과도 공개했다.

현장의 관심도 높았다. 이날 행사장을 찾은 한 은행 AX 담당 직원은 "다른 기업들의 AX 사례를 듣고 우리 회사에 적용할 아이디어가 있는지 들으러 왔다"고 말했다. 전자업계 AX 담당 직원도 "각사마다 AX를 주도하는 팀이 신설되고 프로젝트도 동시다발적으로 진행되고 있다"고 전했다.