[AI & LAW] 우리 회사 'AI 지도' 그려야

[아이뉴스24 정종오 기자] 올해 1월 22일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’, 이른바 ‘AI 기본법’이 시행됐다. 7월 21일에는 일부개정법과 개정 시행령까지 시행돼 공공부문의 AI 도입 등 진흥 장치도 보강됐다. 한국의 AI 법제는 이제 입법 논의를 넘어 기업이 실제로 대응해야 하는 단계에 들어섰다.

국외의 시간표도 빠르게 움직이고 있다. 유럽연합(EU)은 최근 ‘디지털 옴니버스’ 개정으로 채용·신용평가 등에 쓰이는 독립형 고위험 AI 규제의 적용을 2027년 12월로 늦췄다. 챗봇임을 알리고 AI 생성물을 식별·표시하도록 하는 투명성 의무는 예정대로 2026년 8월 2일부터 적용하고 있다.

규제의 속도는 달라도 기업이 마주한 질문은 같다. “그래서 우리 회사는 지금 무엇을 해야 합니까?”

AI 기본법은 산업 진흥을 위한 기본법인 동시에 고영향 AI와 생성형 AI에 일정한 의무를 부과하는 규제법이다. 기업은 적어도 다음 세 가지 질문에 답할 수 있어야 한다.

첫째, 우리 회사는 어떤 AI를 어디에서 쓰고 있는가?

AI 기본법상 ‘인공지능사업자’에는 AI를 개발해 제공하는 ‘인공지능개발사업자’뿐 아니라 다른 사업자가 제공한 AI를 이용해 AI 제품이나 서비스를 제공하는 ‘인공지능이용사업자’도 포함된다. 외부 대규모 언어모델(LLM)의 API를 자사 쇼핑몰 상담 챗봇에 결합해 고객에게 제공하는 기업이 대표적이다.

반면 임직원이 생성형 AI로 내부 문서를 요약하는 것처럼 AI를 내부 업무에 이용하는 기업이 그 사정만으로 곧바로 인공지능이용사업자가 되는 것은 아니다. 다만 이 경우에도 개인정보, 영업비밀, 저작권 등의 위험은 남는다. 공식 도입 시스템은 물론 개별 부서의 SaaS와 임직원의 비공식적 이용, 이른바 ‘섀도 AI’까지 함께 파악해야 하는 이유다.

둘째, 그 AI가 사람의 중요한 권리나 기회를 좌우하는가?

AI 기본법은 생명·신체의 안전이나 기본권에 중대한 영향을 미칠 우려가 있는 일정한 시스템을 ‘고영향 인공지능’으로 규정한다. 대출·보험 심사, 채용, 의료 등에서 AI가 사람에 관한 결정을 내리거나 결정에 중대한 영향을 준다면 더 세밀한 검토가 필요하다.

판단 근거를 추적·설명할 수 있는지, 특정 집단에 불리한 편향은 없는지, 사람이 적절히 감독할 수 있는지가 실무 쟁점이 된다. 인공지능사업자는 AI 또는 이를 이용한 제품·서비스를 제공하기 전에 고영향 AI 해당 여부를 검토해야 한다. 판단이 어렵다면 과학기술정보통신부에 공식 확인을 요청할 수 있다. 이는 7월 개정으로 신설된 공공조달용 ‘AI 제품·서비스 확인 제도’와는 별개의 절차다.

셋째, 이용자는 자신이 AI를 상대하거나 AI가 만든 결과물을 보고 있다는 사실을 아는가?

AI 기본법은 고영향 AI나 생성형 AI를 이용한 제품·서비스를 제공할 때 AI에 기반해 운용된다는 사실을 사전에 알리도록 한다. 생성형 AI의 결과물에는 AI가 생성했다는 사실을 표시해야 하고, 실제와 구분하기 어려운 가상의 음향·이미지·영상에는 보다 명확한 고지나 표시가 요구된다.

고지와 표시는 약관·설명서·화면 등을 활용할 수 있고, 결과물에는 사람이 인식하거나 기계가 판독할 수 있는 방식을 사용할 수 있다. AI 활용 사실이 이미 명백하거나 사업자의 내부 업무에만 사용되는 경우에는 예외도 있다. 결국 중요한 것은 화면마다 같은 문구를 붙이는 것이 아니라 서비스 구조와 이용자 경험에 맞춰 어디에서, 누구에게, 어떤 방식으로 알릴지를 설계하는 일이다.

가장 먼저 필요한 것은 ‘AI 지도’다.

AI 기본법 대응이라고 하면 거창한 윤리위원회나 규정을 먼저 떠올리기 쉽다. 순서는 반대다. 회사 안의 AI부터 찾아야 한다. AI의 제공자와 이용부서, 목적, 투입 데이터, 외부 제공 여부, 의사결정에 미치는 영향, 사람의 검토 절차를 하나의 목록으로 정리해야 한다.

그 위에서 AI 기본법, 개인정보보호법, 저작권법, 영업비밀, 산업별 규제와 해외 규제를 연결해 볼 수 있다. 기업의 AI 컴플라이언스는 결국 하나의 질문에서 시작된다.

“우리 회사는 지금 어디에서 AI를 쓰고 있는가?”

이 질문에 답할 수 없다면 위험을 관리할 수도, AI의 가능성을 제대로 활용할 수도 없다. AI 시대의 첫 번째 법적 과제는 새로운 규정을 외우는 것이 아니라 우리 회사의 ‘AI 지도’를 그리는 일이다.

이광욱 변호사(법무법인 화우) kwlee@yoonyang.com