고위험 AI 관리부터 생성물 표시 완화까지…올 1월 시행 'AI기본법' 개정안 벌써 17건

[아이뉴스24 안세준 기자] 올해 1월 시행된 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI기본법)을 손보려는 의원입법이 잇따르고 있다.

7일 국회에 따르면 올해 1월22일부터 지난 3일까지 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안은 총 17건이 발의됐다. 이 중 9건이 6월22일부터 지난 3일까지 몰려 있다. 2건은 입법예고가 진행 중이다. 나머지 7건은 소관 상임위원회인 국회 과학기술정보방송통신위원회에 회부된 상태다.

고영향 AI·에이전트 등⋯안전·보안 규율 보강

김성원 국민의힘 의원 등 10인은 지난 3일 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안을 발의했다. 국가안보와 공공안전에 영향을 줄 수 있는 AI 위험에 대응하는 데 초점을 맞췄다.

고성능 AI 모델 등장으로 새로운 형태의 국가안보·공공안전 위협이 현실화되고 있다. 하지만 현행법은 고영향 AI에 관한 일반적인 사항만을 규정하고 있을 뿐, 고위험 모델에 대한 별도의 안전관리·사이버위협 대응체계는 미흡하다는 견해다.

개정안에는 국가안보·공공안전에 중대한 위험을 초래할 우려가 있는 고위험 인공지능 모델을 국가가 지정·관리할 수 있도록 하는 법적 근거가 담겼다. 의원실 측은 제안사유를 통해 "고영향 인공지능 사이버위협 대응체계를 구축해 국가 핵심 기반시설과 국민을 두텁게 보호하려는 것"이라고 설명했다.

김현 더불어민주당 의원 등 12인도 지난 6월 25일 개정안을 발의했다. 이를 통해 사업자가 AI 에이전트의 권한 범위를 사전에 설정하고 외부 시스템 연계에 따른 보안·오작동 위험을 관리하도록 했다.

채현일 민주당 의원 등 12인은 지난 7월 21일 공공기관이 AI를 활용할 경우 사전 보안 심사와 시스템 접근권한 통제, 공공데이터 유출 차단 등을 의무화하는 내용의 개정안을 발의했다.

학습데이터 활용 길 열고 생성물 표시의무 세분화

산업 현장의 규제 불확실성을 줄이려는 개정안도 나왔다.

이훈기 민주당 의원 등 10인은 6월 26일 개정안을 통해 개인정보가 아닌 학습용데이터를 AI 개발·학습 등에 활용할 수 있다는 원칙을 법에 명시했다. 개인정보 보호법이 직접 규율하지 않는 영역의 법적 공백을 보완하겠다는 취지다.

생성형 AI 결과물 표시 의무도 정비 대상이다. 김우영 민주당 의원 등 17인은 지난 7월 8일 개정안을 발의하고, 배경 생성이나 색 보정 등 단순 편집 보조에 AI가 쓰인 경우 표시 의무에서 제외하도록 했다. 이를 통해 사업자 부담을 완화하고 산업 발전을 촉진하겠다는 것이다.

안철수 국민의힘 의원은 인공지능 생성물의 표시 의무를 AI 개발사업자와 이용사업자의 역할에 따라 구분하는 내용의 개정안을 지난달 26일 대표발의했다. AI 개발사업자는 기계가 판독할 수 있는 방식으로, 이를 활용한 서비스 사업자는 이용자가 알아볼 수 있는 방식으로 표시하도록 책임을 구분했다.

노동·인권·아동까지…AI 보호 범위 확대

노동·인권 보호 범위를 확대하는 법안도 발의됐다. AI가 채용 이후 직무배치·업무 할당·인사관리 등에 활용됨에 따라 과도한 통제 우려가 제기되고 있는 데다, 근로자 고용 안정성과 직업 환경에 대한 위험요인으로도 작용될 수 있다는 것이다.

이에 전종덕 진보당 의원 등 11인은 개정안을 통해 근로자 또는 노무제공자에 대한 직무배치, 업무 할당, 인사관리 등에 관한 의사결정에 중대한 영향을 미치는 인공지능을 '고영향 인공지능' 범위에 포함시키도록 했다. 국민 기본권 보호와 인공지능 활용 신뢰 기반을 강화하겠다는 취지다.

이외에도 아동·청소년을 AI 취약계층에 포함해 피해 예방·보호 정책을 마련하도록 하는 개정안도 과방위로 회부됐다.

국회 관계자는 "기본법이 시행된 지 오래되지 않은 만큼 실제 제도 운용 과정에서 제기되는 보완 필요성을 반영한 개정안이 계속 발의되고 있다"며 "법안 심사 과정에서 산업계와 이용자 등 각계 의견을 반영한 논의가 이어질 것으로 보인다"고 말했다.