정부, AI 허위·과장 광고 차단 정조준⋯플랫폼 업계 예의주시(종합)

[아이뉴스24 정유림·윤소진 기자] 정부가 생성형 인공지능(AI) 기술을 활용한 허위·과장 광고 피해를 막기 위해 'AI 생성물 표시제'를 도입한다. 플랫폼 기업에는 표시 방법과 의무를 고지하는 등 책임이 부과된다. 네이버와 카카오 등 관련 업계에서는 AI 생성물을 악용한 피해를 최소화하기 위한 정책을 각자 마련해 놓은 가운데, 서비스를 제공하는 기업의 책임·관리 영역이 증가할 것으로도 예상되면서 향후 대책 마련에 분주한 모습이다.

10일 정부는 김민석 국무총리 주재로 제7회 국가정책조정회의를 열어 이러한 내용을 골자로 하는 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안'을 발표했다. 이번 발표는 최근 식·의약품 분야를 중심으로 AI를 활용한 허위·과장광고가 범람하는 가운데 기술 발달로 진위 구분이 쉽지 않아 국민의 피해가 우려된다는 판단에 따른 것이다.

이와 관련해 네이버 관계자는 "정부 발표와 관련해 내부적으로도 살펴보고 있다"며 "AI 생성물이 아니더라도 그동안 이용자의 권익이 침해될 소지가 있는 부분에 대해서는 신고 절차나 모니터링 강화 등을 통해 대응해 왔으며 AI 생성물과 관련해서도 추가적으로 필요한 부분이 있는지 살펴볼 것"이라고 했다.

최근 AI를 활용해 이미지 등을 더 손쉽게 만들 수 있게 됐고 인터넷 서비스의 다양한 영역에서 콘텐츠가 유통되는 만큼 네이버는 관련 대응책을 마련해 놨다. 이용자가 블로그 게시글을 쓸 때 이미지를 첨부하는 경우 '인공지능(AI) 활용'을 선택하도록 권장해 이미지가 AI로 만들어진 것인지 이용자가 알 수 있도록 하고 있다. 이는 카페와 동영상 서비스 네이버TV 등에도 적용돼 있다.

AI로 제작한 영상이 많아지는 만큼 AI 라벨이 적용되지 않은 숏폼(짧은 영상) 서비스 클립에 대해서는 명확한 기준과 체계에 기반해 더 엄격한 기준을 토대로 수익화 도구를 운영하기 위해 정책을 개정해 시행하고 있다.

카카오 관계자도 "(정부 발표와 관련해) 내부적으로 살펴보고 있다"며 "향후 제도가 구체화하는 부분을 면밀히 검토하며 정책에 맞춰 대응을 해가고자 한다"고 했다. 카카오는 'AI 위험 관리 체계' 등 생성형 AI에 관한 가이드라인과 정책을 마련해 놨으며 AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법) 시행도 앞둔 만큼 이를 준수하기 위해 내부적으로 대응·검토를 진행하고 있다.

AI 서비스를 제공하는 업체들도 관련 대응을 해왔다. AI 전문 기업 스캐터랩 관계자는 "구체적인 정부 조치가 도입되기 전부터 AI 생성물 워터마킹과 관련된 조치를 선제적으로 적용해 왔다"며 "이용자가 AI 생성물인지 사람이 만든 콘텐츠인지 혼동하지 않도록 글로벌 논의에 맞춰 내부 기준을 먼저 마련해 둔 상태"라고 말했다.

AI 영상 합성 전문 기업인 딥브레인AI 관계자는 "AI 기본법의 취지와 하위 규정 방향에 맞춰 생성형 콘텐츠의 투명성과 신뢰성을 강화하는 체계를 선제적으로 준비하고 있다"며 "생성형 이미지와 영상에는 AI 생성 사실을 명확히 식별할 수 있는 워터마크와 표시 체계를 단계적으로 적용해 이용자와 외부 이해 관계자가 쉽게 인지할 수 있도록 할 계획"이라고 말했다.

AI 생성물 표시제 추진⋯플랫폼, 정보 제공자 표시 의무 준수 관리

방송미디어통신위원회(방미통위)는 AI 생성물이 실제가 아니라는 점을 소비자가 정확히 알 수 있도록 돕고자 'AI 생성물 표시제'를 도입한다는 방침이다. AI 생성물을 제작·편집해 플랫폼에 게시하는 사람은 자료를 AI로 만들었다는 사실을 표시해야 한다. 다른 이용자가 AI 생성물 표시를 제거하거나 훼손하는 행위는 금지된다.

플랫폼 기업은 정보 제공자가 표시 의무를 준수하는지 관리해야 한다. 이와 별도로 AI 사업자의 AI 생성물 표시 의무 이행, AI 생성물의 투명한 사용을 돕기 위한 가이드라인도 마련한다. 정부는 이를 위해 내년 1분기 내로 정보통신망법 등을 개정할 방침이다.

위법 행위자에 대한 제재도 강화된다. AI를 악용한 허위 정보에 대한 징벌적 손해배상제도가 도입된다. 일정 규모 이상의 정보 게재자(인플루언서 등)가 허위임을 알면서도 타인을 해할 의도로 허위·조작 정보를 유통한 경우, 실제 발생한 손해의 최대 5배 배상 책임을 질 수 있다.

표시광고법상 과징금 수준을 대폭 상향해 허위·과장 광고 위반 행위에 대한 제재 효과도 높일 방침이다. 또 AI로 만든 전문가가 제품을 추천하는 광고에 대한 위법성 판단 기준 자체를 명확하게 설정해 허위·과장 광고를 신속하게 제재할 수 있도록 할 방침이다.

식·의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장 광고가 빈발하는 분야를 서면 심의 대상에 추가하는 방안을 추진한다. 이로써 이 영역의 허위 광고에 대해 심의 요청 후 24시간 이내 신속한 심의가 이뤄질 수 있도록 한다.

플랫폼 기업에 대한 긴급 시정요청 절차도 도입해 국민 생명·재산의 피해 우려가 큰 경우 방송미디어통신심의위원(방미심위) 심의 완료 전 문제 광고에 대한 차단 조치가 이뤄질 수 있도록 할 방침이다. 각 부처·기관은 관련법 개정 등을 통해 사안별로 이르면 내년 1분기, 장기적으로는 내년 하반기까지 방안을 실제 이행할 계획이다.

플랫폼 기업에 대한 긴급 시정요청 절차도 도입해 국민 생명·재산의 피해 우려가 큰 경우 방송미디어통신심의위원(방미심위) 심의 완료 전 문제 광고에 대한 차단 조치가 이뤄질 수 있도록 할 방침이다. 각 부처·기관은 관련법 개정 등을 통해 사안별로 이르면 내년 1분기, 장기적으로는 내년 하반기까지 방안을 실제 이행할 계획이다.