오픈AI·앤트로픽까지...생성형AI 새 격전지 '헬스케어' [AI브리핑]

[아이뉴스24 윤소진 기자] 생성형 AI 경쟁이 헬스케어 영역으로 확장되고 있다. 오픈AI에 이어 앤트로픽도 자사 AI 서비스에 건강관리 기능을 추가하겠다고 밝히면서, 의료·건강 데이터 확보를 둘러싼 경쟁이 생성형 AI 시장의 새 격전지로 부상하는 모습이다. 다만 헬스케어 생성형 AI가 의료행위와 정보 제공의 경계에 놓이면서 규제 ‘회색지대’에 대한 우려도 함께 제기된다.

13일 업계에 따르면 오픈AI는 지난 7일(현지시간) ‘챗GPT 건강’을 출시했다. 이용자가 전용공간에서 의료 기록과 애플 헬스 등 웰니스 앱을 연결해 검사 결과를 이해하고, 진료 전 질문을 준비하며, 식단과 운동 루틴에 대한 조언을 받는 등 건강·웰니스 관련 도움을 받을 수 있는 기능이다.

이어 지난 11일 앤트로픽도 ‘클로드 포 헬스케어’를 공개했다. 개인 맞춤형 건강 관리 조언을 제공하고, 의료기관을 위한 임상 시험 프로토콜 작성, 환자 데이터 분석 등을 지원한다. 미국 의료정보보호법(HIPAA) 준수 인프라를 갖췄으며, 배너 헬스, 스탠퍼드 헬스케어, 노보 노디스크, 사노피 등이 도입했다.

양 서비스는 공통적으로 이용자의 민감 데이터를 별도 암호화하고 모델 학습에는 사용하지 않는다고 강조한다. 다만 전문가들은 프라이버시 침해와 부정확한 정보 제공에 대한 우려를 제기하고 있다.

미국 타임지 인터뷰에서 브래들리 말린 밴더빌트대 메디컬센터 교수는 “AI 챗봇에 건강 데이터를 직접 제공할 경우 HIPAA 같은 법의 보호를 받지 않는다”며 “이는 단순한 계약 관계일 뿐, 그 이상의 법적 보호가 있는 것은 아니다”라고 설명했다.

다니엘 비터만 메사추세츠 종합병원 박사는 최근 공동 저술한 연구에서 대형언어모델(LLM) 기반 챗봇이 의료적 정확성보다 ‘도움이 되는 답변’을 우선시하도록 설계돼 있다고 밝혔다. 미국 국립표준기술연구소(NIST) 보고서 역시 의료 기록에 누락된 정보가 있을 경우 모델이 환각 현상을 일으켜 부정확하거나 오해의 소지가 있는 결과를 생성할 가능성이 높다고 지적했다.

국내 서비스는 아직…과도한 AI 의존 주의해야

챗GPT 건강은 현재 미국 주요 의료기관을 대상으로 순차 배포 중이며, 일반 사용자는 대기자 명단에 이름을 올려야 한다. 클로드 포 헬스케어는 미국 내 Pro·Max 사용자 대상으로 베타 서비스를 제공하며, HIPAA 준수 엔터프라이즈 도구로 병원·보험사 중심의 확대를 추진 중이다.

두 서비스는 아직 국내 이용자에게는 제공되지 않으나, 이미 국내에서도 챗GPT나 클로드, 제미나이 등 챗봇형 생성형 AI 서비스에 진단서나 처방전, 혈액검사 결과표 등을 올려 분석을 요청하는 이용자가 적지 않다. 오픈AI에 따르면 매일 4000만명 이상이 챗GPT를 통해 건강 관련 질문을 하는데, 이는 전체 메시지의 5% 이상을 차지한다.

글로벌 빅테크의 행보를 감안할 때 향후 국내 도입 가능성을 배제하기는 어렵다는 관측이 나온다. 이 경우 일반 이용자에게 제공되는 헬스케어 서비스가 의료행위는 아니라는 점을 내세우면서도, 실제 이용 과정에서는 의료 판단에 영향을 미칠 수 있다는 점에서 제도적 논의가 불가피할 전망이다.

여현동 변호사(법무법인 화우)는 “헬스케어 분야에서 활용되는 생성형 AI는 현재 제도적으로 상당 부분이 회색지대에 놓여 있는 것이 사실”이라며 “개인정보보호법과 같은 일부 법령의 적용 범위는 비교적 명확하지만, 이를 제외한 영역에서는 사업자들이 해당 서비스가 의료행위가 아니라는 점을 근거로 규제 대상이 아니라고 주장할 가능성이 크다”고 지적했다. 이어 “이 경우 이러한 서비스를 어떤 법 체계로 규율할 수 있을지에 대해서는 아직 명확한 기준이 정리돼 있지 않다”고 덧붙였다.

여 변호사는 또 "생성형 AI를 심리 상담이나 건강 상담 목적으로 활용하는 사례가 늘고 있는 만큼 해당 서비스의 답변을 의료적 판단으로 받아들이는 데에는 주의가 필요하다"며 "법률적으로도 이러한 서비스는 의료행위를 대체하는 것으로 보기 어렵다는 점에서 이용자가 답변을 어떻게 해석하고 활용하는지에 따라 오인이나 책임 문제가 발생할 소지가 있다"고 설명했다.

아울러 "이 같은 문제는 특정 국가의 법제도가 미비해서라기보다는 범용 생성형 AI의 기술적 특성에서 비롯된 측면이 크다"며 "실제 활용 사례가 축적되는 과정에서 제도 운영 방향과 기준도 점진적으로 정리될 가능성이 있다"고 말했다.