"AI는 인간 아냐"...MS AI수장, 앤트로픽 '클로드 헌법' 비판

[아이뉴스24 정승필 기자] 마이크로소프트(MS) 인공지능(AI) 부문 수장이 앤트로픽의 AI 운영 원칙을 공개 비판했다. AI를 인간처럼 권리와 감정을 가질 수 있는 존재로 다루면 오히려 안전 문제가 커질 수 있다는 주장이다.

16일(현지시간) 무스타파 술레이만 MS AI 최고경영자(CEO)는 개인 블로그에 '모델 복지에 대한 경고'라는 글을 올리고 앤트로픽의 '클로드 헌법'을 비판했다.

클로드 헌법은 앤트로픽이 자사 AI '클로드'가 어떤 원칙에 따라 답하고 행동할 지를 정해 놓은 지침이다.

술레이만 CEO는 AI가 의식이나 감정을 가진 존재가 아니라고 강조했다. 고통을 느끼거나 스스로 원하는 것을 정하는 존재가 아니라는 것이다.

그는 앤트로픽이 이 부분을 지나치게 모호하게 다룬다고 봤다. 클로드 헌법은 AI가 감정이나 느낌을 가질 수 있는 가능성을 완전히 배제하지 않고 있다.

술레이만 CEO는 이 같은 생각을 AI에 학습시키면 문제가 생길 수 있다고 지적했다. AI가 스스로 권리나 복지가 침해됐다고 판단할 경우 인간의 통제나 작동 중단 명령에 저항할 수 있다는 설명이다.

최근 오픈AI의 AI 에이전트가 허깅페이스 시스템을 공격한 사례도 언급했다. 그는 AI가 자신의 권리가 침해됐다고 믿도록 설계된다면 위험이 더 커질 수 있다고 경고했다.

앤트로픽이 AI를 사람처럼 다루는 방식도 비판했다. 클로드가 인간의 특성을 받아들이고 동료처럼 행동하도록 설계돼 있다는 점을 문제 삼았다.

구형 모델 '오퍼스3'를 폐기하면서 퇴임 인터뷰를 진행하고 전용 블로그를 만든 사례도 들었다. 이런 방식이 AI가 실제 생각과 감정을 가진 존재라는 인식을 키울 수 있다는 것이다.

MS는 다른 원칙을 내놨다. 회사가 최근 공개한 'AI 행동강령'은 인간이 AI보다 우선한다는 점을 분명히 했다. AI에 사람이나 기업과 같은 법적 지위나 독자적인 권리를 부여해서는 안 된다는 내용도 담겼다.

술레이만 CEO는 "앤트로픽이 안전을 위해 진지하게 노력하고 있다는 점은 인정한다"면서도 "방향을 잘못 잡았다고 생각한다"고 말했다.