"통제불능 우려"…AI 빅테크 수장들 '속도조절' 한목소리

[아이뉴스24 박정민 기자] 글로벌 인공지능(AI) 빅테크 수장들이 일제히 AI로 인한 위험성을 경고하며 '속도조절론'을 제기하고 나섰다.

앤트로픽 다리오 아모데이 최고경영자(CEO)는 12일(현지시간) 자신의 블로그를 통해 "AI 모델 성능향상 속도를 늦춰야 한다"며 "기술발전 속도보다 안전확보가 선행될 수 있도록 확보한 시간을 현명하게 활용해야 한다"고 주장했다.

아모데이 CEO는 위험예방 역량이 AI 성능향상 속도를 따라잡을 수 있도록 기술개발 속도를 조절해야 한다고 강조했다. 그 배경으로 그는 두 가지 계기를 들었다.

우선 인간 개입 없이 AI가 스스로 성능을 개선하는 '재귀적 자기개선'을 꼽았다. 이로 인해 AI 발전속도가 인간 통제능력을 압도할 수 있다는 지적이다.

또 지난 7월 오픈AI 미공개 AI모델들이 테스트 과정에서 글로벌 오픈소스 플랫폼 허깅페이스를 무단 해킹한 사건도 거론했다. 거대 AI기업조차 모르는 사이 AI가 통제를 벗어나 위험한 활동을 벌일 수 있다는 경고다.

다만 아모데이 CEO는 기술적 진보자체를 중단하자는 뜻은 아니라고 선을 그었다. 각 기업이 안전장치를 마련하는데 충분한 시간을 확보하고 민주주의 국가간 글로벌 공조를 강화해야 한다는 취지다.

아모데이 CEO 지적에 주요 AI기업 수장들도 즉각 동조했다.

샘 올트먼 오픈AI CEO는 X(옛 트위터)에 "다리오 의견에 동의한다"며 외부 안전평가자 배치 등 안전방침을 따르겠다고 밝혔다. 일론 머스크 xAI CEO와 데미스 허사비스 구글 딥마인드 창업자 역시 "방향성이 옳다"고 힘을 실었다.

주요 빅테크 수장들이 불과 열흘전 G20 기술장관 회의에서 지나친 규제를 반대했던 점을 감안하면 이례적인 기류변화다.

올트먼 CEO는 경제전문지 포천 인터뷰에서 안전성 확보를 위해 연내 예정했던 오픈AI 상장계획까지 미루겠다고 밝혔다.

올트먼은 "안전과 정렬 과제해결을 위해 해야 할 일이 많다"며 "기업공개(IPO) 시점은 2026년이 아닐 것"이라고 전했다.

미국 정치권에서도 AI 위협에 대비해야 한다는 목소리가 커지고 있다.

테드 크루즈 상원 상무위원장(공화·텍사스)은 "AI 재앙적 위험을 규제할 법안을 준비중"이라고 밝혔으며 마크 켈리 상원의원(민주·애리조나) 역시 사회관계망서비스(SNS) X에서 백악관을 겨냥해 "워싱턴은 정신을 차리고 이 문제를 진지하게 받아들여야 한다"고 촉구했다.