"엔비디아 GB300보다 빨라"⋯오픈AI, 첫 자체 AI칩 연내 가동

[아이뉴스24 정승필 기자] 오픈AI가 자체 개발한 인공지능(AI) 칩 '할라페뇨(Jalapeno)'를 연내 자사 서비스에 투입한다. 챗GPT 같은 AI 서비스를 운영하는 데 드는 반도체와 전력 비용을 줄이기 위해서다.

26일 블룸버그통신에 따르면 리처드 호(Richard Ho) 오픈AI 하드웨어 총괄은 자체 성능 시험에서 할라페뇨가 엔비디아의 AI 칩 'GB300'보다 전력 효율과 응답 속도에서 앞섰다고 밝혔다.

할라페뇨는 오픈AI가 반도체 업체 브로드컴과 함께 개발한 첫 자체 AI 칩이다. AI를 학습시키는 용도보다는 이미 학습을 마친 AI가 이용자의 질문에 답하거나 작업을 처리하는 데 쓰인다.

오픈AI가 자체 칩 개발에 나선 것은 AI 서비스 운영 비용을 낮추기 위해서다. 챗GPT 이용자가 늘수록 AI를 구동하는 반도체와 전력도 더 많이 필요하다. 할라페뇨는 700와트 수준의 전력을 사용하면서 높은 성능을 내도록 설계됐다.

오픈AI는 자사 AI 모델뿐 아니라 중국 딥시크와 문샷AI의 모델을 이용해 성능을 시험했다. 특히 문샷AI의 '키미'를 구동했을 때 비교 대상 칩보다 성능 차이가 크게 나타났다고 설명했다.

다만 엔비디아의 최신 제품과 모두 비교한 것은 아니다. 최근 출하가 시작된 차세대 칩 '베라 루빈'은 시험 대상에서 빠졌다. 할라페뇨가 AI의 답변과 작업 처리에 초점을 맞춘 칩인 만큼, AI 학습에 강점이 있는 엔비디아 제품과 단순 비교하기 어렵다는 점도 있다.

할라페뇨에는 AI 칩의 데이터 처리 속도를 높여주는 차세대 고대역폭메모리(HBM)인 HBM4가 들어간 것으로 알려졌다.

오픈AI는 자체 칩을 쓰더라도 엔비디아와의 협력을 이어갈 계획이다. AI 연산 수요가 워낙 커 자체 칩만으로 필요한 물량을 충당하기 어렵기 때문이다.

차기 제품 개발도 진행하고 있다. 2세대 칩은 설계 마무리 단계에 들어갔고, 수개월 안에 실제 생산을 위한 설계를 확정할 예정이다. 3세대 칩도 초기 개발에 착수했다.