딥엑스, 3W NPU로 라즈베리 파이서 영상·언어 AI 구현

[아이뉴스24 권서아 기자] 국내 인공지능(AI) 반도체 기업 딥엑스의 신경망처리장치(NPU) 기술이 약 3와트(W)의 낮은 소비전력으로 영상 인식부터 언어 처리까지 구현할 수 있는 기술로 주목받고 있다.

딥엑스는 글로벌 소형 컴퓨팅 플랫폼 라즈베리 파이(Raspberry Pi)가 공식 뉴스룸에서 자사 NPU 'DX-M1M'의 기술과 활용 사례를 소개했다고 15일 밝혔다. 라즈베리 파이는 전 세계 개발자와 스타트업, 연구기관 등이 널리 활용하는 플랫폼이다.

이번에 소개된 제품은 딥엑스의 디자인 파트너사 식스팹(Sixfab)이 개발한 AI 가속 보드 '식스팹 AI HAT+'다. 딥엑스의 DX-M1M을 탑재해 라즈베리 파이 5에서 AI 연산을 직접 수행하도록 설계됐다.

DX-M1M은 최대 25TOPS(초당 25조 회 연산)의 성능을 제공한다. 일반적인 지속 구동 시 NPU 자체 소비전력은 약 3W에 불과하다. 라즈베리 파이 본체와 주변 장치의 소비전력은 제외한 수치다. 적은 전력으로 AI를 구동할 수 있어 로봇과 스마트 카메라 등 소형 기기의 발열과 냉각 부담을 줄일 수 있다는 설명이다.

AI 활용 범위도 단순한 사물 인식을 넘어 상황을 이해하고 설명하는 단계로 넓어졌다. 합성곱신경망(CNN)은 영상 속 사물이나 이상 징후를 탐지하고, 소형 비전언어모델(VLM)은 장면의 맥락을 해석한다. 소형언어모델(SLM)을 활용하면 분석 결과를 문장으로 정리하거나 사용자의 명령을 이해할 수도 있다.

대표적인 활용 사례는 3차원(3D) 프린터의 오류 감지다. 카메라가 출력 과정을 관찰하다가 이상 징후를 발견하면 AI가 이를 분석해 사용자에게 문제 상황을 설명하는 방식이다. 생산라인의 품질 검사와 로봇의 주변 환경 인식 등에도 활용할 수 있다.

외부 서버를 거치지 않고 기기 내부에서 AI를 실행하는 것도 특징이다. 데이터 전송과 통신 연결에 대한 의존도를 낮출 수 있어 실시간 대응과 개인정보 보호에도 유리하다.

딥엑스는 이를 바탕으로 글로벌 개발자 생태계를 확대하고 산업용 AI 시장 공략에도 나설 계획이다.

이를 위해 AI 모델 변환·최적화 도구와 실행 소프트웨어, 영상 처리 도구 등을 제공하고 있다. 개발자가 소형 보드에서 시험한 AI 모델을 실제 산업용 장비에도 적용할 수 있도록 지원하는 것이다.

식스팹 AI HAT+와 엣지 AI 확장 보드, 산업용 AI 게이트웨이 'ALPON X5 AI'에는 공통된 딥엑스 런타임과 모델 형식이 적용된다. 개발 단계에서 검증한 모델을 다른 장비에서도 활용할 수 있어 시제품 제작부터 산업용 제품 개발까지 연계할 수 있다.

글로벌 기업과의 협력도 넓히고 있다. 라즈베리 파이를 비롯해 바이두의 AI 개발 플랫폼 패들패들(PaddlePaddle), 울트라리틱스(Ultralytics) 등과 협력하며 AI 반도체의 활용 기반을 확대하고 있다.

앞서 딥엑스는 지난 6월 식스팹과 함께 DX-M1M을 탑재한 라즈베리 파이 5용 AI 가속 보드를 출시했다. 현재 25TOPS 제품을 판매 중이며, 13TOPS 제품은 올해 말 출시할 예정이다.

딥엑스 관계자는 "피지컬 AI가 확산되기 위해서는 전 세계 개발자들이 필요한 AI 기능을 쉽게 구현하고 이를 실제 제품으로 연결할 수 있어야 한다"며 "라즈베리 파이에서 시작한 작은 실험이 세계 시장에서 판매되는 제품으로 이어지도록 반도체와 소프트웨어, 양산까지의 개발 환경을 함께 지원하겠다"고 말했다.