마음AI "로봇은 멈추면 끝…피지컬 AI는 온디바이스가 답"

[아이뉴스24 권서아 기자] "웹(Web) 서비스는 좀 느려도 됩니다. 그런데 로봇은 멈추면 끝입니다."

피지컬AI 기업 마음AI의 최홍섭 최고경영자(CEO)는 5일 오전 경기 성남시 판교 '그래비티 조선 서울판교'에서 열린 '경기도 시스템반도체 산업 연계·협력 포럼' 에서 "피지컬(물리적) AI는 구조적으로 온디바이스(기기내장형)일 수밖에 없다"며 이같이 말했다.

마음AI는 음성 인식과 대화형 인공지능을 주력으로 하는 기업이다. 로봇과 산업용 디바이스에 AI를 적용해 왔으며, SK네트웍스 산하 웰니스 로보틱스 브랜드 '나무엑스(NAMUH X)'에 자사 기술을 공급한 바 있다. 나무엑스는 세계적 팹리스(반도체 설계) 기업 퀄컴의 드래곤윙 QCS6490 기반으로 설계됐으며, 기기 내에서 거대언어모델(LLM)을 구동할 수 있는 구조다.

이날 포럼은 경기도와 차세대융합기술연구원이 공동 주최하고 한국팹리스산업협회가 후원했다. 시스템반도체 기업과 수요기업, 연구기관 관계자들이 참석해 설계 생태계와 지원 정책을 논의했다.

"피지컬 AI는 VLA…지연이 곧 리스크"

최 대표는 로봇과 자율주행에 적용되는 AI는 챗지피티(GPT) 같은 LLM과 다르다고 강조했다.

핵심은 VLA(비전·언어·행동) 모델이다. 시각 입력과 언어 이해를 거쳐 실제 물리적 행동으로 이어지는 구조다.

그는 "로봇은 여러 대 카메라에서 영상이 동시에 들어온다"며 "이를 클라우드(가상 서버)로 보내 처리하면 전송 부담과 레이턴시(지연시간)가 발생한다"고 말했다.

그는 "통신이 순간적으로 불안정해지면 로봇 동작이 끊길 수 있다"며 "텍스트 서비스와 달리 지연이 허용되지 않는 구조"라고 했다.

발표 자료에 따르면 10억(1B) 파라미터(매개변수)급 VLA 모델을 온디바이스에서 구동하려면 최소 100TOPS(1초당 1조번 연산) 수준의 성능이 필요하다.

KV 캐시(문맥 유지 메모리) 특성상 토큰(AI 모델의 입출력 단위) 생성 때마다 메모리 접근이 반복돼 고대역폭 구조도 요구된다.

"개발은 GPU, 상용 단계에선 전력·지연 따져야"

최 대표는 피지컬 AI 칩 선택 기준도 언급했다.

그는 "개발 단계에서는 엔비디아 그래픽처리장치(GPU)로 시작하는 경우가 많다"고 말했다. 실제 로봇·엣지(Edge) 분야에서는 엔비디아 젯슨 오린(Jetson Orin) 시리즈가 온디바이스 개발 플랫폼으로 사용되고 있다.

다만 피지컬 AI 제품에 실제로 탑재하는 칩은 별도의 판단이 필요하다고 했다.

그는 "피지컬 AI는 지연이 허용되지 않고 전력 제약이 크다"며 "LLM을 구동할 수 있으면서도 발열과 소비전력을 감당해야 하고, 양산 시 가격과 공급 안정성까지 고려해야 한다"고 말했다.

GPU와 신경망처리장치(NPU)의 차이도 설명했다.

GPU는 초거대 모델 '학습'에 주로 쓰이는 범용 가속기다. NPU는 실제 서비스 단계의 '추론'에 초점을 맞춘 전용 칩으로, 전력 효율성과 비용 면에서 강점을 지닌다.

최 대표는 "대부분 고객사가 개발 단계에선 쓰기 편해서 GPU로 시작하지만, 개발이 끝나면 양산 단계에선 어떤 칩을 쓸지 따로 정한다"고 말했다.

이 과정에서 리벨리온와 퓨리오사AI 등 국내 NPU 기업도 검토 대상이라고 덧붙였다.

경기도, 35억 투입해 '팹리스-수요 기업 연계' 양산 지원

이날 포럼에서는 경기도의 시스템반도체 지원 정책도 공유됐다.

권정훈 차세대융합기술연구원 본부장은 "지난해 7월 추가경정예산(추경)으로 35억원 예산을 확보해 '경기도 팹리스 수요연계 양산지원 사업'을 시작했다"며 "성능평가와 실증, 양산 단계 지원을 추진 중"이라고 밝혔다.

그는 "지난해 9개 컨소시엄에 3억원씩 지원했고, 올해는 3억원 규모 컨소시엄 4개와 5000만원 실증지원 4개 기업을 공모 중"이라고 말했다.

이제영 경기도의회 미래과학협력위원장은 "설계, 설계자산(IP), 팹리스, 수요기업이 연결된 생태계를 갖추는 것이 중요하다"고 말했다.

현병천 경기도 미래성장산업국장도 "설계기업과 수요기업, 연구기관, 대학이 유기적으로 이어져야 경쟁력이 생긴다"고 강조했다.