ETRI, 사람 특성까지 고려하는 로봇 AI 평가기술 개발

[아이뉴스24 서효빈 기자] 한국전자통신연구원(ETRI)은 로봇과 인공지능(AI) 에이전트가 주변 환경뿐 아니라 서비스를 받는 사람의 특성까지 고려해 행동하는지를 평가하는 벤치마크 '트리니티(Trinity)'를 개발했다고 13일 밝혔다.

기존 로봇 AI 평가는 주로 주변 환경을 얼마나 정확하게 이해하고 주어진 임무를 성공적으로 수행하는지에 집중했다. 반면 트리니티는 '로봇의 행동이 서비스를 받는 사람에게도 적절한가'를 평가 기준에 추가해 사용자 맞춤형 행동 계획 능력을 검증한다.

트리니티는 식습관과 알레르기, 종교적 식이조건, 취미 등 151가지 사용자 조건과 실제 가정과 유사한 가상 환경으로 구성됐다. 사용자 특성과 관련된 물체 95종을 포함해 다양한 상황에서 로봇의 행동을 평가할 수 있도록 했다.

로봇이 물체를 정확하게 찾더라도 사용자의 특성에 맞지 않는 대상을 선택하면 임무 실패로 판단한다. 채식주의자에게 적합하지 않은 음식을 제공하는 경우가 대표적이다.

대형언어모델(LLM) 기반 AI 에이전트를 대상으로 실험한 결과 환경을 이해하는 능력과 사용자의 요구를 실제 행동에 반영하는 능력 사이에 차이가 나타났다.

트리니티는 임무 실패 원인도 구분해 분석할 수 있다. 사용자 특성을 제대로 이해하지 못한 경우와 주변 환경을 충분히 탐색하지 못한 경우, 실행할 수 없는 행동을 계획한 경우 등을 정밀하게 평가한다.

김도형 ETRI 소셜로보틱스연구실장은 "트리니티는 '무엇을 할 수 있는가'에서 '누구를 위해 어떻게 해야 하는가'로 평가 기준을 확장한 의미 있는 기술"이라며 "가정·돌봄·서비스 로봇과 휴머노이드가 사람마다 다르게 행동할 수 있도록 하는 연구 기반이 될 것"이라고 말했다.

이번 기술은 과학기술정보통신부 지원 아래 '자율행동체 임무 수행 절차 생성'과 '성장형 에이전트 개발' 등 연구과제의 일환으로 개발됐다.

연구진은 트리니티의 코드와 데이터를 공개해 후속 연구에 활용할 수 있도록 했다. 향후 음식·음료 중심의 평가를 청소와 정리, 안전 등 다양한 생활영역으로 확대하고 시간에 따라 변화하는 사용자의 요구까지 반영하도록 기술을 고도화할 계획이다.

이번 연구 결과는 자연어처리 분야 국제학술대회인 'EMNLP 2026 Findings'에서 발표됐다.