TTA, 생성형 AI 위험 평가용 데이터셋 'AssurAI' 공개

[아이뉴스24 서효빈 기자] 한국정보통신기술협회(TTA)는 18일 한국과학기술원(KAIST), 서울시립대학교, 계명대학교, 셀렉트스타, 카카오와 함께 생성형 인공지능(AI) 모델의 안전성 평가를 위한 데이터셋 'AssurAI'를 구축했다고 밝혔다.

이번 연구는 과학기술정보통신부가 추진하는 '생성형 AI 안전성 평가기반 마련' 사업의 일환으로, KAIST 최호진 교수 연구팀을 필두로 황지영·홍화정·시어링 조셉·이의진·김주호 교수진, 서울시립대 한정윤 교수, 계명대 조수현 교수, 그리고 셀렉트스타와 카카오의 생성형 AI 연구팀이 협력했다.

'AssurAI'는 생성형 AI 모델이 발생시킬 수 있는 위험 요소를 한국 사회문화적 맥락에 맞춰 정량적으로 평가할 수 있도록 설계됐다. 텍스트·이미지·비디오·오디오 등 멀티모달 모델을 아우르며, 일반 서비스 이용 상황뿐 아니라 악의적 프롬프트에 대한 시나리오도 포함돼 다양한 사용 조건에서의 AI 반응을 평가할 수 있다.

데이터셋은 오픈소스 플랫폼인 허깅페이스(Hugging Face)를 통해 공개됐으며, 연구·모델 검증·레드팀 테스트 설계 등에 활용될 수 있다. TTA는 연구팀과 협력해 상용 및 연구용 AI 모델을 대상으로 시범 평가를 마쳤고, 향후 공공과 민간 전반에서 통합된 안전성 기준을 적용하는 실증 기반 평가를 본격 추진할 계획이다.

TTA 손승현 회장은 "AI의 사회 확산에 따라 객관적 평가체계 없이는 신뢰 확보가 어렵다"며 "TTA는 국내 기업과 기관이 AI 위험 요소를 체계적으로 진단하고 정책과 연계된 평가 인프라를 통해 글로벌 수준의 신뢰성을 확보할 수 있도록 하겠다"고 말했다.