카이스트, 한정된 자원으로 정확도를 높이는 온디바이스 AI 기술 개발

KAIST 박종세 교수팀은 자율주행차와 로봇에 적합한 신경망처리장치(NPU)와 소프트웨어 시스템을 개발하여, 한정된 자원에서도 온디바이스 AI의 정확도를 높이는 성과를 냈으며 이 연구로 국제 컴퓨터 구조 심포지엄(ISCA)에서 최우수 연구 기록물상을 수상했습니다. 온디바이스 AI는 연산과 메모리 자원이 제한적이기 때문에 정확도가 떨어지는 문제가 있었지만, 연구팀은 연속학습 기법을 통해 이를 개선했습니다. 연구팀은 온디바이스 자원만으로 변화하는 환경에 맞춰 AI 모델의 정확도를 높이는 저전력·고효율 시스템을 개발했습니다. 

 

NPU를 공간적으로 분할하여 연산량이 낮은 추론에 자원을 최소로 할당하고, 나머지 자원을 재훈련과 라벨링에 활용함으로써 연속학습 성능을 향상시켰습니다. 연구팀은 실제 차량 데이터를 활용한 시뮬레이션에서 기존 연구보다 높은 정확도를 달성했습니다. 이번 연구는 온디바이스 AI의 발전을 위해 오픈소스로 공개되어, 다양한 분야에서 활용될 것으로 기대됩니다.

 

일반적으로 엣지 디바이스 등에서 오탐, 미탐 데이터에 대한 추가 학습을 통해 정확도를 지속적으로 높여야 하는 필요성은 늘 존재해 왔지만,  한정된 하드웨어 자원 때문에 쉽지 않았던 것이 사실입니다. 이런 문제를 NPU를 공간적으로 분할해 이를 활용한 추론, 학습을 함께 진행할 수 있도록 한 것은 나름 의미있는 접근 방법인 것 같습니다. 

 

• 기사 링크: 동아사이언스
• 키워드: 온디바이스 AI, 연속학습, 신경망처리장치(NPU), 자율주행차, 로봇, KAIST 연구, 적응형 AI, 자원 최적화