AI 탐구노트

인공지능(AI) 기술은 일상 속에서 점점 더 많은 역할을 하고 있습니다. 그중에서도 안면 인식 기술은 보안, 스마트 기기 제어, 출석 체크 등 다양한 분야에서 유용하게 활용됩니다. 특히, 최근에는 고성능 하드웨어가 아닌 경량화된 임베디드 보드에서도 동작할 수 있는 AI 모델이 개발되면서, 보다 실용적인 서비스 구현이 가능해지고 있습니다. 이런 경량 AI 모델은 소규모 데이터로도 효과적인 학습이 가능하고, 에너지와 비용 면에서 경제적이어서 많은 주목을 받고 있습니다. 실생활에서 안면 인식 서비스는 어떻게 활용될 수 있을까요? 예를 들어, 학교에서 수업 참여자의 출석 체크를 AI로 간단히 처리하거나, 소규모 모임에서 손쉽게 개개인을 식별할 수 있다면 어떨까요? 이러한 아이디어는 복잡하고 대규모 시스템을 구축..

저사양 로컬 장비에서 구동가능한 소형 언어모델 (SLM)  TinyLlama는 StatNLP 연구 그룹과 싱가포르 기술 디자인 대학이 함께 개발한 11억 개의 매개변수로 작동하는 소형 언어모델(SLM)입니다.  아시는 바와 같이 LLM(Large Language Model)은 수많은 매개변수를 가지고 있으며 대부분은 수천억~수조개 수준의 대규모의 토큰을 가진 데이터셋으로 학습시키고 있습니다. Llama 모델을 공개한 Meta의 경우, 사전학습된 모델만 공개할 뿐 이를 학습시키기 위해 사용한 데이터셋 자체는 공개하고 있지 않습니다. 다들 이를 기반모델(base model)로 해서 각자의 용도에 맞춰 파인튜닝을 하는 방식으로 활용하고 있죠. TinyLlama는 3조개의 토큰 데이터로 학습되었고 11억개의 매..