AI 탐구노트

온디바이스 AI란 무엇인가요?온디바이스 AI는 클라우드 서버에 의존하지 않고, 스마트폰, 노트북, 라즈베리파이 같은 개인 기기에서 직접 인공지능 모델을 실행하는 기술입니다. 이는 마치 개인 비서가 내 손안의 기기에서 실시간으로 작동하는 것과 같습니다. Microsoft에서 최근 BitNet b1.58-2B-4T를 Hugging Face에 공개했습니다. 0.8GB 수준이고 x86, ARM CPU를 이용할 수 있다고 합니다. 그러니, 라즈베리파이와 같은 저사양 기기에서도 대형 언어 모델(LLM)을 실행할 수 있다는 얘기가 되죠. 이는 구글의 오픈 소스 모델 'Gemma 3'와 같은 경량화된 모델과의 경쟁을 예고하며, 온디바이스 AI 시대의 본격적인 개막을 알리고 있습니다. 이 기술이 우리 삶에 어떤 변화를 ..

3월 19일, LG에서는 자사가 개발 중이던 AI모델 'EXAONE Deep'을 오픈소스로 공개했습니다. 이 소식은 국내 AI 기술의 발전과 오픈소스 커뮤니티에 어떤 영향을 미칠지 생각해보는 기회가 될 것 같아 짧게 정리를 해 보려고 합니다.    [서울타임즈뉴스] LG, 세계 최고수준 추론AI ‘엑사원 딥’ 오픈소스로 공개[서울타임즈뉴스 = 최남주 기자] LG AI연구원이 18일 글로벌 추론 AI 모델들과 경쟁할 ‘엑사원 딥(EXAONE Deep)’을 오픈소스로 공개했다. ‘엑사원 딥’ 공개는 한국 기업이 자체 개발한 ‘추론 AI’www.seoultimes.news EXAONE Deep : Reasoning AI의 새로운 기준LG AI 연구소에서 개발한 고급 추론 AI 모델 시리즈로, 수학적 논리와 과..

탈중앙화 AI로 개인 정보 보호 강화알체라는 최근 고스트패스와 협력하여 온디바이스 AI를 활용한 탈중앙화 신원증명 사업을 시작했습니다. 이 기술은 사용자가 자신의 스마트폰에서 안면 정보를 직접 관리하여 중앙 서버 해킹 위험을 줄이고 개인 정보 보호를 강화합니다. 이 방식은 최근 AI 규제법에 대응하며, 얼굴 특징점을 이용한 인증 기술로 금융 및 보안 분야에서 활용되고 있습니다. 사용자 편의성을 위해 간단한 셀피로 인증이 가능하며, 한 번의 등록으로 여러 서비스에서 통합 사용이 가능합니다. (E4DS) 셀바스AI, 온디바이스 AI TTS 서비스 시작셀바스AI가 온디바이스 AI 기반 음성합성 솔루션 'Selvy deepTTS On-Device'를 밀리의서재에 도입하여 상용화했습니다. 이 기술은 스마트폰 내에..