AI 탐구노트

엔비디아, '라마 3.1 8B' 절반으로 줄인 모델 출시..."4B 모델 중 최강 성능" (AI타임스, 2024.8.19)"LLM, 귀납적 추론에는 강하지만 연역에는 매우 약해" (AI타임스, 2024.8.19)의료 AI 글로벌 시장, 10년 뒤 현재 32배인 830조 규모로 성장 (AI타임스, 2024.8.18)벤처협회, 민간 35개 기관과 '벤처투자 얼라이언스' 발족 (전자신문, 2024.8.20)테슬라 휴머노이드 로봇 ‘옵티머스’, 얼마나 개발됐나 (ZDNET, 2024.8.20)전국 롯데마트에 '생성형 AI'가 만든 BGM이 깔린다 (신아일보, 2024.8.20)미국 발전량, AI 수요 급증에 21년래 최대폭 증가 (이투데이, 2024.8.20)지재위, AI와 지식재산권 보고서 발간…국내외 동향 ..

[현장] '두 갈래'로 나뉜 AI 거버넌스 모델…韓 선택은? (ZDNET 2024.8.12)NIA, AI모델 성능 평가 전면 재편···추론·감성 등 9개 지표 사용 (ZDNET, 2024.8.13)AI 거품 꺼졌다?…'역대급 실적' 낸 월마트에 유통街 '주목' (ZDNET 2024.8.18)텍스트-음성 두뇌 칩으로 루게릭 환자 목소리 회복 (AI타임스, 2024.8.16)경기도,“인공지능 로봇이 24시간 대화도 해주고. 약 먹는 시간도 알려주고”  활용 어르신 건강관리 사업 시작 (일간투데이, 2024.8.19)막대한 투자·초라한 수익…AI, 자기증명에 직면하다 (한겨레, 2024.8.19)의료 AI 글로벌 시장, 10년 뒤 현재 32배인 830조 규모로 성장 (AI타임스, 2024.8.18)인공지능이 ..

소형이지만 강력한 성능, 엔비디아의 라마 3.1-미니트론 4B 모델 공개 NVIDIA가 소형 언어모델(sLM) 'Llama-3.1-Minitron 4B와 8B'를 공개했습니다. 좀 더 큰 모델인 Nemotron 15B에서 가중치 가지치기(Pruninig), 지식 증류(Knowledge Distilation) 기술을 결합해서 만들었다고 합니다. 덩치는 작아졌지만 MMLU 기준 성능은 16% 가량 더 향상되었고 교육을 위한 토큰 수도 최대 40배 감소했다고 하네요. (링크)