AI 탐구노트

X에서 신기한 글을 하나 봤습니다. Nvidia RTX4090에 96GB의 VRAM을 달아서 사용하는 사례였습니다.   X의 青龍聖者님(@bdsqlsz)4090 96gb verify.😎x.com 글을 내용을 봐서는 중국 쪽 분의 게시글 같았는데 증빙을 하느라 실제 돌아가는 화면과 사진을 첨부했습니다.   NVIDIA에서 정상적으로 판매하는 제품은 RTX4090에는 24GB VRAM만 존재하므로 이 사진이 정말이라면 물리적으로 VRAM을 추가하도록 개조한 것으로 볼 수 있습니다.  최근 생성형 AI나 LLM을 개발하기 위해서는 GPU의 코어 성능, 메모리 대역폭도 중요하지만 사용가능한 VRAM 용량도 그 못지않게 중요해졌습니다. 참고로 고가형 GPU들 가운데 A100, H100은 80GB, 최신 H200..

최근 인공지능(AI) 분야에서는 여러 기업과 정부의 주목할 만한 움직임이 포착되고 있습니다.아래는 관련 기사들의 핵심 내용을 요약한 것입니다.xAI, 데이터센터 확장 계획 발표 (조선비즈, 2025.3.9)일론 머스크 CEO의 xAI는 세계 최대 규모의 데이터센터인 '콜로서스'를 확장하기 위해 약 100만㎡의 부지를 추가로 매입했고 연말까지 GPU 100만대 수준으로 업그레이드해서 그록(Grok)을 훈련할 계획이라고 밝혔습니다. 미스트랄, 고성능 OCR API 'Mistral OCR' 출시 (MistralAI)미스트랄은 이미지와 문서를 정밀하게 분석하는 새로운 OCR API를 출시했습니다. 손글씨, 타이핑된 텍스트, 이미지, 표, 수식 등을 높은 정확도로 추출하며, 마크다운 형식으로 결과를 제공하여 AI..

인공지능 기술의 발전은 기존 산업의 변화를 촉진하고 새로운 경제 질서를 창출해왔습니다. 특히 미국의 빅테크 기업들은 AI 혁신을 선도하며 막대한 자본과 기술력을 바탕으로 글로벌 시장을 지배하고 있습니다. 이러한 과정에서 나스닥 기술주들은 고공행진을 이어갔고, 미국은 AI 패권 전쟁에서 선두주자로 자리 잡았다고 평가받아 왔습니다. 그러나 중국의 DeepSeek R1의 등장으로 이러한 균형이 흔들릴 가능성이 제기되고 있습니다. DeepSeek R1은 AI 모델을 개발하고 학습시키는 데 필요한 자원, 특히 GPU와 데이터센터의 의존도를 대폭 낮출 수 있는 기술을 소개했는데, 이 혁신은 AI 개발의 접근 방식을 근본적으로 변화시킬 가능성을 내포하고 있습니다. 미국의 빅테크 기업들이 구축한 기존의 AI 생태계가 ..