AI 탐구노트

대규모 언어 모델은 이제 몇 개의 예시만 보고 문제를 푸는 수준을 넘어서 수백 개에서 수천 개의 예시를 프롬프트에 넣고 활용하는 방향으로 발전하고 있습니다. 이를 'Many-shot In-Context Learning'이라고 합니다. 별도의 모델 학습 없이 많은 예시를 참고할 수 있기 때문에 분류나 수학 추론처럼 복잡한 문제에서 성능을 높이는 데 유용합니다. 하지만 참고할 예시가 많아질수록 모델이 기억해야 할 중간 데이터도 함께 늘어나는 문제가 생깁니다. 특히 긴 문맥을 처리하는 LLM에서는 이 데이터가 GPU 메모리를 상당히 차지하게 되죠. 이때 중요한 것이 KV Cache입니다. KV Cache는 LLM이 이미 읽은 토큰의 정보를 다시 계산하지 않도록 저장해 두는 일종의 작업 메모리입니다. 문제는 ..

이번에 소개할 게임은 3D 볼링 게임입니다. 볼링은 모름지기 볼링장에서 해야 제대로 된 재미를 느낄 수 있죠. 하지만, 여전히 방안, 혹은 사무실에서 자투리 시간에 킬링 타임 용도로 웹 게임도 나름 괜찮습니다. 1. 개요멀티 플레이어 (1~4명) 용 3D 볼링 웹게임입니다. 2. 게임룰일반 볼링 게임의 룰을 그대로 따릅니다. 1~4명까지 각자 이름을 등록하고 할 수 있으며 턴제로 진행됩니다.게임 진행 중에 언제든 점수판을 확인할 수 있습니다. 3.게임 특징볼링공은 시작 시 좌우로 이동해서 시작 위치를 정할 수 있습니다. (실제 게임에서 사람 볼러를 생각하시면 됩니다)볼을 누르고 있으면 대략적인 방향 가이드가 표시되도록 되어 있지만, 기본적으로는 모바일에서 손가락 스와이프를 이용해 게임하도록 만들어졌습..

1. 불편한 점, 문제점 컨퍼런스나 국제 행사 같은 것을 가 보면, 중앙에 발표 자료가 보이고 양 옆 혹은 아래 쪽에 발표자의 내용을 전사(Transcribe)하거나 번역해서 캡션처럼 보여주는 경우가 많이 있습니다. 그런데, 이 경우, 원하는 화면 위치에 보여줄 내용을 배치하기 위해서는, 행사 전문 업체의 스크린 담당자가, 캡션을 제공하는 쪽의 HDMI 신호를 받아와서 이를 전문 소프트웨어를 통해 출력 위치를 잡는 경우가 대부분입니다. 그러다보니 이렇게 한번 확정이 된 위치는 발표가 진행되는 동안에는 바꾸거나 혹시라도 오류가 나더라도 고치기 어려운 경우가 많습니다. 발표화면 상에서 마우스 옮겨가며 뭔가를 해야하는 상황이 될테니까요... 그래서, 어떤 방법이 있나요?화면에 가상 모니터를 띄워두고, 내가 ..

최근 AI로 인해 사회가 급변하고 있죠. 그런데... 너무 빨리 모든 것이 변하다보니 생각을 정리하지 못하고 넘어가는 경우가 다반사인 것 같아 걱정까지 됐습니다. 그래서, 두런두런 그동안 해 왔던 생각들을 정리해 보기로 했습니다. 현황에 대한 생각AI 혁명은 실제하며 현재 진행형이다.추세는 학습에서 추론으로 전환되고 있다. 그렇다고 학습이 완전히 없어진 것은 아니다.AI 에이전트, 코딩 에이전트, AI 콘텐츠 분야 등 한 번의 답변이 아닌 긴 문맥과 반복 호출, 도구 사용, KV 캐시 등의 요구로 인해 사용자가 늘수록 연산과 메모리 사용량은 점점 더 커질 수 밖에 없다.AI 혁명은 오픈AI, 엔트로픽, 구글, 바이두, 알리바바와 같이 모델 및 서비스를 제공하는 기업들이 수요를 이끌고 있다.오픈AI, 엔..

이번 게임은 한글 단어 찾기 퍼즐 게임입니다. 예전에 유튜브 영상 생성할 때 만들어뒀던 로직과 데이터를 가지고 모바일에서 할 수 있는 게임으로 구현해 본 것입니다.제한 시간 내에 찾아야 한다는 긴장감이 있어 타임 킬링 용으로 알맞은 게임이라고 할 수 있을 것 같습니다. 1. 게임 개요제한 시간 내에 격자에 배치된 한글 글자들 가운데서 숨어있는 단어들을 찾는 웹 퍼즐 게임입니다. 2. 게임 특징총 10개의 카테고리로 주제가 나눠져 있고 각 카테고리마다의 단어 사전을 이용합니다. 설정에서는 다음 항목 설정값을 변경할 수 있습니다. 제한 시간난이도 (단어 배치 시 방향 꺾기 횟수)격자 크기단어 수찾을 단어 표시 여부 3. 게임 구현단일 HTML로 구현됩니다.보일러 플레이트를 적용합니다.아이콘은 시스템에서..

요 며칠 AI 세상에는 또 많은 사건이 있었습니다. 그 가운데 하나가 Jev 입니다. 이번 글에서는 늦은 감은 있지만 Jev가 어떤 것이고 어떤 용도로 사용될 수 있는지 짧게 정리만 하고 가겠습니다. Jev란 어떤 모델인가?Jev는 글을 생성하는 챗봇이 아니라, 소프트웨어 안에서 빠르게 판단을 내리도록 만든 ‘의사결정 전용 AI 모델’입니다. TypeSafe AI가 2026년 9/15에 공개했으며, 입력된 상태를 읽고 미리 정의된 선택지(Choice)·점수(Score)·확률(Noul)을 반환하는 것이 핵심입니다. 회사 내부에서는 'System One Model'이라고 부른다고 합니다. 예를 들어 고객 문의를 입력으로 넣고 '어느 부서로 보내야 하는가?' 라던가 '이 사안은 긴급한가?' 등을 물으면 '기..

이번에 만들어본 게임은 도로에서 레이싱하는 게임입니다. 무법천지, 상태가 꽝인 도로가 있습니다. 거기에서 다른 차들의 폭주나 접근, 공사중, 도로파임 등의 장애를 피해가며 계속 앞으로 나아가는 게임입니다. 그런데 생각해 보니 그냥 살아남는 게임인데 레이싱이 아니네요... -_-; 1. 게임 개요엉망진창인 도로에서 사고를 피해 계속 운전하는 1인용 웹 게임입니다. 2. 게임룰다른 차량이나 장애물을 피해서 최대한 오랫동안 운전해서 살아남아야 합니다. 플레이어의 차량 말고 다른 차량들은앞쪽에 이미 달리고 있거나 사고난 차량이 있고뒷쪽에서는 랜덤하게 차량이 나타나 앞으로 질주합니다. 이 차량들은 운행 중에 앞에 장애물이 있을 때는 차선을 랜덤하게 변경하며 피해갑니다. 하지만, 기존 차량 혹은 사고차량과 충돌..

이번에는 원소 빙고 게임입니다. 아이가 최근에 화학 원소에 대해 부쩍 관심을 가지기 시작했습니다. 그래서, 예전에 소개했던 주기율표 게임도 만들었었죠. 그런데 아무래도 혼자하는 게임이라 성에 차지 않는 것 같아서 대결을 할 수 있는 게임을 따로 만들어 봤습니다. 1. 개요 원소 빙고는 온라인 빙고게임에 원소 맞히기 퀴즈를 접목한 것입니다. 2. 게임룰플레이어는 AI 와 혹은 사람 간 대결을 선택할 수 있습니다. AI를 선택하면 임의로 실력이 지정된(설정) 알고리즘이 대결 상대가 됩니다. 사람을 선택하면 대기열에 들어와 있는 사람을 골라서 둘 간의 대결을 진행할 수 있습니다. 게임이 시작되면 대결하는 사람의 게임판에 랜덤하게 선택된 원소들이 빙고판 형태로 배열됩니다.턴을 돌아가며 원소를 선택해서 지정..

Github을 이용해 코딩을 할 때 main 브랜치 이외에 다른 브랜치를 만들어 main 코드에 영향을 주지 않고 작업을 진행한 다음 main 에 병합하거나 할 수 있습니다. 제 경우, 수정사항을 pull request로 병합하지 않고, 결이 다른 작업이나 테스트에 이를 활용할 때가 있습니다. 애초에 병합을 목적으로 하지 않는 경우가 되는거죠. 이런 경우, Github Repository에 등록된 브랜치 들 가운데 특정한 것만 내려받을 수 있고, 이 기능을 가끔씩 사용하고 있는데... 문제는 커맨드를 자꾸 까먹어서 '검색->사용->망각' 루프를 계속 돌리고 있다는 것입니다. 그래서, 이번엔 아예 블로그 글에 등록해두고 이걸 확인하는 방식으로 진행하려고 합니다. 1) 기본 브랜치를 복제한 후 특정 브..

Qwen3-ASR 모델을 이용해 오디오를 실시간 전사(Transcribe) 하는 앱을 만들어 봤습니다. 예전에는 Web Speech API나 Whisper 등을 이용해서 이런 작업을 많이 했었는데 성능은 좋은데 속도가 느리다는 단점이 있었습니다. 그런데 새로 나온 Qwen3-ASR은 Whisper 대비 10배 정도 빠르다는 풍문(?)이 있었고 저는 확 낚여버렸습니다. 참고로 Qwen3-ASR은 1.7B, 0.6B 이렇게 2개의 weight가 공개되어 있습니다. 1.7B 모델이 아무래도 성능은 좋습니다. ASR 모델 + KV Cache 공간하면 대략 10GB 정도(최소는 7GB 가량?) 사용하는 것 같습니다. 1. 구성 입력할 음성 스트리밍은 마이크를 이용하거나 혹은 Youtube 오디오를 이용할 수..