AI 탐구노트

최근 음성 전사 앱과 이미지 서치를 만드느라 Embedding Gemma를 이용한 적이 있었습니다. 그러다보니 지금은 괜찮은데 저장해야 할 임베딩의 수량이 엄청 많다면 어떻게 해야 할까를 생각하게 됐죠. 그런데 역시나... 누군가 이미 그것을 먼저 고민했고 이미 해결책까지 마련해 두었더군요. 이번 글에서는 Embedded Gemma 2에서 나온 결과 데이터를 압축해서 저장하는 사례를 요약 정리해 보고 가겠습니다. How Small Can Google's New EmbeddingGemma 2 Get? - QdrantGoogle's EmbeddingGemma 2 in Qdrant: 99% of retrieval quality in 30x less vector RAM, or 94.5% in 77x less..

로컬 컴퓨터에서 사용할 수 있는 사진 검색 앱을 만들어 봤습니다. 제 경우, 지금이야 생활에 찌들려 그럴 겨를이 없지만, 예전에는 여러 곳을 여행하며 사진 찍길 즐겼습니다. 그러다보니 자연스레 사진 파일이 많이 저장되어 있었죠. 하지만, 구글 Photo 같은 자동 분류, 검색앱을 사용하지 않다보니 거의 대부분 여행 날짜 별 폴더에 그대로 파일로만 저장되어 있을 뿐이었습니다. 가끔 생각나면 폴더를 열어가며 사진을 찾아보곤 했구요. 그리고 생각해보니 한번은 식물, 동물, 경치 사진을 사진 라이브러리를 제공하는 온라인 서비스에서 판매하기 위해 등록하려고 수많은 이미지 파일들을 하나씩 뒤진 적이 있긴 하네요. 그때도 자동 분류가 안 되어 참 많이 힘들었었습니다. ^^; 오늘은 그때의 불편함을 해소하기 위해..

오늘 오후 (미국은 밤이죠), 미국 텍사스주 맥그레거의 스페이스X 시험장에서 진행된 테슬라 로드스터 자동차 발표를 라이브로 봤습니다. 이 차는 워낙 오래 전부터 개발된다는 얘기는 있었지만 실제 계속 연기되었었고, 최근 일론이 하늘을 날 수도 있다는 식으로 말을 흘리기도 했었는데 헛소리 아니냐며 사람들은 폄하했었습니다. 약간 뻥이 있고 약속을 못 지키는 이미지를 가지고 있기 때문이겠죠. 그렇지만 일론을 좋아하는 사람들은 거꾸로 이번에는 어떤 괴물까 하며 기대를 했을 겁니다. 제 경우, 일론의 팬이면서 몇 주 안 가진 주주이기도 해서 안 볼 수가 없었습니다. 사실 테슬라가 신제품 발표를 하고나면 뭔가 아쉬운 것들이 남아서인지 늘 주가가 떨어지곤 했었기에 걱정도 앞섰습니다) 그런데... 이번에는 정말 보면..

Bend 2.0은 빠른 병렬 실행과 수학적 검증을 결합해, AI가 코드를 작성하더라도 개발자가 정의한 핵심 규칙을 지키도록 설계된 차세대 프로그래밍 언어입니다. 이번 글에서는 Bend 2.0에 대해 사이트에 공개된 내용을 기반으로 짧게 요약 정리해 두고 가겠습니다. 1. 개요Bend는 Python처럼 간결하게 작성하면서 C 수준의 실행 성능, CUDA 수준의 병렬 처리, Lean과 유사한 수학적 검증 기능을 제공하는 새로운 프로그래밍 언어입니다. 특히 AI가 생성한 코드의 정확성을 수학적으로 검증해, 바이브코딩 시 논리적 오류를 방지할 수 있습니다. 2. 핵심 기술 특징AI 코드 검증 : AI가 작성한 코드가 사전에 정의한 규칙을 만족하는지 수학적으로 증명자동 병렬 처리 : 스레드/락/CUDA 커널..

간단한 CCTV AI 관제앱을 만들어보고 있습니다. 이를 테스트하기 위해 IP 카메라가 필요한데 가진 것이 없어서 공개 IP 카메라를 이용하거나 혹은 원하는 영상이 있는 Youtube를 입력으로 테스트하고 있죠. 그런데 매번 이런 과정을 거치는 게 귀찮기도 해서 아예 Youtube 영상을 RTP/RTSP로 변환하는 파이프라인을 하나 만들기로 했습니다. (참고: 대부분의 IP 기반 CCTV들이 RTSP 프로토콜을 이용해 영상/오디오 스트림을 IP 네트워크를 통해 전송합니다) 이번 글에서는 그 과정을 간단히 정리해 보겠습니다. 1. 개요Youtube 영상을 내부 처리를 통해 IP 카메라가 하듯 RTSP URL로 전환하도록 하는 파이프라인을 개발하는 것입니다. 2. 사용 기술1) RTSP란? IP 카메라..

1. 개요 2. 게임룰성냥개비 퀴즈를 보고 제시되는 방식(예: 성냥 2개를 옮겨서...)대로 처리한 후 정답이 되도록 만들면 성공하는 게임입니다. 반드시 제시된 숫자만큼의 개수 이동을 해야 합니다. 즉, 2개 옮기는 미션에서 1개만 옮겨서 수식이 완성되어도 정답으로 치지 않습니다. 난이도가 쉬움/보통/어려움/매우 어려움 으로 나뉘어 있으며 각 난이도 별로 수십개의 문제가 있습니다. 화면 상에서 성냥개비를 손가락으로 드래그해서 위치를 옮겨 수식을 완성해야 합니다. 3. 게임 특징예전에 유튜브 영상 생성을 위해 만들어 둔 성냥개비 퀴즈 데이터를 그대로 사용했습니다. 역시 원소스 멀티유즈~!!!CANVAS 상에 성냥개비의 이동 애니메이션이 자연스럽게 구현됩니다. 4. 게임 구현성냥개비 퀴즈 데이터를 미리 생..

대규모 언어모델(LLM)은 방대한 데이터를 학습하며 발전해 왔습니다. 모델의 크기를 키우고 학습 데이터를 늘릴수록 더 많은 질문에 답하고 복잡한 문제도 해결할 수 있게 되었습니다. 하지만 이미 학습한 지식을 잘 활용하는 것과 처음 접하는 정보를 이해하고 새로운 문제에 적응하는 것은 또 다른 문제입니다. 특히 처음 보는 규칙이나 분류 기준을 몇 가지 예시만으로 익혀야 하는 상황에서는 기존 모델이 기대만큼 좋은 성능을 보이지 못하기도 합니다. 사람은 새로운 정보를 배울 때 모든 지식을 처음부터 다시 공부하지 않습니다. 과거 경험을 떠올리고, 비슷한 사례를 연결하며, 필요한 정보를 기억합니다. 그렇다면 AI도 단순히 학습량을 늘리는 대신 정보를 저장하고 연결하는 방식을 개선할 수는 없을까요? 이러한 질문은 A..

Leviathan은 AI 에이전트가 대규모 데이터에서 필요한 기록만 빠르게 찾아 쓰도록 만드는 로컬 검색·메모리 인덱스 도구입니다. 쉽게 말하면, 에이전트에게 방대한 로그·티켓·이력 전체를 컨텍스트로 주는 대신 질문과 관련된 몇 개의 레코드만 검색해서 전달하는 경량 RAG/메모리 계층에 가깝습니다. 1. 개요Leviathan은 JSONL, JSON, CSV/TSV, SQLite 및 DB CLI가 출력할 수 있는 데이터를 받아 검색 가능한 전체 텍스트 인덱스로 변환합니다. 결과는 하나의 SQLite 파일에 저장되며, 별도 서버나 벡터 DB 없이 단일 static binary로 실행할 수 있습니다. 구조를 단순화하면 다음과 같습니다.대규모 데이터 → Leviathan 인덱싱 → 자연어 검색 → 관련 레코드..

1. 개요이 게임은 미로 상에서 공을 굴려 출발지에서 도착지까지 도달하도록 만드는 게임입니다. 기존 3D 미로 게임을 응용해서 게임판을 만들었는데, 달라진 것이라면 말 대신 공을 굴리는 방식으로 변경한 것이며, 공은 마우스 클릭이 아니라 스마트폰의 기울어짐을 이용하도록 되어 있습니다. 2. 게임룰게임판(미로) 상에 출발점과 도착점이 표시됩니다. 게임판은 매 게임마다 랜덤하게 생성됩니다.사용자는 핸드폰을 기울여 구슬이 미로의 통로로 굴러가도록 해야 합니다. 랜덤하게 미로가 만들어지므로 소요된 시간 기록이 의미가 없지만... 랭킹을 두긴 했습니다. ^^; 3. 게임 특징Three.js와 물리엔진이 적용되었습니다. 기존 미로게임과 3D 당구 게임에 사용된 기술을 활용했습니다. 물리엔진은 충돌, 반발, 중력 ..

이미지, 영상, 편집 등 한가지 일이라도 한번쯤 해 보신 분들이라면 Adobe 의 소프트웨어 생태계를 무조건 접해 보셨을 거라 생각합니다. 대부분 사진 편집에서 Photoshop을 많이 사용하실테고 최근 유튜브 영상 제작에 프리미어를 쓰시거나 이것도 저것도 아니면 Adobe PDF Reader라도 사용해 보셨겠죠. 그만큼 이 분야에서 Adobe의 영향력은 막강합니다. 대부분 취업 시에도 그 도구들을 사용하는 것을 전제로 하고 있구요. 그런데 여기에는 한 가지 문제가 있습니다. 그것은 솔루션 구독료라 약간 사악하다는 것인데요... 흠... 직업적으로 쓰는 분 입장에서는 그렇지 않을 수도 있겠네요. 그렇지 않고 개인적인 용도로 사용하기에는 너무 비싸게 여겨지는 것이 사실입니다. 그래서, 가끔 이미지 편집 ..