목록2026/03/01 (1)

AI 탐구노트

RLM : 초장문 프롬프트를 다루는 재귀 언어 모델

AI를 쓰다보면 짧은 질문에는 똑똑하게 답하지만 문서가 길어지면 갑자기 헤매는 순간이 생깁니다. 회의록 몇 개를 한꺼번에 넣거나, 수백 페이지 보고서를 붙여 넣는 순간부터 답이 흐려지는 예처럼 말이죠. 이 현상은 단순히 사용되는 토큰이 부족해서만이 아니라 길어진 맥락 속에서 중요한 정보를 계속 붙잡아 두기 어려워서 생기기도 합니다. 새로 뭔가를 공부하게 되면 부족해진 뇌속의 방에서 이전 기억들을 내보내야 하는 상황과 비슷하다고 해야할까요? 나이가 들면서 자연스레 느끼게 되는 것 같습니다. ^^; 그런데 기업 현장에선 이 문제가 더 중요해 집니다. 고객 상담 기록, 사내 위키, 법무 문서처럼 길고 복잡한 텍스트가 기본인 업무가 많기 때문이죠. 그래서 요즘은 긴 입력을 다루는 방법으로 요약을 반복하거나(압축..
AI 기술 2026. 3. 1. 11:30
이전 Prev 1 Next 다음