AI 탐구노트

1.개요 단어 토큰화 방식의 모델의 경우, 문자 수준에서 발생하는 다양한 노이즈(예; 철자 오류)와 언어, 사용 스크립트 등에 따라 일관성 없는 압축을 진행하는 등의 어려움이 있습니다. 그래서, 이에 대한 대안으로 바이트 수준으로 별도 토큰화가 없는 모델로 ByT5(Byte -leve T5)같은 모델이 등장했습니다. 하지만, 이들은 텍스트 전처리에서 토크나이제이션을 사용하지 않으나, 그로 인해 긴 입력 시퀀스를 처리하므로 연산 속도가 느리고 자원이 많이 소모되는 문제가 있습니다.  * ByT5 : 구글의 mT5(Multilingual T5)를 바이트 수준 입력으로 처리할 수 있도록 수정한 모델* T5 : 구글에서 개발한 언어 모델 'Text To Text Transfer Transformer'를 의미함...

1.서론1.1.이미지 배경 제거사진 작업을 하다 보면 배경을 제거하는 작업, 흔히 ‘누끼따기’로 불리는 과정은 누구나 한 번쯤 경험해 보셨을 겁니다. 이 작업은 단순한 이미지 편집처럼 보이지만, 실제로는 많은 시간과 노력이 필요합니다. 보통은 Photoshop 같은 도구를 사용하고, 한땀한땀 추출해 낼 대상의 외곽을 지정하고 이를 추출합니다. 사실 그걸로 끝나는 건 아니구요... 추출한 대상을 배치할 다른 배경 이미지에 놓고 개체가 배경과 잘 어울릴 수 있도록 주변 색상이나 형태를 비슷하게 맞춰주는 작업도 필요하죠. 조명이나 질감 등까지 잘 맞춰주는 것은 물론이구요. 그러니, 이런 작업은 고도의 숙련도가 요구되며, 비전문가에게는 어려운 작업으로 느껴지기 쉽습니다. 최근에는 이처럼 복잡한 작업을 자동화하려..