Anthropic의 새로운 하이브리드 추론 모델 : Claude 3.7 Sonnet

 

인공지능(AI) 기술은 빠르게 발전하며, 다양한 분야에서 혁신을 이끌고 있습니다. 특히, AI의 추론 능력과 코딩 역량은 개발자와 기업들에게 큰 관심을 받고 있습니다.

 

이러한 흐름 속에서 Anthropic은 새로운 하이브리드 추론 모델인 Claude 3.7 Sonnet을 발표하였습니다. 이 모델은 빠른 응답과 심층적인 사고를 통합하여 사용자 경험을 향상시키고, 코딩 및 웹 개발 분야에서 뛰어난 성능을 보여줍니다. 이번 글에서는 Claude 3.7 Sonnet의 주요 특징과 함께, 개발자들을 위한 새로운 도구인 Claude Code에 대해 살펴보겠습니다.

 

---

 

Claude 3.7 Sonnet 

이번에 공개된 Claude 3.7 Sonnet 모델은 이전 3.5 버전의 업그레이드 버전으로, 사용자가 비추론 모드와 추론 모드 중 선택하여 활용할 수 있는 것이 큰 특징입니다. 즉, 빠른 응답이 필요할 때는 비추론 모드를 이용하고, 더 깊은 분석 결과를 얻고 싶을 때는 '확장된 사고 모드(extended thinking mode)' 라 불리는 추론 모드를 이용하는 방식으로 선택적으로 사용할 수 있다는 것이죠. 추가적으로 생각할 시간을 더 주면 수학, 물리, 코딩 등 다양한 작업에서 성능을 향상시킬 수 있습니다. 

 

하이브리드 추론 모델

Claude 3.7 Sonnet은 일반적인 대형 언어 모델(LLM)과 추론 모델의 기능을 하나로 통합하였습니다. 사용자는 표준 모드에서 빠른 응답을 받을 수 있으며, 확장된 사고 모드에서는 모델이 스스로 반성하며 수학, 물리학, 코딩 등 다양한 작업에서 향상된 성능을 제공합니다. 이러한 통합 접근 방식은 사용자 경험을 단순화하고, 별도의 추론 모델을 사용할 필요성을 제거합니다.

 

확장된 사고 모드 (extended thinking mode)

확장된 사고 모드에서는 모델이 응답 전에 스스로 반성하는 과정을 거칩니다. 이를 통해 복잡한 문제에 대한 정확한 답변을 제공하며, 수학, 물리학, 코딩 등 다양한 분야에서 향상된 성능을 보여줍니다. API 사용자는 모델의 사고 시간에 대한 예산을 설정하여, 응답 시간과 품질 간의 균형을 조절할 수 있습니다. 참고로 확장된 사고 모드는 무료 Claude 계정에서는 사용할 수 없으며, Pro, Team, Enterprise 플랜에서만 이용 가능합니다.

 

Claude Code

또한 앤트로픽은 개발자들이 명령줄 인터페이스를 통해 AI에게 코딩 작업을 직접 위임할 수 있는 도구인 Claude Code를 소개했습니다. 이를 통해 코드 검색, 편집, 테스트, GitHub에 커밋 및 푸시, 명령줄 도구 사용 등 다양한 작업을 자동화할 수 있는데, 아쉽게도 현재 제한된 연구 프리뷰로 제공된다고 합니다. 향후 개발자들의 생산성을 크게 향상시킬 것으로 기대됩니다.

 

 

API 사용료와 비용 조절

Claude 3.7 Sonnet의 API 사용료는 100만 입력 토큰당 3달러, 100만 출력 토큰당 15달러로, 다른 모델들에 비해 다소 높은 편입니다. 하지만 개발자들은 API 사용 시 비용을 조절할 수 있는 옵션을 통해 답변의 수준과 속도, 비용을 설정할 수 있습니다.

 

벤치마크 테스트 결과

Claude 3.7 Sonnet는 여러 벤치마크 테스트에서 우수한 성과를 보였습니다. SWE-벤치(SWE-bench)에서는 62.3%의 정확도로 1위를 차지했으며, 이는 기존 최고 추론 모델인 'o3-mini-high'의 49.3%를 크게 앞서는 결과입니다. 또한, 실제 작업에서의 유용성을 평가하는 TAU-벤치(TAU-bench)에서는 물건 구매와 항공권 구매에서 각각 81.2%와 58.4%의 성공률을 기록하여, OpenAI의 'o1' 모델을 능가하는 성과를 보였습니다.

 

그림 : 모델 간 성능 벤치마크 결과 비교

---

 

Anthropic의 Claude 3.7 Sonnet은 빠른 응답과 심층적인 추론을 통합한 하이브리드 모델로서, 사용자 경험을 혁신적으로 향상시킵니다. 특히, 코딩 및 웹 개발 분야에서 뛰어난 성능을 보여주며, 개발자들을 위한 Claude Code 도구를 통해 생산성을 높일 수 있습니다. 향후 제약사항들이 개선되어 더 많은 사용자들이 이러한 혁신적인 기술을 활용할 수 있기를 기대합니다.

---

참고자료

• 공식 소개 블로그 (링크)