추론 강도 (Reasoning Effort, effort)

추론 강도(Reasoning Effort)는 AI 모델이 답을 만들 때 들이는 추론과 작업의 정도를 조절하는 설정입니다. 같은 모델에서도 문제를 더 오래 검토할지, 적은 계산으로 빠르게 응답할지 정하는 데 쓰입니다. API나 코딩 도구에 표시되는 effort가 대표적인 이름이며, 단계별 의미와 지원 범위는 모델과 제품에 따라 달라집니다.

답을 만드는 작업량의 조절

여러 파일에 걸친 오류를 고치는 AI 에이전트는 코드를 읽고, 수정 방법을 비교하고, 테스트 결과를 해석합니다. 추론 강도는 이 과정에서 모델이 얼마나 깊게 검토할지에 영향을 줍니다. 앤트로픽의 effort 문서는 이 값을 엄격한 토큰 예산이 아닌 행동 조절 신호로 설명합니다. 낮게 설정해도 어려운 문제에서는 추론이 발생하며, 같은 단계로 실행한 두 요청의 토큰 사용량이 같아지는 것도 아닙니다.

단계를 높이면 더 많은 추론 토큰이나 도구 호출을 사용해 시간이 길어질 수 있습니다. 그 추가 작업이 오류를 찾는 데 도움이 되는지는 과제에 달려 있습니다. 이미 명확한 짧은 변환 작업과, 실패 원인이 드러나지 않은 코드 수정은 필요한 검토량이 다릅니다. 높은 단계가 모든 질문의 정답률을 일정하게 올린다고 전제하면 비용과 응답 시간을 해석하기 어렵습니다.

모델 선택과 추론 강도 선택도 구분합니다. 모델을 바꾸면 학습된 능력과 지원 기능이 달라지고, 추론 강도를 바꾸면 선택한 모델의 작업 방식이 조절됩니다. 성능을 비교할 때 모델명만 기록하면 이 차이가 빠집니다. 같은 모델을 비교하더라도 설정값, 입력 내용, 도구 접근 범위가 함께 있어야 결과의 원인을 좁힐 수 있습니다.

토큰 상한과 사고 모드의 차이

2026년 10월 11일 UTC에 확인한 Claude API에서는 output_config.effort로 강도를 지정합니다. 앤트로픽의 사고 조절 문서는 사고 방식과 노력 수준을 별도로 설명합니다. 적응형 사고는 모델이 언제 얼마나 생각할지 결정하는 방식이고, effort는 그 판단에 작용하는 강도입니다. API에서 사용하는 사고 모드 이름을 effort 값 자리에 넣을 수는 없습니다.

출력 상한인 max_tokens는 요청에서 허용하는 생성량을 제한합니다. effort를 높이더라도 이 상한을 넘겨 계속 생성하도록 허용하는 것은 아닙니다. 추론과 최종 답변이 같은 출력 한도를 나눠 쓰는 모델에서는 검토량을 늘린 만큼 답을 완성할 여유도 필요합니다. 실제로 어떤 토큰이 한도와 과금에 포함되는지는 해당 모델의 API 계약으로 확인합니다.

눈에 보이는 답변 길이만으로 추론 강도를 판단하기도 어렵습니다. 충분히 검토한 뒤 짧게 답할 수 있고, 검토가 부족한 답변이 장황할 수도 있습니다. 답변을 짧게 제한하는 요구와 어려운 예외 조건을 검토하라는 요구는 서로 다른 지시입니다. 결과물의 분량을 줄이는 작업에서는 길이 조건을 따로 명시하는 편이 설정의 목적을 분명하게 만듭니다.

모델과 실행 환경별 확인 조건

코딩 도구의 설정 이름은 API 필드와 다를 수 있습니다. 같은 확인일의 Claude Code 모델 설정 문서는 실행 시 --effort, 세션 안의 /effort, 환경변수 CLAUDE_CODE_EFFORT_LEVEL 등을 설명합니다. 조직에서 허용한 상한이 있으면 사용자가 선택한 값보다 낮은 수준이 적용될 수 있으므로, 요청한 값과 실제 적용값을 구분해 기록합니다.

지원 단계와 기본값은 모델별로 달라집니다. 설정을 생략한 실행은 명시적으로 같은 단계를 지정한 실행과 항상 같은 비교 조건이 되지 않습니다. 제품을 바꾸거나 모델을 갱신할 때 이전 환경에서 쓰던 단계 이름만 복사하면, 지원하지 않는 값이거나 다른 기본 동작을 기대하게 됩니다. 호출 경로가 API인지 코딩 도구인지도 함께 남깁니다.

운영자가 강도를 정할 때는 같은 대표 과제에 대해 성공 여부, 재시도 횟수, 총 지연, 토큰 사용량을 함께 봅니다. 코드 수정이라면 테스트 통과와 수정 범위의 적절성까지 결과에 포함합니다. 낮은 단계에서 놓친 조건이 높은 단계에서 해결되는지 확인하면 추가 계산의 쓰임이 드러납니다. 반대로 입력에 필요한 자료가 빠졌다면 강도를 올리기 전에 그 자료를 제공하는 쪽부터 검토합니다.