BizRouter 비즈라우터

추론 (Reasoning)

추론 모델이 답하기 전에 생각하는 양을 정하고, 추론 토큰이 어떻게 과금되는지 설명합니다. 아래 예시와 파라미터는 Chat Completions API 기준이며, Responses API와 Messages API에서의 차이는 각 API 문서에 있습니다.

요청 파라미터

reasoning object 통합 추론 설정 지원 모델: 추론을 지원하는 모델 (GET /v1/models의 supported_parameters로 확인) include_reasoning boolean 추론을 지원하는 모델에만 보낼 수 있는 값입니다. BizRouter는 이 값으로 응답 형식을 바꾸지 않으며, 추론 과정을 응답에 담을지는 모델 제공사의 동작을 따릅니다. OpenAI 추론 파라미터 호환성 OpenAI /v1/chat/completions 의 기본 형식은 reasoning_effort 입니다. BizRouter는 호환성을 위해 reasoning: { effort: ... } 도 자동으로 reasoning_effort 로 변환합니다.

reasoning 설정 옵션

노력 수준 토큰 예산 결과만 반환 effort 동작 설명 "high" Provider가 지원하는 높은 추론 수준 복잡한 문제에 사용 "medium" Provider가 지원하는 중간 추론 수준 품질과 응답 시간의 균형 "low" Provider가 지원하는 낮은 추론 수준 응답 시간을 우선할 때 사용 "minimal" 지원 모델에서만 사용할 수 있는 최소 수준 모델별 지원 여부 확인 필요 추론에 사용할 토큰 수를 직접 지정 (Anthropic 스타일) 내부적으로 추론하되 응답에는 포함하지 않음 비용 참고 추론 토큰은 출력 토큰 으로 과금됩니다. 높은 effort 수준은 토큰 사용량을 크게 증가시킬 수 있습니다.

추론 모델 요청 예시

reasoning.effort 는 reasoning_effort 와 같게 처리됩니다.

주식회사 AI3 | 서울 강남구 영동대로85길 34 | support@bizrouter.ai