BizRouter 비즈라우터

제한 사항

요청 크기, 시간, 개수에 걸린 BizRouter의 한도를 한곳에 모았습니다. 분당 요청 수는 요청 한도 에, 모델마다 다른 입력 한도(컨텍스트 길이, 최대 출력 토큰)는 GET /v1/models 와 모델 목록 에 있습니다.

요청 본문 크기

넘으면 모델을 호출하기 전에 거절합니다 Chat Completions는 413 request_body_too_large 로 거절합니다. 파일을 multipart로 올리는 엔드포인트(음성 인식, 이미지 편집)는 본문을 끝까지 읽지 못하면 400 bad_request 로 거절합니다.

대화에 넣는 이미지

모델 제공사에 따라 받는 방식이 다릅니다 Anthropic·Google 모델에서 형식이나 크기가 맞지 않으면 400 bad_request 와 함께 Invalid image data: … 메시지로 거절합니다.

시간 제한

모델 제공사를 기다리는 시간의 상한입니다 시간을 넘기면 504 provider_timeout 을 돌려줍니다. 메시지에 어느 구간에서 몇 초가 지났는지가 들어 있습니다. 스트리밍이 이미 시작된 뒤라면 스트림 안의 오류 이벤트로 전달됩니다. 스트리밍 응답은 15초마다 SSE 주석 줄을 보내 연결을 유지합니다. 클라이언트의 읽기 시간 제한은 이보다 길게 잡으십시오. 조직 폴백 정책의 지연 임계값( latency_threshold_ms )은 500~120,000ms 범위에서만 적용됩니다. 장애 대비 폴백

개수 제한

메시지 수, 도구 수, 임베딩 입력 개수, 리랭킹 문서 수처럼 위에 없는 항목은 BizRouter가 따로 막지 않고 모델 제공사의 제한을 따릅니다. 동영상의 길이와 참조 이미지 수는 모델마다 달라 동영상 생성 의 「모델별 요청 제약」에 정리했습니다.

실시간 세션과 동영상

실시간 대화의 요금과 세션 한도는 실시간 대화 에 자세히 있습니다.

모든 API (아래 예외 제외) 20MB base64로 넣은 이미지까지 포함한 요청 본문 전체 크기입니다. POST /v1/audio/transcriptions 26MB OpenAI가 허용하는 25MB 음성 파일이 들어가도록 잡은 값입니다. POST /v1/images/edits 32MB 원본 이미지와 참조 이미지를 모두 합친 크기입니다. POST /v1/systemone 4MB Jev 요청 분석의 입력 크기입니다. POST /v1/files, POST /v1/messages/batches 100MB 배치 입력 파일과 Message Batches 요청 본문입니다. 요청 수는 OpenAI 형식 5만 건, Anthropic 형식 10만 건까지입니다. Anthropic·Google 모델 JPEG, PNG, GIF, WebP · 이미지 하나당 5MB base64 data URI(data:image/…;base64,…)만 받습니다. 외부 URL은 받지 않습니다. 크기는 디코딩한 크기 기준입니다. OpenAI·xAI 모델 요청 본문 20MB 안에서 제공사 기준 이미지를 그대로 전달하므로 형식과 크기는 각 제공사의 제한을 따릅니다. 이미지 편집 (/v1/images/edits) PNG, JPEG, WebP · 참조 이미지 16장 xAI 모델은 참조 이미지 5장까지입니다. 연결 10초 모델 제공사와 연결하는 데 걸리는 시간입니다. 첫 응답 600초 요청을 보낸 뒤 제공사가 응답을 시작할 때까지의 시간입니다. 비스트리밍 응답 전체 600초 응답 본문을 끝까지 받을 때까지의 시간입니다. 스트리밍 중 공백 300초 스트리밍 중 제공사로부터 다음 조각이 이 시간 동안 오지 않으면 끊습니다. models 배열 (폴백 후보) 5개 요청한 model과 같은 코드와 중복을 뺀 뒤 앞에서부터 5개만 씁니다. 나머지는 오류 없이 무시합니다. X-BizRouter-Route-Allowed-Models 200개 · 8,192자 중복된 코드도 개수에 포함합니다. 이미지 생성 n 1~10 한 요청에서 만드는 이미지 수입니다. Idempotency-Key 128자 공백 없는 ASCII 문자만 씁니다. 같은 키는 15분 동안 다시 쓸 수 없습니다. 사용량 귀속 헤더 각 128자 영문, 숫자, 점, 밑줄, 콜론, 하이픈만 씁니다. 메시지 크기 16MB /v1/realtime, /v1/live/sessions, /v1/responses(WebSocket 모드)에서 주고받는 WebSocket 메시지 하나의 크기입니다. 세션 금액 상한 세션마다 적용 조직의 남은 사용 가능 금액보다 커지지 않습니다. 도달하면 session_cost_limit_exceeded 오류 이벤트를 보낸 뒤 연결을 닫습니다(close code 1008). 동영상 작업 조회 생성 후 1시간 (Seedance 작업은 7일) 이후 상태 조회는 Operation not found or expired로 실패합니다. 동영상 다운로드 완료 후 30분 완료된 동영상은 이 시간 안에 내려받아야 합니다.

주식회사 AI3 | 서울 강남구 영동대로85길 34 | support@bizrouter.ai