본문
modelstring필수- 모델 ID (예:
everyais/gemini-3-5-flash-lite) messagesarray필수- 메시지 배열 1–1000개.
role은system/user/assistant/tool/developer(→ system 으로 정규화).content는 문자열·null·멀티모달 파트 배열(최대 1000). 이미지(image_url)는 base64 data URL 로 보내세요 — Claude·GPT(Bedrock)·Gemini 경로는 원격 https URL 을 400 으로 거부하고, https URL 은 vLLM 기반 경로(Nebius·커뮤니티 공급)만 받습니다 streamboolean선택- SSE 스트리밍 (기본
false) stream_optionsobject선택{"include_usage": true}면 마지막 청크에 usage 포함temperaturenumber선택- 0–2
top_pnumber선택- 0–1
stopstring | string[]선택- 최대 4개
ninteger선택- 1 만 지원(기본 1). 2 이상은 400
presence_penalty/frequency_penaltynumber선택- -2부터 2까지
seedinteger선택- 재현성 힌트
toolsarray선택- function 도구 정의(최대 512개)와 서버 실행 웹 검색
{"type":"web_search"}(최대 1개 — 웹 검색 가이드 참고) tool_choicestring | object선택auto/none/required또는{"type":"function","function":{"name":"..."}}.none은 웹 검색도 비활성화합니다. 일부 모델(예: Claude Opus 5.5·Sonnet 5.5·Fable 5.1)은 강제 호출(required·함수 지정)을 400 으로 거부합니다 — 모델parameter_profile의tool_choice지원값을 확인하세요response_formatobject선택{"type":"text"}·{"type":"json_object"}·{"type":"json_schema","json_schema":{...}}reasoning_effortstring선택- 공용
low/medium/high/xhigh/max. 모델 전용 추가값(none/minimal등)은 해당 모델 프로필에 공개 parallel_tool_callsboolean선택- 병렬 도구 호출 허용
logprobs/top_logprobsboolean / integer선택- 선택 모델의 지원 옵션 확인.
top_logprobs는 0–20 verbositystring선택low/medium/high. GPT 경로(OpenAI·Mantle·Bedrock)만 지원, 그 외 400prompt_cache_keystring선택- OpenAI 프롬프트 캐시 라우팅 키(≤1024자). GPT 경로만
safety_identifierstring선택- 공급자 악용 탐지용 최종 사용자 해시 ID(≤64자). GPT 경로만
logit_biasobject선택- 토큰 ID → -100부터 100까지, 최대 300개. vLLM 기반 경로(Nebius·커뮤니티 공급)만
userstring선택- 최종 사용자 식별자
everyaisobject선택- 게이트웨이 옵션 —
{"cache":"on"|"off","cache_ttl":"5m"|"1h"}와provider providerobject선택- 라우팅 힌트 —
sort(price/latency/throughput) ·allow_fallbacks. 공급자 이름 지정은 지원하지 않습니다. modelsstring[]선택- 카탈로그 fallback. 최대 5개. 첫 모델이 호출 불가면 다음을 예약 전에만 시도합니다.
extra_bodyobject선택- 고급 옵션 —
anthropic/google/openai/everyais키만 허용(그 외 키는 400).extra_body.provider는 거부. Gemini 는google.top_k·google.media_resolution(low/medium/high, 이미지·영상 입력 토큰 해상도)
모델 slug 끝에 :nitro(지연 우선) 또는 :floor(엔드포인트 원가 낮은 쪽)를 붙일 수 있습니다. 청구액은 바뀌지 않습니다.
스키마에 없는 필드(store, service_tier 등)는 400입니다. 공개 allowed_values와 경로 변환용 native_allowed_values는 다릅니다. 출력 한도 미확인은 승인·판매·명시 호출을 막지 않으며, 생략 기본값은 아직 확정 정책이 아닙니다. 미구현 이미지 크기·품질·비디오 길이는 400입니다.
모델 옵션
선택한 모델에서 되는 값은 위 표에서 확인하세요(API에서는 GET /v1/models의 capabilities·limits·parameter_constraints). 지원하지 않는 값을 보냈을 때 값을 조정하는지 400으로 거부하는지는 모델 선택과 접근 정책의 파라미터 정책을 보세요.
structured_outputs: true인 모델에서만 strict 스키마를 사용하세요. 도구 결과를 이어 보낼 때는 같은 모델을 사용하고 원래 tool_calls를 보존하세요. Gemini는 tool_calls[].extra_content.google.thought_signature, OpenAI Responses는 extra_content.openai.reasoning_id와 reasoning_encrypted_content가 필요합니다.
스트리밍
stream: true 면 data: {...} SSE 청크가 이어지고 data: [DONE] 으로 끝납니다.
stream_options.include_usage 를 켜면 마지막 usage 청크가 추가됩니다.
전체 스트리밍 예제와 종료·오류 처리는 스트리밍 가이드를 참고하세요.