WHAT IT DOES

무엇을 하나요?

OpenAI 호환 서비스, Anthropic, Gemini, Bedrock을 하나의 인터페이스로 연결합니다. 재시도 예산, 서킷 브레이킹, 다중 제공자 폴백, 속도 제한, 캐싱과 미들웨어가 애플리케이션 프로세스 안에서 동작합니다. HTTP로 접근 가능한 제공자는 fromFetch 어댑터로 연결할 수 있습니다.

KEY FEATURES

주요 기능

• 여러 LLM 제공자를 위한 단일 호출 인터페이스
• 재시도 예산과 서킷 브레이킹
• 다중 제공자 폴백
• 호출 속도 제한과 캐싱
• 내장 미들웨어
• fromFetch 어댑터를 통한 HTTP 제공자 연결