WHAT IT DOES

무엇을 하나요?

GPU 프리셋을 선택하면 실행 가능한 모델 세 가지와 권장 양자화, 예상 VRAM 및 속도를 보여줍니다. 모델과 예산을 기준으로 GPU를 비교하거나 LLM·임베딩·리랭커·OCR/VLM을 여러 GPU에 배치할 수 있습니다. 배치 결과에는 예상 처리량과 병목, 개선 방법이 포함되며 수치는 계산 추정치입니다.

KEY FEATURES

주요 기능

• GPU 선택 시 실행 가능한 모델 세 가지 추천
• 권장 양자화와 예상 VRAM·속도 비교
• 모델과 예산에 맞는 GPU 비교
• 여러 GPU에 AI 모델 배치 계산
• 예상 처리량과 병목 및 개선 방법 표시