SITE CAPTURE서비스 페이지에 공개된 정보를 바탕으로 표시합니다. 선정·검수 원칙
WHAT IT DOES
무엇을 하나요?
LLM Inference Calculator는 대규모 언어 모델 추론의 성능 지표를 추정하는 도구입니다. 처리량과 지연 시간, TTFT, TPOT, GPU 메모리 사용량을 계산 대상으로 제시합니다.
KEY FEATURES
주요 기능
- 처리량 추정
- 지연 시간 추정
- TTFT 추정
- TPOT 추정
- GPU 메모리 사용량 추정
SCANNING · 페이지 신호 확인 중
다음 화면을
찾고 있어요.
내용이 도착하는 대로 바로 보여드릴게요.