huggingface

WHAT IT DOES

무엇을 하나요?

Mica v0.5-4B는 최대 32k 토큰의 입력과 질문, 허용 답안을 받아 각 답의 확률을 반환한다. 자유 형식 문장을 생성하지 않아 결과를 별도로 파싱할 필요가 없으며, 확신이 낮은 사례는 임계값으로 보류할 수 있다. llama.cpp와 Ollama 등을 통한 사용 방법이 제공된다.

KEY FEATURES

주요 기능

• 지정한 답안마다 확률을 반환한다
• 로그, 추적 기록, 문서, JSON을 입력으로 받는다
• 한 입력에 여러 질문을 적용한다
• abstain_threshold로 확신이 낮은 사례를 표시한다
• llama.cpp와 Ollama에서 모델을 실행한다