SITE CAPTURE서비스 페이지에 공개된 정보를 바탕으로 표시합니다. 선정·검수 원칙
WHAT IT DOES
무엇을 하나요?
Jinfer는 JVM을 위한 AI 추론 엔진으로 대화, 비전, 임베딩, 텍스트 음성 변환을 제공합니다. Spring AI와 LangChain4j를 통합하며 GGUF와 Safetensors 형식을 순수 Java로 읽고 쓸 수 있습니다. GraalVM Native Image에서는 JVM 없이 실행되는 단일 자체 포함 바이너리로 만들 수 있습니다.
KEY FEATURES
주요 기능
- 대화, 비전, 임베딩, 텍스트 음성 변환 추론
- Spring AI와 LangChain4j 통합
- 양자화 행렬 곱셈 루틴
- 사용자 정의 가능한 TikToken 호환 토크나이저
- GGUF 및 Safetensors 읽기·쓰기
- GraalVM Native Image용 자체 포함 바이너리 생성