galahad

WHAT IT DOES

무엇을 하나요?

Galahad는 모델이 한 번 읽은 텍스트의 읽기 결과를 보관했다가 다시 필요할 때 제공한다. 문서 자체도 저장하고 질문과 관련된 부분을 찾아 모델이 필요한 내용만 읽도록 한다. C++ 코어가 있으며 llama.cpp, vLLM, SGLang 안에서 실행된다.

KEY FEATURES

주요 기능

• 모델의 텍스트 읽기 결과를 저장하고 다시 제공한다
• 질문과 관련된 문서 부분을 찾는다
• llama.cpp, vLLM, SGLang 안에서 실행된다