Llama.cpp

来自WHY42
Riguz（留言 | 贡献）2024年7月19日 (五) 02:37的版本 （→‎Build llama.cpp）

Build llama.cpp

[1] 

git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
make

Convert Hugging Face Model to GGUF

pip install -r requirements.txt
  1. ↑ https://github.com/ggerganov/llama.cpp/blob/master/docs/build.md
检索自“https://riguz.com/index.php?title=Llama.cpp&oldid=4327”