این اسکیل چه میکند؟
برای مدل محلی llama.cpp/GGUF؛ یافتن GGUF، انتخاب quant، اجرای server، دقیق…
ORIGINAL DESCRIPTION
Use to select models to run locally with llama.cpp and GGUF on CPU, Mac Metal, CUDA, or ROCm. Covers finding GGUFs, quant selection, running servers, exact…
چه زمانی به کار میآید؟
برای انتخاب مدل محلی llama.cpp و GGUF روی CPU، Mac Metal، CUDA یا ROCm.
WHEN TO USE
Use to select models to run locally with llama.cpp and GGUF on CPU, Mac Metal, CUDA, or ROCm.
بخشی از متن اصلی با «…» قطع شده است. ادامهٔ آن حدس زده یا تکمیل نشده است.