این اسکیل چه میکند؟
راهاندازی سرویس vLLM یا SGLang روی Jetson؛ vLLM بالادستی روی Thor و Orin با JetPack 7.2+ و NVIDIA-AI-IOT vLLM روی Orin قدیمیتر.
ORIGINAL DESCRIPTION
Stand up vLLM or SGLang serving on Jetson, using upstream vLLM on Thor and Orin JetPack 7.2+, and NVIDIA-AI-IOT vLLM on older Orin.
چه زمانی به کار میآید؟
در دادهٔ اصلی، کاربرد جداگانهای ثبت نشده است. توضیح بالا و صفحهٔ منبع را ببینید.