این اسکیل چه می‌کند؟
Half-Quadratic Quantization برای LLM بدون دادهٔ calibration.
ORIGINAL DESCRIPTION
Half-Quadratic Quantization for LLMs without calibration data.
چه زمانی به کار می‌آید؟
هنگام کوانتیزه‌سازی به 4/3/2-bit بدون دیتاست calibration، برای… سریع
WHEN TO USE
when quantizing models to 4/3/2-bit precision without needing calibration datasets, for fast…
بخشی از متن اصلی با «…» قطع شده است. ادامهٔ آن حدس زده یا تکمیل نشده است.
کاربردهای مرتبط
برچسب‌گذاری خودکار بر اساس نام و توضیح؛ ممکن است نیازمند اصلاح باشد.