این اسکیل چه میکند؟
اعتبارسنجی و استفاده از activation recompute انتخابی و کامل در Megatron Bridge برای کاهش مصرف حافظهٔ GPU در ازای محاسبهٔ بیشتر.
ORIGINAL DESCRIPTION
Validate and use selective and full activation recompute in Megatron Bridge to reduce GPU memory usage at the cost of extra compute.
چه زمانی به کار میآید؟
در دادهٔ اصلی، کاربرد جداگانهای ثبت نشده است. توضیح بالا و صفحهٔ منبع را ببینید.