این اسکیل چه میکند؟
افزودن PyTorch FSDP2 یا fully_shard به اسکریپت آموزش با init، sharding، config دقت ترکیبی و offload درست و checkpoint توزیعشده.
ORIGINAL DESCRIPTION
Adds PyTorch FSDP2 (fully_shard) to training scripts with correct init, sharding, mixed precision/offload config, and distributed checkpointing.
چه زمانی به کار میآید؟
هنگام…
WHEN TO USE
when…
بخشی از متن اصلی با «…» قطع شده است. ادامهٔ آن حدس زده یا تکمیل نشده است.