torchacc

• torchacc package
  • Submodules
  • torchacc.accelerate module
  • torchacc.config module
  • Module contents
  • Subpackages
    • torchacc.core package
      • Submodules
      • torchacc.core.accelerate_hf_trainer module
      • torchacc.core.amp module
      • torchacc.core.async_loader module
      • Module contents
    • torchacc.dist package
      • Subpackages
      • Submodules
      • torchacc.dist.backend module
      • torchacc.dist.distributed_parallel module
      • torchacc.dist.dp module
      • torchacc.dist.fsdp module
      • torchacc.dist.mesh module
      • torchacc.dist.parallel_module module
      • torchacc.dist.spmd_fsdp module
      • torchacc.dist.tp module
      • Module contents
    • torchacc.llm package
      • Submodules
      • torchacc.llm.qwen_patch module
      • Module contents
    • torchacc.ops package
      • Subpackages
      • Submodules
      • torchacc.ops.flash_attn module
      • torchacc.ops.scaled_dot_product_attention module
      • Module contents
    • torchacc.utils package
      • Submodules
      • torchacc.utils.checkpoint module
      • torchacc.utils.cpu_offload module
      • torchacc.utils.decompose module
      • torchacc.utils.logger module
      • torchacc.utils.patch module
      • torchacc.utils.trace module
      • torchacc.utils.utils module
      • Module contents