GratuitSkills
Commits, branches et synchronisation avec la CLI but
- 361361 téléchargements
- 198198 mentions J'aime
- 103103 sauvegardes
Compatible avec
- Claude Code
- Codex
- Cursor
- et 3 autres
Ajouter FSDP2 à un script d'entraînement PyTorch v1.0.0
Utilisez cette ressource pour ajouter le sharding FSDP2 à un script d'entraînement sans erreur d'initialisation
Nouveau
- 596 téléchargements
- 242 mentions J'aime
- 235 sauvegardes
Gratuit
Installer avec la CLI
Dans un terminal, depuis le dossier voulu :
npx --yes palatekit@latest install pytorch-fsdp2-sharding-setupSans option, la skill va dans ~/.agents/skills/ ; ajoutez --agent claude-code (ou codex, cursor…) pour viser un agent.
Première fois : connectez la CLI avec
npx --yes palatekit@latest loginL'agent suit une procédure pas à pas pour initialiser le calcul distribué, construire le modèle sur le périphérique meta, appliquer fully_shard de bas en haut, puis régler la précision mixte, le déchargement et les points de contrôle. Il présente aussi les alternatives à FSDP2.
Choisie surtout par
Mise à jour le 2 novembre 2026
Aperçus
Caractéristiques
- Fonctionne dans
- Guides d'installation
- Génère avec
- Le modèle de votre agent
- Licence
- MIT
Ressources similaires
Tout voir- Gratuit
GratuitSkills
Guide de la CLI Sentry
- 525525 téléchargements
- 117117 mentions J'aime
- 128128 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Bonnes pratiques Drizzle ORM avec PostgreSQL
- 407407 téléchargements
- 194194 mentions J'aime
- 151151 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Assistant de conception de SLO
- 537537 téléchargements
- 105105 mentions J'aime
- 242242 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
User stories de sprint
- 451451 téléchargements
- 150150 mentions J'aime
- 132132 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Plan de sprint réaliste
- 423423 téléchargements
- 192192 mentions J'aime
- 102102 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Conseiller CTO de startup
- 580580 téléchargements
- 201201 mentions J'aime
- 242242 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Création de pull requests GitHub avec contrôles qualité
- 427427 téléchargements
- 230230 mentions J'aime
- 196196 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
Ce que vous obtenez
- SKILL.md : procédure pas à pas, de l'initialisation à l'optimiseur
- references/pytorch_fsdp2_tutorial.md, pytorch_fully_shard_api.md, pytorch_dcp_recipe.md et pytorch_device_mesh_tutorial.md : tutoriels, API fully_shard, points de contrôle et DeviceMesh
Pour qui
- Votre modèle ne tient pas dans la mémoire d'un seul GPU
- Vous voulez un sharding basé sur DTensor avec DeviceMesh
Pas pour qui
Étiquettes
- fsdp2
- sharding
- pytorch
- distribué
À propos
Vous dites
« Ajoute FSDP2 à mon script d'entraînement d'un modèle 13B sur quatre GPU, avec point de contrôle distribué. »
Skill publiée par Orchestra Research sous licence MIT. Fichiers livrés dans leur version d'origine, en anglais.
Voir plusVoir moins
Comment l'utiliser
- Installez la skill dans le dossier de skills de votre agent
- Demandez à votre agent de ajouter le sharding FSDP2 à un script d'entraînement sans erreur d'initialisation
- Relisez et ajustez le résultat
Aperçu du contenu
Fichiers
- LICENSE1,1 Ko
- NOTICE-PALATEKIT.md0,5 Ko
- references/pytorch_dcp_async_recipe.md0,8 Ko
- references/pytorch_dcp_overview.md1 Ko
- references/pytorch_dcp_recipe.md1 Ko
- references/pytorch_ddp_notes.md0,5 Ko
- references/pytorch_device_mesh_tutorial.md1,2 Ko
- references/pytorch_examples_fsdp2.md0,7 Ko
- references/pytorch_fsdp1_api.md0,4 Ko
- references/pytorch_fsdp2_tutorial.md2,5 Ko
- references/pytorch_fully_shard_api.md2,9 Ko
- references/pytorch_tp_tutorial.md1 Ko
- references/ray_train_fsdp2_example.md0,6 Ko
- references/torchtitan_fsdp_notes.md0,7 Ko
- SKILL.md11 Ko
Origine et licence
Référencée sans modification
- Auteur
- Orchestra Research
- Source
- github.com/orchestra-research/ai-research-skills/tree/773a52944ba4747a18bd4ae9ade53fff041adcbc/08-distributed-training/pytorch-fsdp2
- Licence
- MIT
Notice
« pytorch-fsdp2 » (Orchestra Research, MIT) livré dans sa version d'origine : fiche en français et en anglais par PalateKit.
Avis des utilisateurs
–
Aucune note pour l'instant
Chargement des avis…