Toutes les ressources premium et membres pour 8,99 €/mois, en abonnement sans engagement. Voir les offres

PalateKit

Menu

Demander une ressource

Décrivez en une phrase la ressource qui vous manque. Nous vous écrirons quand elle sera publiée.

0 / 280

Débloquer PalateKit

Tout débloquer

Offre

Le paiement vaut acceptation de nos conditions générales de vente.

Paiement sécurisé par Stripe. Reçus et factures envoyés par e-mail.

Content de vous revoir

Connectez-vous pour installer, télécharger ou sauvegarder cette ressource. Un compte gratuit suffit pour les ressources gratuites.

Réduction de la mémoire GPU dans Megatron Bridge v1.0.0

Utilisez cette ressource pour diagnostiquer et réduire les erreurs de mémoire GPU pendant l'entraînement

Nouveau

  • 305 téléchargements
  • 155 mentions J'aime
  • 174 sauvegardes

Gratuit

Installer avec la CLI

Dans un terminal, depuis le dossier voulu :

npx --yes palatekit@latest install gpu-memory-reduction-techniques

Sans option, la skill va dans ~/.agents/skills/ ; ajoutez --agent claude-code (ou codex, cursor…) pour viser un agent.

Première fois : connectez la CLI avec

npx --yes palatekit@latest login

L'agent vérifie d'abord si l'OOM vient de la fragmentation de l'allocateur, puis propose les leviers : PYTORCH_CUDA_ALLOC_CONF avec expandable_segments, qui est le premier réglage recommandé, redimensionnement du parallélisme, recalcul d'activations, déchargement CPU. Vous obtenez des réglages et leurs contraintes de compatibilité.

Choisie surtout par

Mise à jour le 2 novembre 2026

Carte de la skill « Réduction de la mémoire GPU dans Megatron Bridge »

Caractéristiques

Guides d'installation
Génère avec
Le modèle de votre agent
Licence
Apache-2.0

Ressources similaires

Tout voir

Ce que vous obtenez

  • SKILL.md : leviers et contraintes
  • card.yaml : fiche structurée de la skill
  • evals/evals.json : cas d'évaluation

Pour qui

  • Un entraînement échoue avec une erreur de mémoire CUDA
  • Vous voulez gagner de la mémoire sans changer le modèle

Pas pour qui

    Étiquettes

    • mémoire GPU
    • OOM
    • Megatron Bridge
    • recalcul

    À propos

    Vous dites

    « Mon entraînement Megatron Bridge sort en OOM sur 8 H100 : quels réglages essayer en premier ? »

    Carte de la skill « Réduction de la mémoire GPU dans Megatron Bridge »

    Skill publiée par nvidia sous licence Apache-2.0. Fichiers livrés dans leur version d'origine, en anglais.

    Voir plus

    Comment l'utiliser

    1. Installez la skill dans le dossier de skills de votre agent
    2. Demandez à votre agent de diagnostiquer et réduire les erreurs de mémoire GPU pendant l'entraînement
    3. Relisez et ajustez le résultat

    Aperçu du contenu

    Fichiers

    • BENCHMARK.md4 Ko
    • card.yaml10 Ko
    • evals/evals.json1,5 Ko
    • LICENSE11,3 Ko
    • NOTICE-PALATEKIT.md0,5 Ko
    • skill-card.md4,1 Ko
    • SKILL.md14,4 Ko
    • skill.oms.sig4,7 Ko

    Origine et licence

    Référencée sans modification

    Auteur
    nvidia
    Source
    github.com/nvidia/skills/tree/ca116d60beafe1b4459f0ab790b7b450912c56b0/skills/nemo-mbridge-perf-memory-tuning
    Licence
    Apache-2.0

    Notice

    « nemo-mbridge-perf-memory-tuning » (nvidia, Apache-2.0) livré dans sa version d'origine : fiche en français et en anglais par PalateKit.

    Avis des utilisateurs

    –

    Aucune note pour l'instant

    Chargement des avis…

    Supprimer votre avis ?

    Votre note et votre commentaire seront retirés de la fiche.