GratuitSkills
Commits, branches et synchronisation avec la CLI but
- 361361 téléchargements
- 198198 mentions J'aime
- 103103 sauvegardes
Compatible avec
- Claude Code
- Codex
- Cursor
- et 3 autres
Quantification des LLM en 8 ou 4 bits avec bitsandbytes v1.0.0
Utilisez cette ressource pour quantifier un LLM en 8 ou 4 bits pour le faire tenir dans une mémoire GPU limitée
Nouveau
- 372 téléchargements
- 131 mentions J'aime
- 102 sauvegardes
Gratuit
Installer avec la CLI
Dans un terminal, depuis le dossier voulu :
npx --yes palatekit@latest install bitsandbytes-llm-quantizationSans option, la skill va dans ~/.agents/skills/ ; ajoutez --agent claude-code (ou codex, cursor…) pour viser un agent.
Première fois : connectez la CLI avec
npx --yes palatekit@latest loginL'agent configure le chargement d'un modèle Hugging Face en INT8 ou NF4, vérifie l'occupation mémoire et, pour l'entraînement, prépare un fine-tuning QLoRA avec adaptateurs LoRA et optimiseurs 8 bits. Vous obtenez un modèle qui tient dans votre GPU, avec une perte de précision faible.
Choisie surtout par
Mise à jour le 2 novembre 2026
Aperçus
Caractéristiques
- Fonctionne dans
- Guides d'installation
- Génère avec
- Le modèle de votre agent
- Licence
- MIT
Ressources similaires
Tout voir- Gratuit
GratuitSkills
Guide de la CLI Sentry
- 525525 téléchargements
- 117117 mentions J'aime
- 128128 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Bonnes pratiques Drizzle ORM avec PostgreSQL
- 407407 téléchargements
- 194194 mentions J'aime
- 151151 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Assistant de conception de SLO
- 537537 téléchargements
- 105105 mentions J'aime
- 242242 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
User stories de sprint
- 451451 téléchargements
- 150150 mentions J'aime
- 132132 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Plan de sprint réaliste
- 423423 téléchargements
- 192192 mentions J'aime
- 102102 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Conseiller CTO de startup
- 580580 téléchargements
- 201201 mentions J'aime
- 242242 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Création de pull requests GitHub avec contrôles qualité
- 427427 téléchargements
- 230230 mentions J'aime
- 196196 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
Ce que vous obtenez
- SKILL.md : démarrage rapide et chargement en 8 ou 4 bits
- references/qlora-training.md : entraînement QLoRA
- references/quantization-formats.md : formats INT8, NF4 et FP4
Pour qui
- Votre GPU n'a pas assez de mémoire pour le modèle visé
- Vous voulez entraîner un modèle avec QLoRA sur une carte modeste
Pas pour qui
Étiquettes
- quantification
- bitsandbytes
- qlora
À propos
Vous dites
« Charge Llama 2 7B en 4 bits sur mon GPU de 8 Go et vérifie la mémoire utilisée. »
Skill publiée par davila7 sous licence MIT. Fichiers livrés dans leur version d'origine, en anglais.
Voir plusVoir moins
Comment l'utiliser
- Installez la skill dans le dossier de skills de votre agent
- Demandez à votre agent de quantifier un LLM en 8 ou 4 bits pour le faire tenir dans une mémoire GPU limitée
- Relisez et ajustez le résultat
Aperçu du contenu
Fichiers
- LICENSE1,1 Ko
- NOTICE-PALATEKIT.md0,5 Ko
- references/memory-optimization.md12,9 Ko
- references/qlora-training.md12,2 Ko
- references/quantization-formats.md10,5 Ko
- SKILL.md10,3 Ko
Origine et licence
Référencée sans modification
- Auteur
- davila7
- Source
- github.com/davila7/claude-code-templates/tree/f57964ebda91cdfb31755661ecea9395f30020f1/cli-tool/components/skills/ai-research/optimization-bitsandbytes
- Licence
- MIT
Notice
« optimization-bitsandbytes » (davila7, MIT) livré dans sa version d'origine : fiche en français et en anglais par PalateKit.
Avis des utilisateurs
–
Aucune note pour l'instant
Chargement des avis…