Toutes les ressources premium et membres pour 8,99 €/mois, en abonnement sans engagement. Voir les offres

PalateKit

Menu

Demander une ressource

Décrivez en une phrase la ressource qui vous manque. Nous vous écrirons quand elle sera publiée.

0 / 280

Débloquer PalateKit

Tout débloquer

Offre

Le paiement vaut acceptation de nos conditions générales de vente.

Paiement sécurisé par Stripe. Reçus et factures envoyés par e-mail.

Content de vous revoir

Connectez-vous pour installer, télécharger ou sauvegarder cette ressource. Un compte gratuit suffit pour les ressources gratuites.

Modèles GGUF locaux avec llama.cpp v1.0.0

Utilisez cette ressource pour choisir et lancer un modèle GGUF en local avec llama.cpp

Nouveau

  • 300 téléchargements
  • 169 mentions J'aime
  • 153 sauvegardes

Gratuit

Installer avec la CLI

Dans un terminal, depuis le dossier voulu :

npx --yes palatekit@latest install local-gguf-model-llamacpp

Sans option, la skill va dans ~/.agents/skills/ ; ajoutez --agent claude-code (ou codex, cursor…) pour viser un agent.

Première fois : connectez la CLI avec

npx --yes palatekit@latest login

L'agent cherche des dépôts GGUF sur le Hub, choisit la quantification adaptée au CPU, à Metal, CUDA ou ROCm, puis lance llama-cli ou llama-server. Il vérifie le serveur local, qui répond au format compatible OpenAI.

Choisie surtout par

Mise à jour le 2 novembre 2026

Carte de la skill « Modèles GGUF locaux avec llama.cpp »

Caractéristiques

Guides d'installation
Génère avec
Le modèle de votre agent
Licence
Apache-2.0

Ressources similaires

Tout voir

Ce que vous obtenez

  • SKILL.md : flux de travail, installation de llama.cpp et test du serveur
  • references/quantization.md : choix de la quantification
  • references/hardware.md et hub-discovery.md : matériel pris en charge et recherche sur le Hub

Pour qui

  • Vous voulez faire tourner un modèle sur votre ordinateur sans service cloud
  • Vous cherchez la quantification qui tient dans votre mémoire

Pas pour qui

    Étiquettes

    • GGUF
    • llama.cpp
    • quantification
    • local

    À propos

    Vous dites

    « Lance un modèle de code en local sur mon Mac avec llama-server. »

    Carte de la skill « Modèles GGUF locaux avec llama.cpp »

    Skill publiée par huggingface sous licence Apache-2.0. Fichiers livrés dans leur version d'origine, en anglais.

    Voir plus

    Comment l'utiliser

    1. Installez la skill dans le dossier de skills de votre agent
    2. Demandez à votre agent de choisir et lancer un modèle GGUF en local avec llama.cpp
    3. Relisez et ajustez le résultat

    Aperçu du contenu

    Fichiers

    • LICENSE11,3 Ko
    • NOTICE-PALATEKIT.md0,5 Ko
    • references/hardware.md0,6 Ko
    • references/hub-discovery.md5,4 Ko
    • references/quantization.md6,2 Ko
    • SKILL.md3,8 Ko

    Origine et licence

    Référencée sans modification

    Auteur
    huggingface
    Source
    github.com/huggingface/skills/tree/fabc634a893f62ad5c2039830397efa35fa62715/skills/huggingface-local-models
    Licence
    Apache-2.0

    Notice

    « huggingface-local-models » (huggingface, Apache-2.0) livré dans sa version d'origine : fiche en français et en anglais par PalateKit.

    Avis des utilisateurs

    –

    Aucune note pour l'instant

    Chargement des avis…

    Supprimer votre avis ?

    Votre note et votre commentaire seront retirés de la fiche.