Toutes les ressources premium et membres pour 8,99 €/mois, en abonnement sans engagement. Voir les offres

PalateKit

Se connecter
Menu

Demander une ressource

Décrivez en une phrase la ressource qui vous manque. Nous vous écrirons quand elle sera publiée.

0 / 280

Une page, une vidéo ou une image en ligne.

Débloquer PalateKit

Tout débloquer

Offre

Le paiement vaut acceptation de nos conditions générales de vente.

Paiement sécurisé par Stripe. Reçus et factures envoyés par e-mail.

Content de vous revoir

Connectez-vous pour installer, télécharger ou sauvegarder cette ressource. Un compte gratuit suffit pour les ressources gratuites.

Mesurer un modèle servi avec max benchmark v1.0.0

Utilisez cette ressource pour mesurer le débit, les latences et l'usage GPU d'un modèle MAX servi

Nouveau

  • 588 téléchargements
  • 202 mentions J'aime
  • 189 sauvegardes

Gratuit

Installer avec la CLI

Dans un terminal, depuis le dossier voulu :

npx --yes palatekit@latest install llm-serving-benchmark

Sans option, la skill va dans ~/.agents/skills/ ; ajoutez --agent claude-code (ou codex, cursor…) pour viser un agent.

Première fois : connectez la CLI avec

npx --yes palatekit@latest login

L'agent lance la commande max benchmark contre un serveur max serve en cours d'exécution, avec une charge adaptée à la question posée. Il lit ensuite les métriques de débit, de latence et d'usage GPU. Vous obtenez des chiffres exploitables pour dimensionner un déploiement.

Choisie surtout par

Mise à jour le 2 novembre 2026

Carte de la skill « Mesurer un modèle servi avec max benchmark »

Caractéristiques

Fonctionne dans
Guides d'installation
Génère avec
Le modèle de votre agent
Licence
Apache-2.0

Ressources similaires

Tout voir

Ce que vous obtenez

  • SKILL.md : vérification du serveur et choix de la charge de travail
  • references/flags.md : options de la commande et de la charge
  • references/metrics.md : lecture des débits et des latences

Pour qui

  • Vous voulez connaître les tokens par seconde d'un modèle avant mise en production
  • Vous dimensionnez le nombre de GPU selon une charge de requêtes

Pas pour qui

    Étiquettes

    • benchmark
    • latence
    • débit
    • gpu
    • serveur

    À propos

    Vous dites

    « Mesure le TTFT et le débit de mon modèle servi, avec une montée en concurrence. »

    Carte de la skill « Mesurer un modèle servi avec max benchmark »

    Skill publiée par modular sous licence Apache-2.0. Fichiers livrés dans leur version d'origine, en anglais.

    Voir plus

    Comment l'utiliser

    1. Installez la skill dans le dossier de skills de votre agent
    2. Demandez à votre agent de mesurer le débit, les latences et l'usage GPU d'un modèle MAX servi
    3. Relisez et ajustez le résultat

    Aperçu du contenu

    Fichiers

    • LICENSE15,1 Ko
    • NOTICE-PALATEKIT.md0,5 Ko
    • references/flags.md6,5 Ko
    • references/metrics.md4,5 Ko
    • references/troubleshooting.md2,5 Ko
    • SKILL.md8,2 Ko

    Origine et licence

    Référencée sans modification

    Auteur
    modular
    Source
    github.com/modular/skills/tree/9837a3af93e26456a6d05a9c05e8167cfb6e4f18/benchmark-model
    Licence
    Apache-2.0

    Notice

    « benchmark-model » (modular, Apache-2.0) livré dans sa version d'origine : fiche en français et en anglais par PalateKit.

    Avis des utilisateurs

    –

    Aucune note pour l'instant

    Chargement des avis…

    Supprimer votre avis ?

    Votre note et votre commentaire seront retirés de la fiche.