GratuitSkills
Commits, branches et synchronisation avec la CLI but
- 361361 téléchargements
- 198198 mentions J'aime
- 103103 sauvegardes
Compatible avec
- Claude Code
- Codex
- Cursor
- et 3 autres
Servir un LLM ou un VLM sur Jetson avec vLLM v1.0.0
Utilisez cette ressource pour héberger un LLM ou un VLM sur un Jetson derrière une API compatible OpenAI
Nouveau
- 600 téléchargements
- 141 mentions J'aime
- 216 sauvegardes
Gratuit
Installer avec la CLI
Dans un terminal, depuis le dossier voulu :
npx --yes palatekit@latest install llm-inference-server-jetsonSans option, la skill va dans ~/.agents/skills/ ; ajoutez --agent claude-code (ou codex, cursor…) pour viser un agent.
Première fois : connectez la CLI avec
npx --yes palatekit@latest loginL'agent choisit le moteur et l'image adaptés à votre famille de Jetson, règle le mode de puissance MAXN, fournit les accès Hugging Face et lance le serveur. Il ne suppose pas une capacité de calcul que l'appareil n'a pas.
Choisie surtout par
Mise à jour le 2 novembre 2026
Aperçus
Caractéristiques
- Fonctionne dans
- Guides d'installation
- Génère avec
- Le modèle de votre agent
- Licence
- Apache-2.0
Ressources similaires
Tout voir- Gratuit
GratuitSkills
Guide de la CLI Sentry
- 525525 téléchargements
- 117117 mentions J'aime
- 128128 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Bonnes pratiques Drizzle ORM avec PostgreSQL
- 407407 téléchargements
- 194194 mentions J'aime
- 151151 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Assistant de conception de SLO
- 537537 téléchargements
- 105105 mentions J'aime
- 242242 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
User stories de sprint
- 451451 téléchargements
- 150150 mentions J'aime
- 132132 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Plan de sprint réaliste
- 423423 téléchargements
- 192192 mentions J'aime
- 102102 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Conseiller CTO de startup
- 580580 téléchargements
- 201201 mentions J'aime
- 242242 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Création de pull requests GitHub avec contrôles qualité
- 427427 téléchargements
- 230230 mentions J'aime
- 196196 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
Ce que vous obtenez
- SKILL.md : choix du moteur, réglages et commande de lancement
- evals/evals.json : cas d'évaluation de la skill
Pour qui
- Vous voulez un LLM local sur un Jetson Orin ou Thor
- Vous voulez tester un VLM sur une carte embarquée
Pas pour qui
Étiquettes
- jetson
- vllm
- llm
- inférence
- embarqué
À propos
Vous dites
« Monte un serveur vLLM sur mon Jetson Orin pour un petit modèle de langage. »
Skill publiée par nvidia sous licence Apache-2.0. Fichiers livrés dans leur version d'origine, en anglais.
Voir plusVoir moins
Comment l'utiliser
- Installez la skill dans le dossier de skills de votre agent
- Demandez à votre agent de héberger un LLM ou un VLM sur un Jetson derrière une API compatible OpenAI
- Relisez et ajustez le résultat
Aperçu du contenu
Fichiers
- BENCHMARK.md3,3 Ko
- evals/evals.json5,8 Ko
- LICENSE11,3 Ko
- NOTICE-PALATEKIT.md0,5 Ko
- skill-card.md3,7 Ko
- SKILL.md12 Ko
- skill.oms.sig4,5 Ko
Origine et licence
Référencée sans modification
- Auteur
- nvidia
- Source
- github.com/nvidia/skills/tree/ca116d60beafe1b4459f0ab790b7b450912c56b0/skills/jetson-llm-serve
- Licence
- Apache-2.0
Notice
« jetson-llm-serve » (nvidia, Apache-2.0) livré dans sa version d'origine : fiche en français et en anglais par PalateKit.
Avis des utilisateurs
–
Aucune note pour l'instant
Chargement des avis…