GratuitSkills
Commits, branches et synchronisation avec la CLI but
- 361361 téléchargements
- 198198 mentions J'aime
- 103103 sauvegardes
Compatible avec
- Claude Code
- Codex
- Cursor
- et 3 autres
Servir et traiter des LLM avec Ray 2.57 v1.0.0
Utilisez cette ressource pour servir un LLM compatible OpenAI ou traiter des lots avec Ray 2.57
Nouveau
- 525 téléchargements
- 216 mentions J'aime
- 101 sauvegardes
Gratuit
Installer avec la CLI
Dans un terminal, depuis le dossier voulu :
npx --yes palatekit@latest install ray-llm-serving-batch-inferenceSans option, la skill va dans ~/.agents/skills/ ; ajoutez --agent claude-code (ou codex, cursor…) pour viser un agent.
Première fois : connectez la CLI avec
npx --yes palatekit@latest loginL'agent remplace les usages périmés (dépôt ray-llm archivé, configurations YAML, noms renommés) par LLMConfig et build_processor de Ray 2.57. Vous obtenez une configuration de service ou de traitement par lots à jour.
Choisie surtout par
Mise à jour le 2 novembre 2026
Aperçus
Caractéristiques
- Fonctionne dans
- Guides d'installation
- Génère avec
- Le modèle de votre agent
- Licence
- MIT
Ressources similaires
Tout voir- Gratuit
GratuitSkills
Guide de la CLI Sentry
- 525525 téléchargements
- 117117 mentions J'aime
- 128128 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Bonnes pratiques Drizzle ORM avec PostgreSQL
- 407407 téléchargements
- 194194 mentions J'aime
- 151151 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Assistant de conception de SLO
- 537537 téléchargements
- 105105 mentions J'aime
- 242242 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
User stories de sprint
- 451451 téléchargements
- 150150 mentions J'aime
- 132132 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Plan de sprint réaliste
- 423423 téléchargements
- 192192 mentions J'aime
- 102102 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Conseiller CTO de startup
- 580580 téléchargements
- 201201 mentions J'aime
- 242242 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
GratuitSkills
Création de pull requests GitHub avec contrôles qualité
- 427427 téléchargements
- 230230 mentions J'aime
- 196196 sauvegardes
Compatible avec- Claude Code
- Codex
- Cursor
- et 3 autres
Ce que vous obtenez
- AGENTS.md : règles par catégorie, du service au traitement par lots
- references/batch-build-processor-renamed.md : fonction renommée ; references/scale-prefix-cache-routing.md : routage avec cache de préfixes
Pour qui
- Vous voulez exposer un modèle vLLM derrière une API compatible OpenAI
- Vous passez un grand lot de textes dans un LLM
Pas pour qui
Étiquettes
- ray
- llm
- vllm
- inférence
À propos
Vous dites
« Déploie un modèle vLLM derrière une API compatible OpenAI avec Ray Serve. »
Skill publiée par pproenca sous licence MIT. Fichiers livrés dans leur version d'origine, en anglais.
Voir plusVoir moins
Comment l'utiliser
- Installez la skill dans le dossier de skills de votre agent
- Demandez à votre agent de servir un LLM compatible OpenAI ou traiter des lots avec Ray 2.57
- Relisez et ajustez le résultat
Aperçu du contenu
Fichiers
- AGENTS.md5,2 Ko
- assets/templates/_template.md1,1 Ko
- LICENSE1,1 Ko
- metadata.json2,1 Ko
- NOTICE-PALATEKIT.md0,5 Ko
- references/_sections.md2,7 Ko
- references/api-endpoint-surface-cpu-validation.md1,7 Ko
- references/api-lora-dynamic-multiplexing.md1,2 Ko
- references/batch-build-processor-renamed.md1,5 Ko
- references/batch-concurrency-and-alternatives.md1,3 Ko
- references/batch-stage-configs-not-flags.md1,6 Ko
- references/place-accelerator-type-validated.md1,3 Ko
- references/place-engine-builds-pg.md1,8 Ko
- references/scale-autoscaling-deployment-config.md1,5 Ko
- references/scale-prefix-cache-routing.md1,4 Ko
- references/serve-builtin-not-handrolled.md1,5 Ko
- references/serve-deprecated-server-router.md1,4 Ko
- references/serve-model-id-vs-source.md1,3 Ko
- references/serve-ray-llm-extra-pins-vllm.md1 Ko
- SKILL.md6,8 Ko
Origine et licence
Référencée sans modification
- Auteur
- pproenca
- Source
- github.com/pproenca/dot-skills/tree/cf93c57cac89d6fc3e4194686000411567f5caf3/skills/.experimental/ray-llm
- Licence
- MIT
Notice
« ray-llm » (pproenca, MIT) livré dans sa version d'origine : fiche en français et en anglais par PalateKit.
Avis des utilisateurs
–
Aucune note pour l'instant
Chargement des avis…