Toutes les ressources premium et membres pour 8,99 €/mois, en abonnement sans engagement. Voir les offres

PalateKit

Se connecter
Menu

Demander une ressource

Décrivez en une phrase la ressource qui vous manque. Nous vous écrirons quand elle sera publiée.

0 / 280

Une page, une vidéo ou une image en ligne.

Débloquer PalateKit

Tout débloquer

Offre

Le paiement vaut acceptation de nos conditions générales de vente.

Paiement sécurisé par Stripe. Reçus et factures envoyés par e-mail.

Content de vous revoir

Connectez-vous pour installer, télécharger ou sauvegarder cette ressource. Un compte gratuit suffit pour les ressources gratuites.

Performance LangChain : débit, latence et cache v1.0.0

Utilisez cette ressource pour accélérer des chaînes et des agents LangChain en réglant lots, streaming et caches

Nouveau

  • 429 téléchargements
  • 170 mentions J'aime
  • 190 sauvegardes

Gratuit

Installer avec la CLI

Dans un terminal, depuis le dossier voulu :

npx --yes palatekit@latest install llm-chain-throughput-tuning

Sans option, la skill va dans ~/.agents/skills/ ; ajoutez --agent claude-code (ou codex, cursor…) pour viser un agent.

Première fois : connectez la CLI avec

npx --yes palatekit@latest login

L'agent examine les appels par lots, le streaming, les caches sémantiques et exacts, et l'historique de conversation. Il fixe une concurrence explicite pour les lots et vérifie que les récupérateurs sont sûrs en asynchrone. Vous obtenez des valeurs de réglage de départ et une décomposition de la latence.

Choisie surtout par

Mise à jour le 2 novembre 2026

Carte de la skill « Performance LangChain : débit, latence et cache »

Caractéristiques

Fonctionne dans
Guides d'installation
Génère avec
Le modèle de votre agent
Licence
MIT

Ressources similaires

Tout voir

Ce que vous obtenez

  • SKILL.md : méthode de réglage, tableau de débit et modèle de décomposition de la latence
  • references/cache-tuning.md : réglage des caches
  • references/batch-concurrency-per-provider.md : concurrence des lots par fournisseur

Pour qui

  • Votre chain.batch s'exécute entrée après entrée au lieu de manière parallèle
  • Un redémarrage efface l'historique de conversation de vos utilisateurs

Pas pour qui

    Étiquettes

    • langchain
    • performance
    • cache
    • débit

    À propos

    Vous dites

    « Notre p95 dépasse la cible : analyse la latence de notre chaîne RAG et propose des réglages de concurrence. »

    Carte de la skill « Performance LangChain : débit, latence et cache »

    Skill publiée par Jeremy Longshore <jeremy@intentsolutions.io> sous licence MIT. Fichiers livrés dans leur version d'origine, en anglais.

    Voir plus

    Comment l'utiliser

    1. Installez la skill dans le dossier de skills de votre agent
    2. Demandez à votre agent de accélérer des chaînes et des agents LangChain en réglant lots, streaming et caches
    3. Relisez et ajustez le résultat

    Aperçu du contenu

    Fichiers

    • LICENSE1,1 Ko
    • NOTICE-PALATEKIT.md0,6 Ko
    • references/async-safety-checklist.md4,6 Ko
    • references/batch-concurrency-per-provider.md3,1 Ko
    • references/cache-tuning.md3,8 Ko
    • references/one-pager.md2,2 Ko
    • references/persistent-history.md4,1 Ko
    • SKILL.md14,1 Ko

    Origine et licence

    Référencée sans modification

    Auteur
    Jeremy Longshore <jeremy@intentsolutions.io>
    Source
    github.com/jeremylongshore/tons-of-skills-marketplace/tree/ab85a061f7bcc039dac13ee193de7a4cd4388571/skills/.curated/langchain-performance-tuning
    Licence
    MIT

    Notice

    « langchain-performance-tuning » (Jeremy Longshore <jeremy@intentsolutions.io>, MIT) livré dans sa version d'origine : fiche en français et en anglais par PalateKit.

    Avis des utilisateurs

    –

    Aucune note pour l'instant

    Chargement des avis…

    Supprimer votre avis ?

    Votre note et votre commentaire seront retirés de la fiche.