GratuitSkills
Commits, branches et synchronisation avec la CLI but
- 361361 téléchargements
- 198198 mentions J'aime
- 103103 sauvegardes
- Claude Code
- Codex
- Cursor
- et 3 autres
Toutes les ressources premium et membres pour 8,99 €/mois, en abonnement sans engagement. Voir les offres
Utilisez cette ressource pour retirer les quasi-doublons d'un corpus avant de l'indexer
Nouveau
Gratuit
Dans un terminal, depuis le dossier voulu :
npx --yes palatekit@latest install corpus-near-duplicate-removalSans option, la skill va dans ~/.agents/skills/ ; ajoutez --agent claude-code (ou codex, cursor…) pour viser un agent.
Première fois : connectez la CLI avec
npx --yes palatekit@latest loginL'agent enchaîne les niveaux de détection (exact, MinHash et LSH, SimHash, embeddings avec DBSCAN), règle les seuils et choisit un représentant par groupe. Vous obtenez un corpus nettoyé et la liste des doublons retirés.
Choisie surtout par
Mise à jour le 2 novembre 2026
Vous dites
« Déduplique ce corpus de 200 000 pages web avant indexation et garde la version la plus longue de chaque groupe. »

Skill publiée par claude-dev-suite sous licence MIT. Fichiers livrés dans leur version d'origine, en anglais.
Référencée sans modification
« semantic-dedup » (claude-dev-suite, MIT) livré dans sa version d'origine : fiche en français et en anglais par PalateKit.
–
Aucune note pour l'instant
Chargement des avis…