Régularité empirique des relations rang–fréquence indiquant que la fréquence f(r) du rᵉ mot le plus courant est approximativement proportionnelle à 1/r^s (souvent avec s ≈ 1), produisant une distribution à longue queue où peu de mots sont très fréquents et beaucoup sont rares.

Principe

L’usage des mots concentre la masse de probabilité sur un petit ensemble d’items très fréquents tout en générant une longue queue de types peu fréquents ; le rang–fréquence suit approximativement une loi de puissance sans échelle, de sorte que la fréquence relative diminue de façon prévisible avec le rang dans les plages où l’ajustement tient.

Démonstration

Scénario illustratif : Dans un corpus échantillon, on compte les tokens et on les ordonne par fréquence décroissante ; tracer log(fréquence) en fonction de log(rang) donne un segment approximativement linéaire dont la pente correspond à −s, indiquant une relation de puissance inverse. Reconnaissance : les mots fonctionnels courants occupent les rangs supérieurs avec une masse disproportionnée tandis que la plupart des types distincts apparaissent rarement.

Mauvaise application

Supposer une proportion inverse exacte (s=1) pour tous les corpus, interpréter les écarts comme des erreurs, ou appliquer les prédictions brutes de Zipf à des corpus petits ou très spécialisés sans vérifier l’ajustement est incorrect. Traiter la forme empirique de Zipf comme une loi causale linguistique plutôt que comme une régularité statistique est une erreur de catégorie.

Conséquence

La loi de Zipf éclaire les attentes sur la concentration du vocabulaire, influence les choix de lissage et de backoff dans les modèles de langue, et explique pourquoi la gestion des mots rares est un défi d’ingénierie persistant ; causalement, les queues lourdes impliquent que davantage de données révèlent continuellement de nouveaux types peu fréquents, compliquant la construction exhaustive de lexiques.

Inversion

De nombreux corpus présentent des écarts systématiques par rapport à une forme Zipf pure : aplatissement aux bas rangs, coupures aux hauts rangs, ou meilleur ajustement par des variantes (p. ex. Zipf–Mandelbrot, double Pareto) ; dans des échantillons petits ou des registres très soignés, le segment en loi de puissance peut être absent. Différentes langues et stratégies de tokenisation modifient aussi l’exposant s estimé.

Limite

Clairement dans : listes de fréquences de tokens larges agrégées à partir d’échantillons de langue naturelle où les comptes couvrent plusieurs ordres de grandeur. Cas frontière : corpus de genre spécifique ou très petits où le rang–fréquence présente des irrégularités. Claire­ment hors : mesures d’importance sémantique, de force de collocation ou d’importance dépendante du contexte qui ne sont pas de simples fréquences de tokens ordonnées par rang.

Tension sémantique

La compacité descriptive de Zipf est en tension avec les ambitions explicatives : la régularité statistique est utile pour la modélisation mais n’arbitre pas entre interprétations linguistiques concurrentes (efficience communicative, moindre effort, processus d’échantillonnage), créant une tension entre description et explication causale.

Synthèse

La loi de Zipf résume un schéma statistique robuste — concentration de la masse sur quelques tokens et longue queue de types rares — qui structure à la fois les théories du langage et les décisions pratiques en traitement de corpus et modélisation, mais elle doit être traitée comme une régularité empirique dont la forme exacte et les paramètres dépendent du périmètre et du prétraitement.