Una catena di ordine infinito e' un processo stocastico a tempo discreto ed a valori su di un insieme finito, le cui probabilità di transizione dipendono in modo continuo da tutta la storia infinita del processo. Data una sequenza finita di simboli generata da una catena di ordine infinito si considerano i marginali di ordine k(n), dove n e' la lunghezza della sequenza, della misura empirica e se ne calcolano varie entropie (condizionata, totale normalizzata, relativa). Queste vengono chiamate entropie empiriche della sequenza. Si illustreranno le fluttuazioni Gaussiane e le grandi deviazioni per le entropie empiriche quando k(n) cresce logaritmicamente con n.