`Non-Sequential Recursive Pair Substitution' e `Cross Entropy': un nuovo stimatore della divergenza di Kullback-Leibler

Approssimare in maniera efficiente l'entropia relativa tra due sorgenti stocastiche, stazionarie ed ergodiche rappresenta un interessante problema matematico che apre potenziali nuovi orizzonti nell'ambito della classificazione automatica di stringhe simboliche. In questo seminario ci proponiamo di discutere gli aspetti puramente matematici di un nuovo indicatore della divergenza di Kullback-Leibler basato sulle proprietà asintotiche di sequenze iterate di cosiddette "pair substitutions" introdotte recentemente, almeno nell'ambito della fisica mateamtica, da P. Grassberger. Infine, tempo permettendo, discuteremo possibili applicazioni e approcci alternativi.