dove
dove
Il termine
, in particolare, è una variabile casuale che dipende da come l'impulso
risulta essere distorto e può dipendere dai valori
precedenti e futuri rispetto al campione relativo all'istante di campionamento. Possiamo supporre che
sia una variabile casuale gaussiana, a media nulla e varianza
, indipendente da
. Allora la variabile casuale
risulta essere ancora gaussiana, a media nulla e varianza
. Poiché si vuole ridurre la probabilità d'errore, e quindi massimizzare il rapporto tra la potenza di segnale e quella di rumore, occorre avere
piccolo, quindi si deve minimizzare la varianza di
.
Quindi in generale, o prima del campionatore (equalizzatore analogico) o dopo il campionatore (equalizzatore numerico), viene introdotto un filtro con il compito di ridurre l'interferenza intersimbolica presente sul segnale. Tale filtro è mostrato in figura
Il segnale equalizzato, in assenza di rumore, risulta essere
Se l'impulso
è tale da non introdurre ISI, allora tutte le prese dell'equalizzatore sono nulle eccetto
, cioè l'unico effetto dell'equalizzatore è l'introduzione di un ritardo. Se invece
non è di Nyquist, allora occorre determinare i pesi
in maniera tale da forzare a zero i campioni di interferenza intersimbolica residui.
Occorre quindi determinare i coefficienti in maniera tale che