Non riesco a capire se vuoi una cosa che funzinoni solo in IE o se vuoi una cosa standard.
Nel primo caso non so aiutarti, nel secondo devi abbandonare le finestre modali.

Da quanto descrivi sospetto un errore nel codice: utilizzi una variabile che non e` stata definita: magari la definizione avviene in una subroutine che non e` stata usata.
Comunqe senza vedere il codice e` difficile dire di piu`.