x chiarirci, con modale intendi una finestra aperta con showModalDialog o showModelessDialog?

se si'
showModalDialog('pagina.htm',window,'dialogWidth:300px;dialogHeight:300px')
e devi avere in questa "principale" anche la funzione da richiamare quando la modale viene chiusa
function modalClosed(){
setTimeout("alert('modale chiusa');",50);
}

poi modifica il body di pagina.htm, la pagina che apri nella modale
<body onunload="dialogArguments.modalClosed()">

ciao