trovato!
assegno la chiamata ad una variabile
onclick="var recupero=window.showModalDialog('url','nome',....) ;"

nella pagina modale assegno il valore che devo passare al seguente comando:

window.returnValue=valore;

e chiudo la finestra modale ...perche' solo chiudendola il valore viene passato alla "madre"
self.close();

ora la mia variabile recupero (della pagina madre) sara'= valore !!!!!!!