se hai aperto la finestra figlia in questo modo:
pop = window.open(link,'nome','toolbar=no,status=no,menu bar=no,scrollbars=yes,resizable=yes,width=100,heig ht=100');

cioe' l'hai "assegnata" ad un variabile (in questo caso POP)
puoi fare questo conctrollo all'onclick sul tuo pulsante:

if(window.pop) pop.close();