se il punto e' non avere piu' popup aperte specifica un nome nel secondo parametro del window.open

window.open('percorso/documento.htm','nomeFinestra','...blabla...');

a ulteriori richiami si aggiornera' il contenuto,
ma la finestra restera' sempre una sola

altrimenti, se vuoi che il documento che apre la popup la richiuda all' onunload
var pop=window.open(...)
codice:
window.onunload=function(){
  if(pop && !pop.closed){
    pop.close();
  }
}