Se e' chiusa non puoi evitare di aprirne un'altra...

<script>
window.open("http://www.html.it","nomeFinestra");
function controlla() {
if(window.open("","nomeFinestra").location.href==" about:blank") alert("era chiusa")
}
</script>
test

Ovviamente se la pagina nella popup appartiene ad un dominio diverso riceverai un errore...

ciao