Io proverei con il nome, non con l'oggetto della finestra:

var newwindow = window.open(URL, "nomefinestra", "...");

if(window.nomefinestra.frames.length > 1) ...

Nota che in una finestra il vettore frames ha almeno un elemento (quindi il confronto con zero non ha senso).