e questo e' normale,
quando tu richiami il submit via javascript bypassi quanto scritto nell' onsubmit,
per cui il target per il form non e' piu' la popup (non esiste alcuna popup) ma una semplice blank sulla quale non hai chiaramente alcun controllo
ciao