in javascript non puoi farlo, nel senso che devi necessariamente aprire una popup con window.open
il secondo parametro e' il nomeFinestra, se mantenuto identico per successive chiamate il contenuto verra' aggiornato o cambiato sempre e solo in un' unica ulteriore finestra/tab

window.open('percorso/documento.htm','nomeFinestra');

il nomeFinestra non puo' essere solo numerico o iniziare con un numero, contenere caratteri strani o spazi

ciao