il fatto è che jsp è un linguaggio lato server che funziona a prescindere dal browser. Al browser devi mandare del codice html... per aprire una popup si usa javascript, qualcosa del genere magari funziona

codice:
res.sendRedirect("javascript:window.open('indirizzo_pagina','nome_finestra','width=300, height=200')");
javascript va tutto attaccato, anche se qui probabilmente mette uno spazio.

window.open dice al browser di aprire una nuova finestra... nella nuova finestra, che avrà nome "nome_finestra" viene caricato il documento a "indirizzo_pagina".
L'ultima parte dell'istruzione fissa le dimensioni della popup. Ci sono ulteriori settaggi: par maggiori informazioni, la sezione scripting ti aiuterà di più.