una cosa del genere <result name="success" > window.open(popup.jsp) </result>
non penso si possa fare.

pero' se tu chiami la tua action nel window.open, funziona esattamente come le pagine non in popup.