capito... hai due opzioni:
usare le finestra modali (vedi fancybox, lightbox e simili) o aprire una nuova finestra ridimensionata (appunto stile popup).
fare una scelte dipende dal contesto.
se potessi scegliere opterei per le finestre modali: sono funzionali ed eleganti