con IE potresti aprire una modeless (x maggiori info consulta l' msdn), questa non si aggiunge nella barra delle applicazioni e alla perdita del focus non si sposta in secondo piano.
Contemporaneamente, x tutti gli altri browser, si può fare in modo che uscendo dal campo in questione la (normale) popup riprenda il fuoco

cmq dipende anche da cosa devi fare con questa popup,
una modeless ha alcune limitazioni:
normalmente non ha opener
(se non sbaglio) non può essere target di un form
e altre...