Puoi effettuare una cosa del genere utilizzando una JDialog al posto di un Frame. Quelle finestre sono in genere delle "finestre di dialogo".
Puoi fare così: crei una classe che estende JDialog (supponiamo MyDialog) e nel costruttore scrivi:

codice:
public MyDialog() {
   ...
   setModal(true);   // Questa istruzione rende la finestra "fissa"
   ...
}
Così non si può interagire con il frame che l'ha generata finchè essa non viene chiusa.


Ciao.