Ciao...
ti riporto quello che ho letto sulla possibilità di creare finestre modali in java:

JDialog
Le finestre di dialogo vengono usate per l'inserimento di valori, o per segnalare all'utente una situazione anomala. Ogni finestra di dialogo appartiene ad un'altra finestra; se definiamo come modale un JDialog, alla sua comparsa esso blocchera' il frame di appartenenza, in modo da costringere l'utente a portare a termine l'interazione. Possiamo creare finestre di dialogo con i seguenti costruttori

codice:
JDialog(Dialog owner, String title, boolean modal): 
//crea un JDialog modale o non modale, con un titolo e con lo specificato Dialog come proprietario. 
JDialog(Frame owner, String title, boolean modal): 
//crea un JDialog modale o non modale, con un titolo e con lo specificato Frame come proprietario.
Altri costruttori permettono di specificare un numero inferiore di parametri. I metodi presentati su JFrame sono validi anche su JDialog.


a questo link è presente un esempio di creazione di finestre modali:
Spero di esserti stato di aiuto... ciao