e cmq a titolo informativo l'errore nel mio codice era in questa riga:

codice:
dialog=new JDialog(this,null);
che va sostituita con questa:

codice:
dialog=new JDialog(this,true);