posta il codice che hai scritto, quello dove associ l'actionlistener e quello dove dici di aprire il JDialog e vediamo cosa non funziona.
Se non impari a fare di quelle pagine la tua bibbia in fatto di swing non vai lontano, te lo assicuro.