quello che ti ho postato chiude il programma, se devi chiudere una finestra che apri esternamente usa

frame.setDefaultCloseOperation(JFrame.DISPOSE_ON_C LOSE);

questo ti chiude la finestra quando clicchi sulla X in alto a destra.

ciao