Devi disabilitare l'operazione di default sul JFrame:
codice:
tuoJFrame.setDefaultCloseOperation(JFrame.DO_NOTHING_ON_CLOSE);
poi devi aggiungere un WindowListener:
codice:
tuoJFrame.addWindowListener( new WindowAdapter() {
   public void windowClosing(WindowEvent we) {
      System.out.println("E' stato premuto il pulsante X");
   }
});
Ciao.