Allora... tu hai il tuo frame principale, lo chiamo FrmPrincipale, dove viene visualizzata la JTable, poi hai il tuo secondo frame che viene aperto dal pulsante, lo chiamo FrmSecondario.
A questo punto il codice del pulsante è qualcosa del genere:
codice:
public void actionPerformed(ActionEvent ae) {
   FrmSecondario frmSecondario = new FrmSecondario();
}
Tu dovresti far sì che il costruttore di FrmSecondario accetti come parametro un oggetto di tipo FrmPrincipale:
codice:
class FrmSecondario extends JFrame {
   private FrmPrincipale frm1;
   public FrmSecondario(FrmPrincipale frm1) {
      this.frm1 = frm1;
   }
}
Con una struttura così il codice del pulsante viene modificato in questo modo:
codice:
public void actionPerformed(ActionEvent ae) {
   FrmSecondario frmSecondario = new FrmSecondario(this);
}
Poi, prevedi dei metodi per modificare la JTable che si trova nel FrmPrincipale:
codice:
class FrmPrincipale extends JFrame {
   ... // tutto quello che c'è
   public void setTabella( <parametri>) {
      ... // Qui accedi alla tua tabella e setti quello che vuoi
   }
}
E accedi a questo metodo dal Frame secondario:
codice:
class FrmSecondario extends JFrame {
   ...
   public void modificaTabellaNelFramePrincipale() {
      ... // eventuali elaborazioni
      frm1.setTabella( <parametri>);
   }
}
Questa dovrebbe essere, a grandi linee, la struttura.


Ciao.