Volendo puoi anche agire così. Aggiungi una variabile booleana per ciascun pulsante. In questo modo la controlli così:
codice:
// Nell'ActionListener
public void actionPerformed(ActionEvent ae) {
   JToggleButton jtb = (JToggleButton) ae.getSource();
   if (jtb.equals( searchJTB )) {
      // Il primo pulsante
      if (variabileBooleana1) {
         // Il pulsante era già premuto: lo disattivi
         searchJTB.setSelected( false );
         variabileBooleana1 = false;
      } else {
         variabileBooleana1 = true;
         // ... faccio quello che devo fare
      }
   } else {
      // Il secondo pulsante
      if (variabileBooleana2) {
         // Il pulsante era già premuto: lo disattivi
         replaceJTB.setSelected( false );
         variabileBooleana2 = false;
      } else {
         variabileBooleana2 = true;
         // ... faccio quello che devo fare
      }
   }
}
E' solo un'idea... comunque ci sono altre possibilità.


Ciao.