puoi ragionare in due modi:

1) (consigliato) Assegni al tuo JTextField un Document personalizzato che evita proprio l'inserimento di caratteri che non siano una cifra oppure la virgola decimale

2) Effettui il controllo nella ActionPerformed sui due JTextField utilizzando le espressioni regolari:

codice:
String fromUser = PrimoNumero.getText();
String fromUser2 = SecondoNumero.getText();
Pattern p = Pattern.compile(""^[0-9]*[\\.|,][0-9]+$"");   //considera la possibilità di inserire o il punto o la virgola come separatore dei decimali
        
Matcher m1 = p.matcher(fromUser);
Matcher m2 = p.matcher(fromUser2);
if(m1.find() && m2.find()){
            //...esegui codice
}else{
     JOptionPane.showMessageDialog( null, "Puoi inserire solo numeri interi o con la virgola, non caratteri" );
}