in WINDOWS e solo lì, puoi sempre provare ad "eseguire" il file, anche se non è .exe... non avrai la garanzia che la cosa funzioni, però quasi certamente andrà... e questo è il metodo birba (e te ne esci con due righe, usando Runtime)

Altro metodo: determinare quale sia effettivamente la applicazione predefinita nel sistema per quel particolare tipo di file... qui la cosa si complica, ma c'è almeno una libreria che dovrebbe aiutarti in tutto ciò:

https://jdic.dev.java.net/

Buone letture.