ho provato questo:

codice:
class Es {
 public static void main(String args[]) throws Exception {
  Runtime.getRuntime().exec("notepad file.txt");
}
}
a me funziona, aggiungi il path se ti serve prima del nome del file.(usando + normalmente)