Ci sono delle limitazioni a quello che le applet possono fare. Se il file risiede sul web, allora quel comando (dando il percorso http://www.sito.com/file.doc, ad esempio) andrà ad aprire nel browser il signor file.doc
Cosa vuol dire tutto ciò: se il browser in uso ha la capacità (classico esempio: il plugin di word per internet explorer) di visualizzare il file di quel tale formato, la visualizzazione avverà nel browser, altrimenti ti si aprirà la pagina di download.
Se invece vorresti che si aprisse un file nel client, bhé la vedo difficile: un applet non può compiere, di norma, operazioni arbitrarie nel computer in cui viene eseguita (questo perché la JVM in cui esiste l'applet è una sandbox da cui, per fortuna, senza la nostra autorizzazione l'applet stessa non può uscire).
Se il tuo problema non rientra in nessuna delle categorie di cui sopra, spiega meglio.