Un file .jnlp è un file XML di "descrizione" usato dalla tecnologia Java Web Start, che permette di avviare una applicazione standalone "desktop" da un normale link/pulsante presente in una pagina web.
Tipicamente (sicuramente su Windows) se è stato installato un JRE, allora l'estensione .jnlp viene registrata con l'applicazione che si chiama javaws.exe (o equivalente su altro SO).
Nota che il file .jnlp non è da "scaricare" a mano. Se non c'è la registrazione della estensione .jnlp o non funziona, puoi sempre avviare javaws a mano.
Io ho provato adesso da una console su Windows 7:
javaws http://download.java.net/javadesktop/swingset3/SwingSet3.jnlp
e funziona correttamente.
P.S. l'eseguibile javaws fa parte di un JDK o JRE.