Ok... ora e' un po' piu' chiaro.
Se hai la possibilita' di fare una servlet puoi far aprire un socket dall'applet tramite il quale passi il file.
Questo pero' implica avere un processo in ascolto sul server.
Non conosco JSP, magari esiste un sistema meno dispendioso per farsi passare questo file, immagino che JSP riesca ad interagire bene con un applet Java... ma sono solo supposizioni.

Se il file e' piccolo, e solo di testo, puoi inserire il suo contenuto come hai cercato di fare tu, tra i parametri dell'applet.
Pero' quando salvi il buffer di byte devi sempre fare un cast a (char), altrimenti e' ovvio che ti ritrovi dei numeri nel file, corrispondenti al valore ascii dei caratteri letti.

Spero di esserti stato un po' utile.