Purtroppo credo ti tocchi leggerlo tutto. Sempre se non utilizzi RandomAccessFile, in questo modo potresti posizionarti alla fine del file.

Leggendolo tutto ti sarebbe sufficiente, ad esempio, avere una variabile String che memorizzi il valore precedente, così quando incontri il null (la fine del file) hai l'ultima Stringa del file in quella variabile. Questo è ciò che mi è venuto in mente ora...