Dopo ogni inserimento, devi settare la posizione del cusrore della JTextArea all'inizio, utilizzando il metodo setCaretPosition():
codice:
tuaTextArea.appena( ... );
tuaTextArea.setCaretPosition( 0 );
Ciao.