Grazie del suggrimento, spulciando in giro ho scoperto come ottenere il numero di riga
jta è la jtextarea

int caretPosition=jta.getCaretPosition();
int row = root.getElementIndex(caretPosition);

e stampandolo a video ho visto che è corretto, ma ancora non so bene come ottenere il testo della riga

Ecco ho notato di aver specificato male non voglio il numero della riga ma voglio il testo contenuto nella riga

il passo successivo che ho trovato è il metodo getText(int offset,int length)
da dare sul document della jtextarea, quindi devo solo trovare la lunghezza della riga