Veramente funziona alla perfezione.
Come hai scritto tu ti indica tutte le parole che contengono filterTitolo.getText().
Devi mettere
rf = RowFilter.regexFilter("^"+filterTitolo.getText(), 0);//^ indica l'inizio della parola
Vedi API