PreparedStatement dovrebbe venirti in aiuto, se non ricordo male si occupa di fare "l'escape" dei caratteri speciali in automatico.

EDIT: a meno che i caratteri "speciali" e non voluti non siano frutto di un rip mal riuscito del testo contenuto nel PDF, nel qual caso, bisognerà trovare qualcosa di più solido a livello di regex per ripulire il testo.