Ciao. Nel jdk 1.4 c'è un metodo della classe String che fa al caso tuo; prova con:

String pippo = "#kdfjòslakfjsald#";
pippo = pippo.replaceAll( "#","" );
System.out.println( pippo );