Hai 2 possibilità: o utilizzo il metodo replaceAll utilizzando come primo parametro una espressione regolare, oppure ti costruisci un codice a mano, come questo:
codice:
String miaStringa = "C:\\cartella\\altracartella\\";
char [] tmp = miaStringa.toCharArray();
String nuova = "";
int indice = miaStringa.lastIndexOf("\\");
for (int i=0; i<tmp.length; i++) {
   if (tmp[i] == '\\') {
      nuova += "\\";
   }
   nuova += tmp[i];
}
Ora in nuova hai la nuova stringa modificata.

Ciao.