anch'io avevo notato questa cosa funzionante solamente su IE.

Se sul keyup provi a fare un controllo sull'ultimo carattere inserito, se è quello che non desideri, lo sostituisci con quello che desideri, modificando il value del textbox.