Dai un'occhiata al componente FilteredTextBoxExtender. Se non è sufficiente, dovrai gestire tu l'evento onkeyup (ad esempio) e scrivere il codice JavaScript per la validazione.