Non conosco ASP, per cui non ti so dire.
Dal punto di vista della programmazione, sono un tipo di controlli che ha piu` senso fare sul server, ma non ci sono problemi.

Ti conviene leggere il testo della textarea carattere per carattrere e copiarlo in un'altra variabile, contare, quindi quando ti pare inserire il
.
codice:
var orig = document.NOMEFORM.NOMETEXTAREA.value;
var chr = "";
var n = 0;
var dest = "";
for (var i=0; i<orig.length; i++) {
  chr = orig.substr(i,1);
  n++;
  if (chr == '\n') { // se l'utente ha inserito acapo
    dest += '
';
    n=0;
  } else if (n>990 && chr==" ") { // se supera 990 caratteri e c'e` spazio
    dest += '
';
    n=0;
  } else { // altrimenti copia il carattere letto
    dest += chr;
  }
}
CIao
Michele