Devi fare la sostituzione alla fine.

document.NOMEFORM.NOMETEXTAREA.value = document.NOMEFORM.NOMETEXTAREA.value.replace(/\n/g, "
");

Premendo enter dentro una textarea, viene scritto il carattere \n .