ci sono parecchie cose che non vanno nello script che hai cercato di adattare con le regular expressions
ti faccio un esempio di come potrebbe andare
codice:
<script>
function controlla1(){
	var f = document.mioform1;
	var parole =  new RegExp("\\b(mela|pera)\\b");   
	var stringa = document.mioform1.nome.value;
	if(stringa.match(parole) && stringa.match(parole)[0]){         
		f.nome.style.backgroundColor='red'
		alert("La parola '"+stringa.match(parole)[0]+"' non è ammessa");
		return false;
	}
	return true
}
</script>
<form name="mioform1" onsubmit="return controlla1()">
<input type="text" name="nome" size="80">
<input type="submit" value="sub">
</form>
nella regular expression ho messo 2 parole. Per metterne altre ti basta separarle con | che è la or nelle regular expressions
se servono chiarimenti chiedi pure