non so.. possiamo provare a fare un debug andando passo passo per vedere dove sta il problema.

Prima di tutto controlla che il javascript sia abilitato nel tuo browser.

Analizziamo poi la funzione:
codice:
function controllo(ordine, totale) {
	if (ordine <= totale) {
		return true;
	}
	else {
		window.alert("Troppo!");
		return false;
	}
}
La condizione dovrebbe bloccare il submit se il valore inserito è più alto rispetto al totale specificato. Giusto? e in tal caso deve darti un alert.

Tu hai provato a inserire valori sia più alti che più bassi del relativo totale specificato?
Il submit viene eseguito in qualunque caso?

Hai scritto che "non entra nella funzione". Verifichiamo che sia proprio così.

Potresti mettere un alert all'inizio della funzione per vedere se effettivamente la funzione non è richiamata:
codice:
function controllo(ordine, totale) {
	alert("sono dentro la funzione controllo");
	if (ordine <= totale) {
		return true;
	}
	else {
		window.alert("Troppo!");
		return false;
	}
}
Se l'alert ti compare, significa che la funzione è richiamata.
Fai questa prova e vediamo che succede prima di andare avanti con ulteriori verifiche.