Da dove arriva quel $totalRows_Recordset2 ?
Inltre... cosa c'entra il cognome? e poi il controllo va eseguito direttamente sul form oppure va utilizzato un pulsante button.

codice:
<script type="text/javascript">
<!--
function controllo() {
if  ($totalRows_Recordset2>=10) {
	alert('Attenzione inserire il cognome.');
	return false;
	}
 	return true;           
 //-->
</script> 
....
....
<input onClick="if(controllo())this.form.submit()" type="button" name="Submit" value="INSERISCI" />
In alternativa all'ultima istruzione:

<form .... onsubmit="return controllo()">

Inoltre il controllo non dipende da quanto avviene sul client... non viene esaminato alcun oggetto, quinda sarebbe meglio che lato server non venisse nemmeno disegnato il pulsante....

ciao