hai dimenticato di chiudere la parentesi della funzione Controllo e non hai chiuso il tag form, con questo codice a me funziona
codice:
<html>
<head>
<meta http-equiv="content-type" content="text/html; charset=utf-8">
<script language="javascript">
function Controllo() {
var nome = document.modulo.nome.value;

if (((nome == "") || (nome == "undefined")) || ((nome.length < 5) || (nome.length>21)))  { 
alert("Inserisci un nome min 6 e max 20 caratteri"); 
document.modulo.team.focus(); 
return false; 
}

}

</script>
</head>
<body>


<form method="post" name="modulo">
<input name="nome" type="text"/>

<input type="text" name="team">

<input type="button" value="Registrati" onClick="Controllo()"/>
</form>

</body>
</html>
per vedere se ci sono errori nella pagina fai CTRL+SHIFT+J per la console di firefox, inoltre il form non ha un action ad una pagina