prima di tutto correggi
Codice PHP:
xmlhttp.open("POST","controlla.php",false); 
con

Codice PHP:
xmlhttp.open("POST","controlla.php",true); 
successivamente nella tua pagina .php
Codice PHP:
if($nome==$data->nome_utente){
  echo 
"1";
}
else{
  echo 
"0";

ed infine modifica la funzione handleServerResponse cosi

Codice PHP:
function handleServerResponse() {
if(
xmlhttp.readyState == 4){
    if(
xmlhttp.status == 200){
      if(
xmlhttp.responseText=="1"){
          
//nome esistente
      
}
      else{
          
//nome disponibile
      
}
    }else{
      
alert("Problema chiamata");
    }
  }