Provo a spiegare semplicemente:

crei l'oggetto ajax che ti serve per effettuare una richiesta verso il server web, la richiesta può passare parametri al server con GET o POST
La richiesta la elabori come vuoi lato server (nel tuo caso PHP) e rispondi con un semplice echo.
La risposta che darai sarà accessibile in javascript e la puoi usare come vuoi (es. se contiene HTML lo puoi usare x riempire un div).
Mentre avvengono queste "cose" l'utente non si accorge di nulla e può continuare a lavorare.

Credo che ti aiuterebbe usare qualche libreria (es jquery):



http://docs.jquery.com/Ajax

ti faccio un esempio:


Codice PHP:

 
$.ajax({
   
type"POST"//oppure GET
   
url"prova.php"//script da chiamare la to server
   
data"nome=mario&cognome=Rossi"//parametri da usare lato server
   
success: function(msg){ //funzione da eseguire quando il server risponde
     
alertmsg ); //msg contiene la risposta del server es. echo "Utente Mario Rossi inserito correttamente"; 
    
}
 });