La pagina php deve ovviamente controllare se il nickname esiste nel database. Se non esiste ti manda alla pagina di login, altrimenti manda un messaggio, che il nick è già stato scelto.

Quindi ripeto, checkFreeNickanameCallBack è una funzione che può essere eliminata.

In ajax.invoke puoi benissimo mettere un function() { } come secondo argomento, in modo da non generare errore.

PS sarebbe meglio postare anche il codice php, ricordandoti di cancellare la password