ma io farei cosi

innanzitutto eseguo la connessione al db, dopodiche credo che queste righe di codice vadano bene per quel tipo di controllo
Codice PHP:
$sql='SELECT nome FROM nome_tabella WHERE nome='$nome;
$query=mysql_query($sql);

if(
mysql_num_rows($query)>0)
    echo 
'Esiste già un utente con quel nome.'

EDIT: avevo dimenticato il WHERE nella query