prima di tutto setta come unique il campo username della tabella.

Poi prima di inserire un nuovo utente fai un query per vedere se c'e' gia' un utente con quello username:

Es.

SELECT id FROM tabella_utenti WHERE username = 'username_inserito_dal_nuovo_utente';

Poi con un mysql_num_rows capisci se eseite gia' un record con quel nome utente