Recuperi dal form il nome che l'utente ha scelto.
A questo punto fai una semplice query nel tuo db.

select campo_nomi_tabelle from tua_tabella where campo_nomi_tabelle = valore_inserito.

Nel caso in la funzione mysql_num_rows() restituisca un valore > 0 significa che è già presente e visualizzi l'alert.

In caso contrario il nome scelto non è ancora stato scelto e quindi procedi con la query di inserimento.

P.S.Non mi è molto chiaro questo form in cui un utente può inserire tabelle nel db a suo piacimento.