mt_rand è una funzione di php, non puoi farla eseguire come se fosse una funzione di mySQL.
devi eseguire una query per prendere min(id) e max(id), e successivamente puoi fare la seconda query:
codice:
$query="SELECT a,b FROM tab WHERE id = ".mt_rand($max,$min)."";