Premessa: ho letto molto velocemente

Hai confusione. Se chiami http://mio_sito.altervista.org/phpmyadmin/index.php il tuo pc non ha nulla a che vedere. In pratica la versione di phpmiadmin che hai scaricato richiede la versione 5.3 di php e probabilmente tale versione non è installata su altervista.

per verificarlo puoi creare un semplice file php e richiamare la funzione

codice:
phpinfo();
vedendo la versione puoi scegliere una release di phpadmin che supporti tale versione di php.