tentare una seconda connessione se la prima non va

[Alhazred]

Benvenuto.

Dovresti specificare cosa usi per la connessione.
Supponendo mysqli_ la funzione mysqli_connect() restituisce un handle alla connessione in caso di successo, restituisce false in caso di fallimento (leggi sempre la documentazione ufficiale delle funzioni che usi, ti spiega tutto), quindi

$link = mysqli_connect("127.0.0.1", "my_user", "my_password", "my_db");

if ( ! $link ) {
    // qui provi la seconda connessione
}

// resto del codice