Beh ad esempio puoi avere un round robin DNS (http://en.wikipedia.org/wiki/Round_robin_DNS).

Ogni volta che la risoluzione del dominio viene fatta viene ritornato in cima alla lista una volta l'IP di server A e una volta l'IP di server B, quindi i client si connetteranno a server diversi. In questo modo ottieni il load balancing.

Nota che se l'applicazione PHP ha bisogno di mantenere dello stato (sessioni) allora deve esserci implementata anche qualche tecnica di session sharing tra i due server.