In Ubuntu, dai pacchetti Synaptic, puoi installare apache, il modulo PHP per apache, mySQL ed i tool per gestire mySQL, compreso PHPMyAdmin. Quest'ultimo, comunque, è meglio se lo scarichi dal sito e lo installi a mano, senza usare Synaptic.