Se non ti interessa XAMPP ma solo la combinazione Apache/Php/Mysql, puoi installare i pacchetti già pronti per la tua distribuzione.
La procedura più corretta dipende dalla distribuzione che usi, nel caso di ubuntu: https://help.ubuntu.com/community/ApacheMySQLPHP
in pratica si riduce tutto ad un comando, da inserire nel terminale:
ti chiederà la password (digitala anche se non vedi restituito nessuna carattere) ed in breve avrai installato apache+mysql+phpcodice:sudo tasksel install lamp-server