Su Slackware conviene usare Checkinstall che, dato al posto di "make install", crea il pacchetto e lo installa, così si può eliminare la directory dei sorgenti senza problemi (volendo si può tenere il tgz pronto da reinstallare) e, per rimuovere il software, è sufficiente un "removepkg abababa".

Non so se checkinstall funzioni anche su altre distro