Io programmo in C su Knoppix e non ho installato nessun compilatore...basta creare un file con estensione .c e succesivamente sulla konsole basta compilarlo con il comando gcc, se non ci sono errori il compilatore crea direttamente l'eseguibile a.out nella directory corrente, se vuoi rinominare il file eseguibile con un tuo nome devi posporre l'opzione -o a gcc ad ese:
gcc -o nomeseguibile.out nomesorgente.c
P.S. se lanci l'eseguibile devi anteporre ./ al nome del file eseguibile che vuoi avviare.