Come da reference l'unico valore ritornato da system() è un int che identifica se il comando è stato eseguito con successo o se si sono verificati errori. Una soluzione è reindirizzare l'output del comando in questo modo system("ls -la >> list.txt"); e poi leggere il contenuto del file.
Altra soluzione potrebbe consistere nell'utilizzo della funzione popen().

NB la funzione popen non è ANSI c!!!