Bè se chi ha progettato android sarebbe stato "Grullo" può essere....
Ritornando al tuo esempio se io da codice dovessi aggiungere un ulteriore bottone per prima cosa dovresti fare un findViewById del linearLayout e su di esso invocare l'add quindi ovviamente non perdi e non devi esplicitare nulla di + di quello che hai definito del tuo file xml....