Intendi aggiungere un pannello all'interno del pannello aggiunto al tabbed?
Puoi certamente farlo, per quanto riguarda la dimensione dipende dal Layout Manager dei pannelli.

Per la selezione sul JCheckBox devi utilizzare ItemListener.