Se vuoi un componente senza alcun "fronzolo" devi estendere direttamente dalla classe Window (o JWindow) che sono contenitori senza bordi, nè barre... insomma, pannelli vuoti. Chiaramente dovrai provvedere tu a scrivere i vari metodi accessori, come appunto, quello per la chiusura tramite pulsante.