Hai provato con a creare un ContentPane (=JPanel), lì a mettere i tuoi componenti ed infine ad aggiungerlo alla JWindow?
In alternativa hai provato con JFrame con setUndecorated(true)?

Ciao