Per eliminare la barra c'è il metodo setUndecorated(boolean undecorated) da richiamare sul tuo JFrame prima che questo sia reso visibile. Così facendo però ti ritrovi una finestra "fissa" che non puoi spostare (dovresti poi gestire tu il modo per farlo)

Per quando riguarda l'aspetto della finestra puoi vedere in giro i vari Look&Feel, ce ne sono un bel pò sul web con tanto di spiegazioni su come impiegarli.

Oppure leggi qui e qui