Per quanto riguarda i tasti minimizza, ripristina e chiudi non sò proprio come eliminarli...Sò solo come disabilitare il pulsante ripristina attarverso il metodo:
codice:
setResizable(false)
Per chiudere l'applicazione con un pulsante devi aggiungere al pulsante un'ActionListener (Ascoltatore di eventi - Cattura l'evento provocato dal click sul pulsante) e successivamente bisogna ridefinire il metodo actionPerformed con il comando di termine programma standard

codice:
JButton bottone = new JButton("Pulsante");
Bottone.addActionListener(new ActionListener()
        {
             public void actionPerformed(ActionEvent evt)
             {
                 System.exit(0);
             }
        });
Per chiudere solamente il frame, devi eseguire esattamente le stesse operazioni e cambiare System.exit(0) con setVisible(false)...ciao