Dovrebbe funzionare chiamando il metodo

setExtendedState(WINDOW_ICONIFIED);

sul frame principale dell'applicazione.