Benvenuto sul forum.

Aprire una poupup direttamente ridotta ad icona non e' possibile, nemmeno con il vilipeso IE

Se ti acconenti di portarla in secondo piano puoi aggiungere, adattandolo al tuo script, il metodo blur().. per esempio:

window.open( ...parametri... ).blur();

oppure:
w = window.open( ... );
w.blur();

oppure, ma solo per IE, fai una ricerca nel forum con il termine "minimize"

ciao