Non ho mai usato IE per Mac, ma posso dirti alcune cose su quel codice, giusto per "correggerlo".

target="_self" non capisco a cosa serva, dato che la popup è sempre una nuova finestra e che fai ritornare un valore booleano false per non eseguire il codice in href.

onclick e i vari tag scrivili tutti in minuscolo...così sono conformi agli standard.

Il return alla fine della funzione non capisco a cosa serva...

Poi controlla che nella pagina il codice del link non abbia dei punti in cui va a capo "forzatamente" (per capirci, che non sia stato premuto Invio all'interno della riga di codice del link).

IE per Mac è un po' strano a volte...cmq ricordati che è un browser che ormai verrà abbandonato.
Per il resto, spero che altri più esperti di me con IE per Mac ti possano aiutare.