Penso che non ci sia una soluzione. Quello che mi viene in mente adesso è di aprire una modale come fai tu, ma nella modale caricare un frameset con 2 frame: uno alto il 100% della finestra (ed è quello in cui caricherai la pagina aspx), l'altro alto lo 0% (ci puoi mettere una pagina html vuota).