Per implementare una finestra modale puoi usare fancybox, che è anche responsivo
https://fancyapps.com/fancybox/3/
Come contenuto della modale, puoi usare un iFrame (se guardi la documentazione di fancybox, trovi le istruzioni) per facilitare le interazioni con il server. Sarà come essere in un popup.
Per riferirti alla finestra madre, puoi usare: parent.window da js.