la questione è abbastanza complessa, perche dovresti aprire una finestra modale con le informazioni contenute nell'iframe che hai appena chiuso, queste info non sono presenti nella pagina madre dove vai ad aprire il fancybox.

E' da verificare se una cosa del genere è possibile, dovrei fare qualche prova replicando la tua situazione...