Parti da qui http://www.stickmanlabs.com/lightwindow/ "External Sources > Website Example", lo script chiaramente è da modificare e da personalizzare, visto che attualmente ti "scurisce" la pagina sottostante e ti carica una pagina di un sito esterno.
Ti anticipo che comunque occorre avere buona conoscenza del javascript con difficoltà media.
Caio.