quel tipo di finestre si chiamano genericamente 'overlay' o 'overlayer' e nel forum ci sono molte discussioni a tema. Se ti serve una libreria per generare quell'effetto puoi usare fancybox per jquery

http://fancybox.net/example