non conosco le api di youtube, pertanto non so dirti se fornisce la possibilita di fermare i video, se non l'hai già fatto documentati sul sito, nel caso non fosse possibile potresti provare a forzare lo svuotamento del documet.getElementById('idtuoframe').src='' quando nascondi la popup ma in questo caso se ti dovesse riservire il video partirebbe dall'inizio.