Se compresso supera i 5Gb vuol dire che è compresso male!

Usa DVDShrink!
Togli i sottotitoli, le lingue extra ed infine, eventualmente, i menu. Se non rientri ancora negli standard del DVD devi comprimere ulteriormente.