"Una volta importato il mio filmato analogico dalla videocamera digitale samsung tramite la porta usb grazie a virtualdub"

Credo che tu abbia scelto la via peggiore per scaricare un filmato da videocamera digitale. Lo streaming Usb (dovrebbe essere la versione 1.1, giusto?) non permette di andare oltre il 352*288. Quindi, al momento in cui lo passi in SVCD (480*576) evidentemente sgrana.
Ti consiglio di acquisire in mini-dv attraverso una porta firewire (la scheda, se non ce l'hai, costa una quindicina di €uro al massimo).