Io ti consiglio di usare oltre a virtual dub mod per separare l'audio dal video il programma BeSweet con BeSweet GUI per convertire l'audio nel formato che vuoi, mi pare dovrebbe accettare in ingresso il formato dei tuoi file.

Ciao.