Devi mettere la compressione.
Video, Compression, scegli Divx dalla lista e da Configure seleziona il tipo di formato, in base alla risoluzione massima supportata.
In tal senso ti consiglio di scendere a 320x240 (come già detto, Video, Filters, Add, Resize) in modo da poterlo comprimere in "Mobile profile".

Non so che versione hai di VirtualDub, ma potrebbe essere possibile comprimere anche l'audio.