Controlla la dimensione del pacchetto di VirtueMart che stai installando, se il pacchetto supera i 2MB è possibile che il tuo server sia configurato per non accettare il caricamento. In tal caso devi caricarlo via FTP, già scompattato, in una cartella temporanea, e poi installarlo da lì.

Spero di essere stato utile.