Il codice che hai postato invia effettivamente un file di excel:
codice:
.AddHeader "content-disposition", "inline; filename=" & file
ma lo fa solo nella forma, perché in realtà la procedura invia al browser una tabella HTML. Un file XLS è ben altro, prova ad aprirne uno con un editor di testo per rendertene conto... La stessa cosa si può dire per il formato DOC. Dovresti usare le librerie apposite per lavorare con i documenti di Office, ma per averle sul server è necessario installare sia Excel che Word.

Sull'uso delle librerie di Office (Microsoft Excel Object Library e Microsoft Word Object Library) dovresti trovare sul forum parecchie discussioni.