Non so se ho capito giusto: azzardo una risposta.

Il tag <a> fa parte di una collezione diversa da quella dei form: anche se per caso e` tra i tag <form> ...</form> e` come se stesse fuori.
Quindi non si puo` fare quello che volevi.

Ma nel tuo post ci sono delle inesattezze (mi pare). Tu dici che passi il nome del form, ma in realta` passi il suo oggetto.
Il nome del form sarebbe OGGETTO.name (nel tuo caso specifico this.form.name), ma forse quello che dovresti passare e` invece l'id del form: OGGETTO.id, che e` una stringa.

Per passare dalla stringa id all'oggetto puoi usare:
document.getElementById('stringa').

Quindi tornando al tuo problema:

<a href="..." onclick="....document.getelementById('ID_DEL_FORM' )...">

Oppure usi il getElementById dentro la funzione e passi:
nel form: this.form.id
nel link: la stringa id del form.

Ciao
Michele