Ciao.
Credo che il tuo problema non sia il codice ma l'impostazione della sessione LCID.
Se vuoi la virgola devi utilizzare ad inizio pagina asp il codice Session.LCID = 1040
Per l'utilizzo corretto della formatnumber questa è una buona guida:
http://www.w3schools.com/vbscript/func_formatnumber.asp