Quella che hai scritto è la vecchia sintassi di VB6, peraltro utilizzabile ancora in VB.NET.

Prova così:
codice:
TextBox1.Text = num.ToString("#.00")
L'errore è forse dovuto al fatto che come separatore dei decimali devi usare il punto, non la virgola.