Sono le solite questioni che vengono riproposte già da anni ripetutamente.
Cercando su Google si trovano già parecchie comparazioni pronte da leggere.

Per il resto, sia C# che VB.NET sono due linguaggi pienamente supportati, quindi si può scegliere liberamente quello che si preferisce.