Prova così:

codice:
Shell("CMD.EXE /C c:\windows\system32\tracert.exe " & TextBox1.Text & " > c:\tracert.txt")
ricorda di indicare anche il percorso del TXT altrimenti potresti non sapere dove finirà.