Così avvii il processo con finestra minimizzata.
codice:
Imports System.Diagnostics
'...
Dim psi As New ProcessStartInfo("c:\percorso\nomefile.exe")
psi.WindowStyle = ProcessWindowStyle.Minimized
Process.Start(psi)
Gli altri valori possibili per ProcessStartInfo.WindowStyle sono descritti qui.