E' un argomento più o meno già trattato.
In pratica tu con un timer controlli ogni tot di tempo se esiste il processo che vuoi, e se ce n'è più di uno, chiedi all'utente di chiuderlo, altrimenti lo killi tu. Ecco dei link di riferimento:

http://vbnetsample.blogspot.it/2007/...l-process.html

http://stackoverflow.com/questions/1...ng-vb-net-or-c

http://www.vbdotnetforums.com/window...c-process.html