Se come file intendi un eseguibile allora è semplice
usi la classe process
codice:
Dim arrProcess As Process() ' qui avrai tutti i processi in esecuzione
arrProcess= Process.GetProcessesByName("Nome del processo")
' se da errore o comunque arrProcess.count <0 allora il processo non è avviato/in uso
se invece è un file:
codice:
Dim selModItemCollection As ProcessModuleCollection
Dim processModuleItem As System.Diagnostics.ProcessModule
Dim arrProcess As Process() ' qui avrai tutti i processi in esecuzione
dim procItem as process
arrProcess= Process.GetProcessesses()
for each procItem in arrProcesses
processModule = procItem.Modules
 'ora controlli processModule(0).filename.toString() secontiene come sottostringa cio ke ti interessa
next