Potresti inviare il messaggio WM_CLOSE alla finestra dell'applicazione:
codice:
Public Declare Function SendMessage Lib "user32" Alias "SendMessageA" (ByVal hwnd As Long, ByVal wMsg As Long, ByVal wParam As Long, lParam As Any) As Long
Public Declare Function FindWindow Lib "user32" Alias "FindWindowA" (lpClassName As Any, ByVal lpWindowName As String) As Long
Public Const WM_CLOSE = &H10
'nel punto dove vuoi chiudere il programma
hApp = FindWindow(ByVal 0&, "Acrobat Reader [pippo.pdf]")
SendMessage hApp, WM_CLOSE, 0, 0
Naturalmente, al posto di pippo.pdf devi inserire il nome del file aperto.