E' strano che non funzioni ... comunque, guarda questo esempio

http://www.vb-helper.com/howto_kill_application.html

E' meglio provare con WM_CLOSE prima di usare la TerminateProcess dato che l'uso di quest'ultima potrebbe causare la perdita di eventuali dati non salvati dall'applicazione che termini.