Fortunatamente grazie all'aiuto di una persona sono riuscito a risolvere...

Questo è il codice in caso qualcuno dovesse avere il mio stesso problema

codice:
Private Sub Button1_Click( ... ) Handles Button1.Click()
Application.Exit()
End Sub