I am wondering how Application.Exit, Me.Dispose and End are different when it comes to closing an application (File --> Exit menu)

Which one should I use?

Thanks 

Normally I dispose then Application.Exit().  Might not be the best practice, but that's what I like.  :)

Once you close the app, the most important things is to release the memory you collected while running.  One form with all it's disposable objects disposed is really not worth counting ticks over, so just be sure to clear your ado.net objects and threads, and you'll be in good shape.

What if I use Me.Dispose, wouldn't that dispose all the resources?

No.  me.Dispose only disposes the form's components.  You need to explicitly destroy your other objects that are hefty.