Ad essere pignoli, bisognerebbe fare così:
codice:
Function CalcolaDensità(ByVal superficie As Integer, ByVal popolazione As Integer)
        Dim risultato As Integer = superficie / popolazione
        Return risultato
    End Function

    Private Sub Button1_Click(ByVal sender As System.Object, ByVal e As System.EventArgs) Handles Button1.Click
        TextBox3.Text = CalcolaDensità(CInt(TextBox1.Text), CInt(TextBox2.Text))
    End Sub
In modo da convertite ciò che inserisce l'utente (string) in numero (Integer) esplicitamente. Poi bisognerebbe anche gestire il caso in cui l'utente, invece che numeri, inserisca lettere o simboli ( es TextBox1.Text è uguale a "£RF45610.")

@nirv@n@

Prova a leggere questa guida: è una miniera di informazioni.