Ho risolto in questo modo:

codice:
        Dim Riga, Carattere As Integer
        Dim Valore As String

        For Riga = 0 To dgvRighe.Rows.Count - 1

            Valore = dgvRighe.Item(8, Riga).Value

            'Controllo che il valore della cella sia numerico.
            For Carattere = 0 To Valore.Length - 1
                If Not Char.IsNumber(Valore.Chars(Carattere)) Then
                    MessageBox.Show("Sono stati immessi caratteri non numerici nelle celle, impossibile procedere", "Errore", MessageBoxButtons.OK, MessageBoxIcon.Stop)
                    Exit Sub
                End If
            Next Carattere

        Next Riga
Dovevo controllare ogni valore di una cella carattere per carattere mentre io cercavo di controllare la stringa di una cella per intero, pensavo esistesse una funzione omologa a quella per char anche per string. Grazie per la disponibilità, ciao^^