Ti riferisci alla riga usando un'indice (a) che è invece hai dichiarato come String,
ed è in effetti la riga stessa .

Penso che dovrebbe essere così:

codice:
For Each a As String In rtbMessage.Lines
    If a.StartsWith("//") Then '<-- Errore
                '...
    End If
Next