Io ho provato a fare così:
Nella pagina ho 3 Button con Id=Button1, Button2, Button3
Ho 3 label, di ID = Label1, Label2, Label3 tutte con l'attributo visible=false

Sia i Button, che le label sono dentro una tabella di 2 colonne, 3 righe, contenuta in un Panel

Nel codice sottostante:
codice:
    Private Sub Button_Click(ByVal sender As System.Object, ByVal e As System.EventArgs) Handles Button1.Click, Button2.Click, Button3.Click
        Dim NumeroButton% = 3
        Dim i%
        Dim NumeroOld% = 0, Numero% = 0
        If Not Me.ViewState("NumeroOld") Is Nothing Then
            NumeroOld = CInt(Me.ViewState("NumeroOld"))
            Me.Panel1.FindControl("Label" & NumeroOld).Visible = False
        End If
        Numero = CInt(Mid(DirectCast(sender, Button).ID, 7))
        Me.ViewState("NumeroOld") = Numero
        Me.Panel1.FindControl("Label" & Numero).Visible = True

    End Sub