Non ho mai realizzato una calcolatrice, ma procederei così:

prima di tutto, chiederei all'utente di inserire tutte le variabili che vuole utilizzare nella formula (con tanto di rispettivo valore) e le memorizzerei in un Dictionary(Of String,Double) , dove String contiene il nome della variabile e Double il suo valore.

Poi prenderei la formula digitata (facciamola semplice, niente parentesi e solo le quattro operazioni) e sostituirei tutte le variabili con i rispettivi valori. Poi cerco i simboli "*" (moltiplicazione) e "/" (divisione), che sono le due operazioni che vanno eseguite per prime. Una volta trovati i simboli prendo il numero che sta prima e il numero che sta dopo ed eseguo l'operazione richiesta: il risultato di tutto viene poi immagazzinato in una nuova stringa. Poi faccio lo stesso con i "+" (addizione) e "-" (sottrazione). Il tutto va perfezionato, ma l'idea di base che userei è questa.