Il fatto e' che non devi lavorare in ASCII ...

Prima di effettuare dei calcoli, i valori vanno convertiti da ASCII a binario ... ad esempio

'5' che in ASCII vale 35 (esadecimale) va convertito in 05 (esadecimale)

Poi effettui l'operazione (avrai ad esempio 05 + 02 = 07) e all'ultimo trasformi nuovamente da binario ad ASCII ... da 07 a 37 (esadecimale) che rappresenta il carattere '7' da visualizzare ...

Ovviamente la faccenda diventa un po' piu' "articolata" per valori oltre 10 decimale ...