Il codice ASCII assegna un valore per ogni carattere.
Se tu vuoi calcolare il valore di una combinazione, visto che la 'A' vale 65, ti basta sommare i rispettivi valori sottraendo 64:

codice:
char stringa[3];
// inizializza la stringa
int valore=0;
for(int i=0;i<3;i++)
    valore+=stringa[i]-64;
Attenzione però che calcolando il valore della combinazione, la posizione non è rilevante, e non si distingue una stringa come ad esempio "ABA" da una stringa come "BAA".
Se vuoi fare questa distinzione devi calcolare il valore della permutazione.