E' semplice, ma devi poter cambiare i dns del server.
se non lo amministri tu, non credo che tu lo possa fare.

In pratica, sul tuo server devi registrare il dominio a.b.com come se fosse un dominio registrato da te.

b.com, che effettivamente gestisce il dns per a.b.com indirizza le richieste sull'ip del tuo server, che a questo punto le può correttamente interpretare.

a.com non entra in gioco per nulla, dato che al limite lo usi per fare un redirect su a.b.com.