Supponendo un char 8 bit i valori variano al massimo da 0 a FF, come puoi ottenere più di due caratteri?
Sta di fatto che quel codice è illeggibile.
Ci sono funzioni già scritte per base64, perché ti devi complicare la vita con printf?