Non esistono caratteri esadecimali in un file ...
Un file contiene solamente byte (o bit se preferisci) che tu puoi leggere e visualizzare *nel formato che vuoi* ... in decimale come in esadecimale, binario oppure ottale ...
Se non ho capito male, tu vorresti leggere il file in binario ... per farlo semplicemente ma devi indicare il linguaggio ...