A me si. Tuttavia chiamare in ordine extract_chmLib ed htmldoc è il procedimento di chm2pdf stesso.
Io ho risolto in questo modo:

1. extract_chmLib di tutto il contenuto del .chm in una dir (eventualmente reindirizzando lo stdout su /dev/null se molesta)
2. creare un file zip unico di tutta la dir con zip -qmr (la dir originale ed il suo contenuto son rimossi)
3. Lavorare su tutto il contenuto del file zip passandone il contenuto a grep tramite unzip ed una pipe
unzip -p filezip | grep -aP pattern

In questo modo sono riuscito effettivamente a manipolare tutti i file .chm sui quali chm2pdf falliva e ad estrarne i contenuti cui ero interessato.