Non so per quale motivo tu voglia percorrere questa strada, che secondo me non ti porta da nessuna parte.

Che tu riesca a vedere o meno che la memoria occupata dal tuo processo è abnorme a che ti serve? Lo sai già che è così.
Per cui, in ogni caso, devi andare alla ricerca nel codice per scoprire dove ciò avvenga.

Il perchè lo si sa già: si stanno usando strutture, oggetti, chiamate API, ecc. di cui non si rilasciano le risorse allocate.

Per cui bisogna concentrarsi e fare un attento e meticoloso debug del codice.

Anni fa ho dovuto affrontare una cosa analoga in un mio componente ActiveX DLL, e solo con un attento debug ho scoperto che dopo aver creato ed usato un font, poi dimenticavo di rilasciarlo, per cui continuava ad occupare memoria e, ad ogni chiamata, ne incrementava l'occupazione.