Hai bisogno di un sistema di intelligenza artificiale, se hai buone basi matematiche e se sai leggere in inglese prova a cercare

- PATTERN RECOGNITION ALGORITHMS
- EDGE DETECTION ALGORITHMS

La parte algoritmica è di solito molto + facile crearla in C, però in C troverai noioso decifrare il formato del file che di solito è JPEG o TIFF in bitmap, bisogna scartabellare su internet alla ricerca di librerie già pronte all'uso oppure l'API di windows, oppure librerie OCR già pronte, vedi ad esempio questo sito http://www.expervision.com/rtk6.htm.

In VB probabilmente sarà più palloso scrivere gli algoritmi però probabilmente ha già delle funzioni di decodifica per i file TIFF o JPEG, e credo che se vai su siti tipo IRIS http://www.irisusa.com/ potresti anche trovare degli active X in che rendono disponibile con facilità il riconoscimento OCR, ti consiglio di fare una ricerca del genere prima di buttarti a studiare gli algoritmi di pattern recognition etc....