Você pode considerar bibliotecas de software comerciais, como a da A2IA Corporation (http://www.a2ia.com/en/a2ia-checkreader-0), ou a Biblioteca Tesseract de código aberto (http://code.google.com/p/tesseract-ocr/) para operações básicas de OCR.
Supondo que você queira ler os caracteres microfone (reconhecimento de caracteres de tinta magnético) na parte inferior do cheque, a A2IA é um bom começo, pois não tenho certeza se o TESSERACT funcionará bem com a fonte E13B usada para isso.