Parece que, sin saberlo, estás empezando a adentrarte en las profundidades de la visión por computador conocida popularmente por las siglas CV.
La buena noticia es que hay toneladas de lo que buscas en internet si sabes lo que quieres.
Te sugeriría que empezaras con OpenCV.
El único requisito es que sepas programar en Python aunque también puedes aprender a hacerlo usando los muchos ejemplos que encontrarás en OpenCV.
Antes de que se me olvide, OpenCV es una colección de muchísimos algoritmos y APIs de diversas fuentes, todos colocados juntos y empaquetados.
Disfrutarás mucho usando OpenCV si te apasiona de verdad la visión por ordenador y otros campos relacionados como la identificación de objetos, la manipulación de imágenes, el reconocimiento facial y cosas así.
Hay otras librerías y APIs también pero si puedes conseguir ejecutar OpenCV para que se ejecute en tu estación de trabajo de computación/desarrollo, tendrás casi todo lo que necesitas a tu disposición después de instalar OpenCV.
Si necesitas seguir tutoriales más amigables y fáciles de seguir usando OpenCV para hacer lo que quieres, realmente necesitas revisar y suscribirte a los posts del blog de Adrian Rosebrock desde su Blog PyImageSearch - Be awesome at OpenCV, Python, deep learning, and computer vision
Está bien versado en el tufo de la Visión por Computador y lo enseña con simplicidad tanto a los novatos que se aventuran en el dominio de la visión por computador por primera vez o a los expertos que buscan desarrollar e implementar más soluciones adaptadas a la industria.
Espero que en esta respuesta te haya guiado en la dirección correcta y te haya facilitado el aprendizaje rápido de los fundamentos de lo que buscas con las librerías de código abierto más conocidas y te haya señalado un actor activo en la industria desde el que puedes aprender los entresijos de la visión por computador con facilidad y de alguien que puede ser tu mentor.