С интегральным уравнением улыбнуло
Хотя можно проще эту проблему решить: рисовать не цифры, а простенькие картинки: домик, машинка, крестик. А внизу текстовое поле с указанием количества букв и одной-двух открытых букв, чтобы избежать многозначности в растолковании картинок, типа автомобиль-машина или дом-домик-изба. На этом, пожалуй, любая программа заткнется. Естественно слова надо подобрать так, чтобы их по открытым буквам нельзя было тривиально подобрать с высокой вероятностью перебором по словарю