Что особенно карандашного в ваших примерах??
Тот же эффект даст "Набросок карандашом" в paint.net, только еще овальную рамочку прилепить для высветления краев и все.
Вытягиваете контрастность на кадре -> пробегаетесь по всем пикселям с подсчетом черных -> если процент черных достигает определенного значения, значит контейнер полон -> профит ?