Проблема в следующем:
При задании нового региона чилдовому окошку не удаляется предыдущий регион.
BoundsChecker показал, что утекает регион, который создаётся в функции setMask_sys (виндовая реализация). Но это этот регион выставляется окошку, следовательно, винда должна сама его удалить! Но этого не происходит.
И ещё. Течь прекращается если окошку  выставить атрибут WA_PaintOnScreen.