Видно, что отрезается передняя часть объекта.
А почему бы ей не отрезаться если в результате масштабирования камера оказалась внутри объекта? Убедитесь что с _zoomFactor = 1 все норм, дальше плавно меняйте и смотрите. Еще лучше интерактивно, от колесика мыши
Спасибо за Ваш комментарий!
Если коэффициент масштабирования приравнять к единице, тогда объект не приблизится к камере, и проблема не проявится.
Если двигать камеру по отношению к объекту, проблема остается таже. Раньше zooming был реализован именно так, приближением камеры, а не масштабированием.
Если установить расстояние от камеры до ближней плоскости отсечения равным нулю, то теоретически отсекаться ничего не должно. И в libQGLViewer есть такая функция, только проблема ей почему то не решается