Попробуйте вызывать в месте изменения размера айтема:
C++ (Qt)
void QGraphicsItem::prepareGeometryChange () [protected]
Нет, это не помогло.
Однако вопрос решился случайно.
Я после изменения параметров вызывал
layout->updateGeometry();
update(rect());
как только удалил update(rect()); сразу все начало работать нормально. Странно....