Разрастание сцены ограничивается методом setSceneRect(). Ставишь, например scene->setSceneRect(0, 0, 100, 100) и сцена будет иметь фиксированный размер 100x100.
Ограничивать перемещение элементов тоже бывает полезно, это можно сделать, например, внутри класса элемента, например в обработчике события mouseMoveEvent или itemChange.
Вот, тема есть:
http://www.prog.org.ru/index.php?topic=4008.msg93442;topicseen#msg93442