Ну вообщем для того, чтобы стирать каждый раз перед рисованием нового графа нужно делать примерно так:
//cv = new QCanvasView
QCanvasItemList list = cv->canvas()->allItems();
QCanvasItemList::Iterator it = list.begin();
for (; it != list.end(); ++it)
{
if ( *it )
delete *it;
}