По идее ты сам должен реализовать это с помощью отслеживания события QWidget::keyPressEvent() и определения какая клавиша была нажата, Insert это Qt::Key_Insert. При нажатии клавиши меняй значение, например, глобальной булевой переменной InsertMode на противоположное и вызывай функцию в которой реализуй то, что ты хочешь от режима Insert, ну и когда захочешь узнать текущее значение смотришь какое оно. Как-то так
.