Это уже Си++, а не Qt.
Определить в этом классе оператор [], возвращающий ссылку (или константную ссылку - для константных функций) на QVector<T>.
QVector & operator [] (unsigned int i)
{
return m_matrix[i];
}
В таком случае всё так и будет работать, т.к. второй оператор [] будет применяться уже к QVector
добавлено спустя 2 минуты: Гораздо проще хранить один вектор, значения строк (столбцов) в котором расположены последовательно.
Зависит от задачи, в некоторых вычислительных задачах быстрее будет хранить именно так, или даже массив указателей.
Скажем, в вычислении определителя, где придётся менять строки местами.