например, показывать только то, что помещется на экране
Любой производный от QAbstractItemView именно этим и занимается.
Всё остальное должно быть реализовано в твоей собственной модели, ибо имеющиеся Qt-шные не рассчитаны на большие объёмы данных особенно при использовании сортировки.