Столкнулся с проблемой. нужно сделать анализ кода и определить, находиться ли курсор между {  }.
Если находиться, то выполнить определенное действия. Конечно можно смотреть в цикле до и после курсора,
но мне кажется, что это не оптимально и будет тормозить Gui. Класс который отвечает за текстовый редактор наследуется от QPlainTextEdit.

У QCursor есть событие cursorPositionChanged (). Вот при каждом событии и надо проверять что справа, что слева.
Проблема только в количестве проверяемых знаков и их нахождении в строках. Если "{" стоит где-то в строке 12, а  "}" в строке 1234, и в каждой строке по 200-300 знаков, то игра, наверное, не стоит свеч.
Однако, можно попробовать написать так, что бы курсор "помнил" позиции знаков "{" и "}" и сверял свою. Просто написать два вектора один для "{", другой для "}"
Правда, в этом случае придется при каждом редактировании (например при нажатии клавиши "back") пересчитывать позиции для всех "{" и "}" (тупая арифметика) и проверять их на удаление (вруг этот "back" удалил знак из позиции, значит его надо и из вектора удалить). Но это будет значительно проще чем вариант с проверкой всех строк. По скорости будет в разы быстрее.