Правильно вы говорите неправильные селекторы.
The branches of the tree view can be styled using the ::branch subcontrol. The ::branch Sub-control supports the :open, :closed, :has-sibling and :has-children pseudo states.
Спасибо за совет, но я уже читал про селектор ::branch, возможно я не четко описал вопрос, вот что я пытаюсь сделать:
мне нужно выделить узлы что не имеют родителей, задать им background цвет и border, как здесь:
но к этому необходимо показывать еще expand/collapse иконки. Со стилями во-первых я не нашел селекторов, которые выделяли бы только узлы без предков, во-вторых ::branch при задании background-color удаляет иконки expand/collapse, поэтому придется еще и описывать правила стиля и для них, но опять же нет селекторов(или я их не нашел) для узлов у которых нет родителей, тем более для ::branch.