Открываем дизайнер.
Создаём виджет.
Перетаскиваем treeView.
Выбираем основное окно(виджет).
Находим свойство StyleSheet (оно в самом низу первого раздела параметров).
Щелкаем на пипочке справа от полоски ввода.
Открывается окно редактора и там мы пишем.
QTreeView
{
border-color: green;
border-width: 6px;
}
Щелкаем "Ок" и видим результат.
Для достижения того же эффекта в коде, вам нужно будет написать следующее.
ui.widget->setStyleSheet("QTreeView"\
"{"\
" border-color: green;"\
" border-width: 6px;"\
"}");
PS для справки знак \ в конце строки в коде "склеивает" строки.