задаю точки, которые являются вершинами некой n-угольной фигуры ... CustomPlot отрисовывает и соединяет между собой точки по возрастанию относительно оХ ...
QCustomPlot ещё не пользовался, но из соображений математики стоит попробовать погуглить "QCustomPlot parametric" (про параметрические графики). Обычные графики так и должны строится -- слева направо.