Немного не понял вопроса, нужно смешать цвет до рисования?
Можно посмотреть QPainter::setCompositionMode

Это неоднозначно, напр

- просто интерполировать 2 цвета с учетом их alpha (порядок слагаемых не имеет значения)
- второй цвет виден "сквозь" первый (здесь уже результат разный в зависимости от того кто первый)

У меня получилось так:

C++ (Qt)
inline qreal __blend(qreal s, qreal d, qreal a)
{
    return s + (d - s) * a;
}
 
QColor color_blend(const QColor& c1, const QColor& c2)
{
    QColor res;
    res.setRedF(__blend(c1.redF(), c2.redF(), c2.alphaF()));
    res.setGreenF(__blend(c1.greenF(), c2.greenF(), c2.alphaF()));
    res.setBlueF(__blend(c1.blueF(), c2.blueF(), c2.alphaF()));
    res.setAlphaF((1 - c1.alphaF()) * c2.alphaF() + c1.alphaF());
    return res;
}

Основное отличие от предыдущего поста получилось в просчете альфа-канала.

Да какая там велосипедобоязнь)) У меня таблетки от велосипедофобии)

Вот непонятно, зачем так накручивать:

C++ (Qt)
// Red component
 float foreR = fore.redF();
 float backR = back.redF();
 float sumR = (foreR * foreA + backR * newA) / sumA;
 

И что Вы всё float, да float? qreal - это ж double.

А по-поводу альфа-канала, согласен с тем, что здесь больше зависит от постановки задачи. В зависимости от желаемого поведения, короче)

Нет, clr1 - это цвет который кладут первым. Результирующий цвет зависит как от прозрачности этого первого clr1.alphaF() так и от прозрачности второго цвета clr2.
Если у обоих цветов альфа = 1, то результирующий цвет будет соответствовать clr2, поскольку он кладётся последним и полностью закрашивает первый clr1.

Да, верно, здесь явный косяк)

А как Вы себе представляете процесс смешения цветов? В смысле, какой аналогией с реальностью руководствуетесь в этом методе весов?

Вот я сейчас прикинул такой вариант.
Итоговый цвет это результат следующего процесса.
Есть источник некоторых объектов (типа фотонов) которые характеризуются тремя значениями (r, g, b) Источник приготавлевает их в состоянии (r=1, g=1, b=1).

Есть приёмник, который их принимает и может распознать значение каждой компоненты.
В приёмник они попадают в результате отражения от "плёнки", причём плёнка обладает свойствами:
1) процентом отражённых "фотонов" (альфа-канал)
2) новыми компонентами r, g, b. (при условии что падающие ф. были в состоянии (1, 1, 1)).
3) прошедшие сквозь плёнку ф. не подвергаются изменению компонент.

Теперь наш случай с наложением двух цветов.
Пусть первый цвет - back, а накладываемый на него - front.
Тогда, в рамках рассматриваемой модели итоговый цвет есть результат следующего процесса:

Приёмник испускает N "фотонов" в состоянии (1, 1, 1) которые вначале падают на front - плёнку. Число отразившихся от неё ф.
R1 = N*front.alphaF()
которые попадают в приёмник и имеют компоненты соответствующего front - цвета.
Число прошедших ф.
D1 = N*(1 - front.alphaF())
которые имеют по-прежнему компоненты (1, 1, 1) и попадают на back - пластинку.
Число отразившихся от неё составит:
R2 = D1 * back.alphaF()
после чего они попадают в приёмник.

И так, в приёмнике у нас имеется R1 "фотонов" с компонентами front и R2 "фотонов" с компонентами back. Общие число испущенных ф. N.
1) Считаем итоговый альфа-канал:
alpha = (R1 + R2)/N =  front.alphaF() * (1 - back.alphaF()) + back.alphaF()

2) Считаем итоговый цвет:
R = a1 * front.redF() + a2 * back.redF();
G = ...
B = ...
где
a1 + a2 = 1
a1/a2 = R1/R2
т.е.
a1 = front.alphaF() / (front.alphaF() + back.alphaF() * (1 - front.alphaF()))
a2 = back.alphaF() * (1 - front.alphaF()) / (front.alphaF() + back.alphaF() * (1 - front.alphaF()))

Вобщем это всего лишь один из вариантов, просто как аналогия некого процесса, который можно себе представить.

На все вопросы, касательно света, ответит КЭД