это задача для первокурсников на понимание матрицы перехода между базисами?

Используем базовые знания/понятия. Мы знаем что умножение точки/координаты на матрицу СК сводится к проецированию на записанные в ней оси, Здесь эти оси нарисованы - ну так проецируем. Возьмем точку A на носике чайника и опустим из нее перпендикуляр на красную ось (X). Длина (знаковая) красного отрезка от упавшей точки до пересечения осей и есть новая координата X что получается в рез-те умножения на матрицу. Точно так же спроецируем точку A на зеленую и синюю оси, получим новые Y и Z. Вот они, "суть косинусы" (так сейчас учат в ВУЗе). Попробуем сделать то же самое для чайника на картинке предыдущего поста. Для точки A получим те хе самые X>0, Y>0, Z = 0. Точка пересечения осей всегда будет иметь координаты (0, 0, 0) после умножения.

Отсюда вывод - мы видим локальную СК чайника, эта матрица переводит в... локальную СК (да, масло масляное ) где точки (вертексы) остаются неизменными как бы чайник ни крутили и как бы ни облетали камерой.

Примечание: хотя термин "локальная СК" вполне корректен, чаще говорят "модельные координаты", а то и просто "в модель". При этом часто имеется ввиду что это те самые координаты что записаны в файле модели, напр в .obj файле, хотя это и не всегда так.

Ну вот, с "куда" ясно, осталось разобраться с "откуда". Или: какие координаты должны множиться на эту матрицу?

А чтобы лучше понять/прочувствовать полезно поиграть в "почемучку", позадавать самому себе вопросы, пусть они и звучат наивно. Ну например
Или
или совсем уж глуповатый(?) вопрос

Поехали дальше, потренируемся  в алгебре

32) Даны 2 прямые в пр-ве, каждая задана точкой (p) и направлением (dir), пусть нормированным. Требуется

a) Определить что прямые
   a1) параллельны
   a2) пересекаются
   a3) скрещиваются

b) Найти минимальное расстояние между прямыми

с) Найти точки минимального отрезка (напр A и B) соединяющего эти прямые.

Возможная ностальгия
А помнить ничего и не надо, весь инструментарий есть в любом классе "вектор", напр QVector3D.

Эта задача корректного решение не имеет. В случае одного выстрела. Причём тут мало учитывания преломления, нужно ещё брать во внимание, что стеклопакет - это несколько стёкол. Пуля, при пробивании пакета, наверняка сместится.
В реальности, если снайпер всё-таки высокого класса и хочет ушатать жертву, то он будет стрелять 2 раза с короткими интервалами. Первая пуля пробъёт стеклопакет, вторая - ушатает жертву.

Довольно типичная реакция которую я называю "лапки кверху". Мол, это настолько сложно что нечего и пытаться, даже не дергайся. Справедливости ради заметим что основания для этого имеются - увы, обращение к "фундаментальной" обычно ничем хорошим не кончается, научные работники охотно тычут в нос интегралы и дифуры (мутить воду они мастера).

Но для всех задачек в этой теме это не так. А здесь расчет преломлений очень прост, можно даже в уме посчитать, без бумажки. Главное преодолеть барьер "это так сложно"

Вот живое подтверждение моих слов выше. Вместо того чтобы ободрить человека (у которого моск и так покалечен "собирать"), Вы напротив, сразу стремитесь его запугать незнакомыми ему вумными словами. Ну какой нафиг здесь Monte Carlo? Какой Грассман? Тут одно арифметическое действие - и все 

А вы попробуйте решить. Там проблема ведь не в коэффициентах преломления (которые, как раз посчитать не сложно).
Кстати, если уж совсем заморачиваться - простая школьная задача о двух трубах м бассейне не такая уж и простая. Хотя, в идеальных условиях вполне себе решается. В учебнике.