Russian Qt Forum

                           |a11 a12 a13|
Матрица преобразования A = |a21 a22 a23|
                           
         |a11 a12 a13|
|u v|  * |a21 a22 a23| = |x y z| = |u*a11+v*a21, u*a12+v*a22, u*a13+v*a2|

теперь имея две известные пары точек:
(u1,v1) -> (x1,y1,z1) 
(u2,v2) -> (x2,y2,z2) 

Получаем 3 системы уравнений:

u1*a11+v1*a21 = x1         
u2*a11+v2*a21 = x2         

u1*a12+v1*a22 = y1         
u2*a12+v2*a22 = y2         

u1*a13+v1*a23 = x1         
u2*a13+v2*a23 = x2         

===================
Решаем первую:

u1*a11+v1*a21 = x1         
u2*a11+v2*a21 = x2         

a11 = (x1-v1*a21)/u1 = (x2-v2*a21)/u2
a21 = (x1-u1*a11)/v1 = (x2-u2*a11)/v2

u2*x1-u2*v1*a21 = u1*x2-u1*v2*a21
u1*v2*a21-u2*v1*a21 = u1*x2-u2*x1
                               
Получаем:
a21 = (u1*x2-u2*x1)/(u1*v2-u2*v1)
a11 = (v1*x2-v2*x1)/(v1*u2-v2*u1)
Аналогично с двумя оставшимися системами

===================
Но это видимо без переноса и сдвига.
===================

Если 2D прямогольник в начале координат(3D естественно тоже), то упрощаем:
2D прямогольник задается {(u1,v1);(u2,v2)} -> {(0,h);(w,0)} - где: h-высота, w-ширина
a21 = (u1*x2-u2*x1)/(u1*v2-u2*v1)
a11 = (v1*x2-v2*x1)/(v1*u2-v2*u1)

a21 = (0*x2-w*x1)/(0*0-w*h)
a11 = (h*x2-0*x1)/(h*w-0*0)

a21 = x1/h
a11 = x2/w
          
    |x2/w y2/w z2/w|
A = |x1/h y1/h z1/h|          
         
===================

x = u*x2/w + v*x1/h;
y = u*y2/w + v*y1/h;
z = u*z2/w + v*z1/h;

struct Vec3D {
  Vec3D & xyz( float _x, float _y, float _z ) { x = _x; y = _y; z = _z; return *this; }
  
  float length( void ) const { return sqrt(x * x + y * y + z * z); }   // длина вектора
  
// умножение и деление
  friend Vec3D operator * (  const Vec3D & v, float t ) {  Vec3D a; return a.xyz(v.x * t, v.y * t; v.z * t); } 
  friend Vec3D operator / (  const Vec3D & v, float t ) {  Vec3D a; return a.xyz(v.x / t, v.y / t; v.z / t); }

// cложение и вычитание
  friend  Vec3D operator + ( const Vec3D &  a, const Vec3D & b )	{ Vec3D t; return t.xyz(a.x + b.x, a.y + b.y,  a.z + b.z; }
  friend  Vec3D operator - ( const Vec3D &  a, const Vec3D & b )	{ Vec3D t; return t.xyz(a.x - b.x, a.y - b.y,  a.z - b.z; }

// скалярное произведение - возвращает косинус угла между векторами помноженный на их длины
  friend  float operator *  ( const Vec3D &  a, const Vec3D & b )	{ return a.x * b.x + a.y * b.y + a.z * b.z; }

// data
  float x, y, z;
};

struct CPoint {
  Vec3D mPosOld;    // исходная позиция в 3D
  Vec3D mPosNew;   // позиция в 3D после обрезки 
  Vec2D mPixOld;     // пиксель имеджа до обрезки
  Vec2D mPixNew;     // пиксель имеджа после обрезки
};

// mPixNew посчитано из имеджа для всех 4 точек теперь надо найти их mPosNew  
void CalcQuad( CPoint quad[4] )
{
// строим пиксельную систему координат  
   Vec2D pixCenter = quad[0].mPixOld;               // центр в точке 0
   Vec2D pixX = quad[1].mPixOld - pixCenter;      // первая ось 0->1 ("X") 
   Vec2D pixY = quad[3].mPixOld - pixCenter;      // вторая ось 0->3 ("Y")
   float lenX = pixX.length();                            // длина первой оси
   float lenY = pixY.length();                            // длина второй оси

// строим 3D систему координат  
   Vec3D vecCenter = quad[0].mVecOld;             // центр в точке 0
   Vec3D vecX = quad[1].mVecOld - vecCenter;    // первая ось 0->1 ("X") 
   Vec3D vecY = quad[3].mVecOld - vecCenter;    // вторая ось 0->3 ("Y")

   for (int i = 0; i < 4; ++i) {
     // находим относительные пиксельные координаты
     float relX = quad[i].mPixNew * pixX / (lenX * lenX);
     float relY = quad[i].mPixNew * pixY / (lenY * lenY);

     // переводим в 3D координаты
     quad[i].mPosNew = vecCenter + vecX * relX + vecY * relY;
   }
}