Или ещё проще:

Вектор v3 будет всегда лежать внутри острого угла между векторами v1 и v2 если выполняется условие:

sign([v1, v3]_z) == sign([v1, v2]_z) == sign([v3, v2]_z)

где [vi, vj]_z - z - компонента векторного произведения векторов vi и vj, а sign - знак.

C++ (Qt)
template <class T>
struct vector2d
{
    vector2d(const T &_x = 1.0, const T &_y = 1.0)
        : x(_x), y(_y) {}
 
    T x;
    T y;
};
 
template <class T>
inline int sign(T x) { return (x >= 0) ? 1 : -1; }
 
template <class T>
inline bool is_contains(const vector2d<T> &v1, const vector2d<T> &v2, const vector2d<T> &v3) {
 
    int sign_v1_v2 = sign(v1.x*v2.y - v1.y*v2.x);
    int sign_v1_v3 = sign(v1.x*v3.y - v1.y*v3.x);
    int sign_v3_v2 = sign(v3.x*v2.y - v3.y*v2.x);
 
    return ((sign_v1_v2 == sign_v1_v3) && (sign_v1_v2 == sign_v3_v2));
}
 

Верно, только не "острого" а "внутреннего"

Проще отталкиваться от того что векторное произведение на плоскости - знаковая (удвоенная) площадь треугольника, причем знак определяется направлением обхода (положительный - против часовой). Последовательно обходя 3 вектора мы должны получить все площади одного знака.

Однако для примера со стрелками часов есть и другое (более простое) решение 

 

200

Задачка для 5 класса?)

Но есть и  посложнее (не 5-ый класс):

Некая община регулирует рождаемость детей следующим своеобразным способом: каждая пара родителей продолжает рожать детей до тех пор, пока не родится сын. Как только это случится, дальнейшее прибавление в семье прекращается. Каково соотношение между мальчиками и девочками в общине, если в обычных условиях, когда рождаемость никак не регулируется, 51% родившихся детей - мальчики?   

Правильно)