Разобрать оба выражения, а затем по определённым правилам привести их к некоторой канонической форме и наконец сравнить на эквивалентность. В тривиальном случае это может быть раскрыть все скобки и сгруппировать одинаковые члены, а затем сравнить на наличие одинаковых частей. Для других случаев надо думать.

Как эту задачу представляет себе человек? Два выражения эквивалентны если одно можно преобразовать в форму другого и наоборот. Это преобразование, если существует, возможно за некоторое количество шагов. На каждом шаге рассматривается структура текущего выражения и в соответствии с этим применяется некоторое правило. Чем больше правил Вы знаете и умеете применять, тем большее количество таких задач можете решить.

Да вот где как задачу представляет чеговек это как-то слишком уж абстракстно, и вобщем дальше как двигаться пока не представляю.

С канонической формой попроще, но вот пока никак не придумаю как её так вот представить. Формулу конечно же можно представить деревом, но копаться в нём всё же не так просто, хотя лучше чем со строкой)

А по поводу всё таки имеется более простая проверка, величины обозначены. например надо сравнить введёную формулу с законом ньютона. величины обозначены, я повторюсь, особо разбежаться вроде некуда, но всё же порядок величин моожет меняться итд итп.

В какой бы области знаний порыться интересно

я думаю что просто стоит приводить формулы к единому виду (в случае дискретной алгебры к одному из канонических), в случае с дифурами к системе дифуров и т.д.

Вообще эта задача не такая уж простая: http://en.wikipedia.org/wiki/Word_problem_for_groups В общем случае неразрешимая, алгоритма нет.