Ура! Получилось! Просто маску надо было устанавливать в конструкторе,а не в свойствах формы QT Designer-a
А вот еще такой вопрос по поводу RegExp...
Как будет выглядеть выражение для имени файла? т.е. любые буквы,цифры,_,- и точка, но после точки,чтобы только 3 символа разрешал...
а как быть с точкой?