Как перейти в сферу UX из QA?

Нету никакой "сферы UX". Это совершенно виртуальная деятльность, существующая только в статьях, написанной безработными копирайтерами. Исключение - мега-корпорации, которые могут себе позволить роскошь нанять несколько бездельников.

В реале эту работу делают дизайнеры, фронтендеры, фуллстеки - кто угодно, у кого есть хоть какая-то голова на плечах.

Отдельное направление UX существует только во влажных фантазиях ленивых дизайнеров, которые мечтают, что будут только двигать серые квадратики и проектировать архитектуру в отрыве от реального дизайна. Так, конечно, не бывает. Вернее, были попытки некоторое время назад так делать, но результат работы был совершенно бессмысленным. В итоге большинство компаний вернулось к привычной схеме универсальных дизайнеров.

В полноценных командах UX-ом занимаются все. В большей степени за это отвечают продакт-менеджер и дизайнер, но при этом любой участник команды может предлагать свои решения того или иного юзкейса. А учитывая, что у нас пока дизайнеры почти не умеют в код, то многие прикольные интерфейсные вещи приходят в том числе и от разработки. Главное — не подпускать сюда типичных ПМ-ов, которые в ворде нарисуют три прямоугольника с текстом "тексттекстекст" и будут топить за свой "UX".

Так что забудьте. Либо вы фулл-стек дизайнер, либо QA.

Никакой специфики нет, подводных камней тоже. Начать нужно с поиска по Тостеру:

Источники для изучения UI/UX для настольных приложений?
Где найти литературу или статьи по разработке интерфейсов для оконных приложений в Windows?
Где найти тех задания (ux) начинающему проектировщику?

Эм, ну не совсем соглашусь с предыдущими ораторами, т.к. все таки есть UX-дизайнеры, которые рисуют исключительно прототипы, занимаются проектированием сложных систем (для внутреннего пользования как правило) продумывают логику интерфейса и пр (projectorat.ru например). Ну и курсы и литература соответствующая.

Для начала я бы посоветовал походить по сайтам job и посмотреть количество вакансий и среднюю зарплату. Если вакансий много и нормальные деньги предлагают, то имеет смысл дальше думать в этом направлении. Литературы много, поисковики Вам в помощь.