Можно ли к джойстику прицепить зарядку от телефона вместо двух батареек?

"5V, 450mA" - это параметры зарядки, которая туда втыкается, если использовать не батарейки. а аккумулятор. Без батареи, даже с подключенной зарядкой, джойстик скорее всего не запустится.
Подавать 5В вместо напряжения с батареи (3В), думаю, не стоит. Если так хочется переделать джойстик в проводной, поищите блок питания на 3В.
А вообще никель-металлгидридные аккумуляторы АА копейки стоят. Возьмите два комплекта и заряжайте по очереди.

2 батарейки это 3 вольта...
Можно спалить....как минимум резистор!
Так вот погуглите, на сколько нужен резитор, чтобы понизить напряжение аккумулятора до ~3 вольт и спокойно подключайте!

Идеальный вариант предложил Ocelot, если же хочется извращений можно купить DC-DC понижающий преобразователь наподобие такого и подключить через него, тогда на входе будет хоть зарядка, хоть другое чтото, на выходе будет только 3 вольта