Как переустановить mysql в vestacp?

Для начала хотя бы укажите какая у Вас OS, Debian или CentOS.

Например для Debian:

apt-get remove --purge mysql-server-6.0
apt-get install mysql-server-6.0

версию можете установить свою

Если проблема возникла после ковыряния "очумелых ручек", то попробуйте так:

apt-get --purge remove mysql-common
apt-get install mysql-server

Но будьте аккуратнее, смотрите, что потянется по зависимостям и не потеряйте БД.

PS: Вообще с таким вопросом Вам лучше обратиться к своему хостеру. Это непосредственные задачи его тех поддержки, решать вопросы такого рода. Услуга может быть как бесплатной так и платной.

Удаление и замена на MariaDB. Базы данных при этом сохраняются.

sudo apt-get remove --purge mysql-server mysql-client mysql-common
sudo apt-get autoremove
sudo apt-get autoclean
sudo apt-get install mariadb-server

Но в вашем случае (когда мало понимания что происходит) рекомендую восстановить из бекапа весь VDS. Если прошло не слишком много времени, то хостер поможет вам это сделать.