Почему перестали работать сетевые функции после установки Vesta CP (Nginx + PHP-FPM)?

Установка VestaCP подразумевает под собой полную перенастройку сервера, и то что у вас "перестал работать sftp" это еще нормально. VestaCP при установке переписала конфиги FTP сервера.

"не могу поставить программы через терминал" - наверное что-то пишет в ответ?

Емнип, веста переписывает правила iptables. Смотрите в настройках панели. Там есть вкладка с этими правилами. Я бы вовсе отключил этот модуль и настроил правила сам. Благо там нет ничего сверхестественного (это же не гейт настроить). Инфа по настройке вебсервера гуглится на раз.

SFTP - не работает, если не включен bach для пользователя в панельке.