Система контроля версий с графическим интерфейсом для работы с удаленным VPS — существует ли? Что выбрать?

Git не сложный! Для работы в команде из одного человека (то есть с самим собой) нужно знать всего 3 команды, если работаешь на Github/Gitlab, и они просты до безобразия:

1. скопировать репо к себе, только один раз нужна :) В урл прописать свой логин и токен.
git clone {HTTPS_URL}

2. вытянуть обновления из репо
git pull

3. выгрузить все изменения в репо с комментарием 'update'

git add . && git add -A && git commit -m 'update' && git push

И все :)

Ещё примеры простых, но полезных команд:

git status покажет, какие файлы поменялись в репо
git diff покажет дифф
git remote -v покажет откуда было склонировано репо

Если работаешь сам с собой, то вероятность merge сводится к нулю, и весь процесс сводится к pull / push.

На Windows можно установить бесплатный Git For Windows, там можно добавить команды в меню и просто выбирать их мышкой. В диалоге добавления команды есть возможно использовать переменную $FILENAME. Обычно я использую ее для добавления команды Undo (то есть отмены изменений в конкретном файле):
git checkout $FILENAME

Освой ide от jetbrains, базовый функционал для работы с гитом там есть из коробки