Как добавить к prometheus удаленный host?

Зависит от того, что вы хотите сделать. Если вам нужно мониторить другой кластер, то можно поставить на него прометей и потом сделать из них федерацию.
Если просто какой-то левый сервер, то тут есть варианты.

Просто левый сервер

а что мешает прописать его в таргете?

Талик, Все я прописал в prometheus.yaml

letema, )) ну вот я про это же)