Как программно изменить настройки роутера Wi-Fi?

Как пример сойдёт Wi-Fi сеть московского метрополитена

сойдёт

Смело.

Есть вопрос - как автоматизировать процесс администрирования сетью роутеров и написать что-то вроде биллинговой системы? Необходимо изменять список заблокированных IP, ограничивать скорость на порты и т.д. НА ВСЮ сеть

Во-первых, рекомендую определиться с архитектурой сети, затем понять, какие именно параметры, как и на каких именно устройствах необходимо менять. Во-вторых, настраивать устройства можно через удаленную консоль (telnet/ssh, второе предпочтительнее с точки зрения безопасности), через SNMP (пользователь/community с write-доступом) и вероятно через API (Junos XML API, NETCONF), если производитель его предоставляет (см. документацию на устройства).

и написать что-то вроде биллинговой системы?

Если планируется легализация (получение лицензий на ведение деятельности и прочая), то биллинг должен быть сертифицирован, поэтому логичнее будет изучить существующие варианты (существуют бесплатные сертифицированные биллинги, насколько мне известно). Если все-таки хотите писать самостоятельно, то собирайте netflow-/sflow- данные и анализируйте их (например, при помощи скрипта-обертки над flow-tools в качестве первого приближения). Если под "биллингом" вы подразумеваете страничку с реквизитами оплаты и кнопкой "купить немного интернета", то смотрите в сторону captive portal.

Нашёл информацию, что это можно делать через telnet. Является ли это надёжным универсальным средством

Надежным - нет (весь трафик, в т.ч. пароли, передается открытым текстом), универсальным - да. Надежным (при грамотной настройке) и универсальным (хотя, бывают исключения) является ssh.

Верно ли понимаю, что подход не меняется, если я хочу построить беспроводную сеть высокой нагруженности (от 1000 пользователей) на оборудовании ubiquiti?

В случае использования оборудования от одного вендора имеет смысл обратить внимание на наличие у этого вендора подобных комплексных решений, в том числе решений для централизованного управления.

У меня небольшой опыт в этом, есть много вопросов - возможно вам будет удобно рассказать все подходы и подсказать литературу для чтения по почте?

К сожалению, я ни разу не создавал беспроводную сеть такого масштаба, поэтому не считаю себя вправе давать советы (ведь отвечать за потенциальную неудачу все равно вам). Скажу лишь, что на вашем месте я бы попытался:
1) обратиться к интеграторам (как вам уже пояснили), даже если вас не устроят их условия, в процессе диалога вы полнее поймете желаемые характеристики сети
2) самостоятельно прошить имеющиеся устройства OpenWRT (в целях единообразия) и реализовать желаемое в меньшем масштабе (но с всесторонним мониторингом, captive portal и прочая). Это также поможет выяснить, где у вас пробелы в понимании.

Какое у вас оборудование? Если роутеры, к примеру, MikroTik - то всё это прекрасно настраивается через их ОС.