Как найти ближайший сервер к клиенту?

Тогда вам надо строить свой CDN. И как это организовать писали много раз. Это очень не просто, дорого и с огромным числом проблем.

А почему именно вам не подходит CDN?

Как мы можем определить лучший для клиента сервер?

Ну если вы все же не желаете использовать CDN, а хотите построить свое решение, то для начала нужно проанализировать где находятся ваши клиенты.
В африке, австралии, в сибири или на камчатке? И где их больше. Вряд ли они равномерно распределены по всей планете.
Зная это можно приблизительно подсчитать где выгоднее разместить сервера, и какой канал должен быть у серверов.
Узнавать где-кто находится по geoip, оно конечно не гарантированно, но для таких целей приемлемо.
Если нужно точнее - JS скрипт на странице который в фоновом режиме пробежится по списку ваших серверов и оценит качество канала.

1) из логов собрать все IP-адреса обращающихся клиентов
2) сгруппировать их по операторам (по номерам BGP AS) и по количеству запросов
3) купить хостинги как можно ближе к этим операторам (идеально - провайдер хостинга тот же самый, что и в первых позициях списка на шаге 2)
4) все тяжелое разложить по хостингам, а при открытии клиентом странички генерировать название серверов исходя из того, какой хостинг к нему ближе (типа dc01.example.com)
5) DNS разбалансировать по странам
6) если мало, построить свою инфраструктуру ака CDN с блекджеком и... ну вы поняли