Как организовать кластер для ruby on rails приложения?

Я правильно понимаю amazon route 53 это отказоустойчивый облачный DNS сервер.
Что будет если Balancer умрет? или в таком случае и нужен сервис amazon route 53 который будет проверять доступность узла?

Route 53 - проверяет доступность узла, если 1-ый балансер не отвечает, будет произветена подмена IP адреса для Домена на 2-ой балансер, ttl - как раз определяет время кеширования DNS запроса на стороне клиента/днс посредников, тоесть через 5 минут вы уже получите ответ с новым IP адресом. Таким образом достигается отказоустойчивость для балансировщика.

Sergey Fadeev: подмена где будет произведена? в DNS записи? или речь про подмену адреса на самом балансере? Скорее всего на балансере, т.к. подмену IP адреса в DNS записи не сразу ретранслируется на остальные DNS серверы.

ip balancer1 - 1.2.3.4
ip balancer2 - 5.6.7.8
myruby.com -> A запись = 1.2.3.4
после отказа 1го балансера:
myruby.com -> A запись = 5.6.7.8

P.S. Время хранения кеша на днс серверах/клиентах вы определяете параметром ttl на том же route 53 сервисе.

Sergey Fadeev: получается сайт не будет доступен ~ 5 минут(dns ttl 5 min) после того как 5 минут пройдут клиент и DNS сервера перезапросят у route 53 IP адрес и он отдаст новый IP адрес. Верно?

Да именно так, до 5 минут.
Вы можете уменьшить ttl и до 30 сек, но тем самым вы рискуете получить необоснованную нагрузку на ДНС сервер, Best practice говорит что 5 минут самое оптимально время.

PS так же аналогичные сервисы есть у rackspace

А разве для 2 и 3 не каждому по одному( вы указали что нужно 2+ серверов) балансеру как минимум? получается что по 3 сервера на 2 и 3. или нет?

Балансировщик распределяет запросы между апп серверами, резервный балансировщик будет рапределять запросы между теми же апп серверами. (конфигурации балансировщиков должны быть идентичными)
Количество апп серверов определяете сами в зависимости от нагрузки, но минимум 2.
По мере роста нагрузки добавляете еще один апп сервер, и в настройка балансировщика добавляете его.