Организация сайта и серверов для видео и конвертации как это сделать?

Читайте про ffmpeg, сервера очередей (rabbitmq например), файловые хранилища (aws например), базы данных (mysql например), а так же серверные языки (php / python / golang / nodejs).
С помощью этих инструментов у вас есть возможность осуществить эту задумку. Обратите внимание на то, что конвертация видео - это трудоемкий и длительный процесс, так что вам нужно будет следить за тем, какой из серверов загружен сильно, какой нет. Ожидать что абстрактный сервер держит 5 потоков пересжатия не стоит, так нагрузка на прямую зависит от контента. 4к динамического видео с диким битрейтом и "как сохнет краска" в 720p будут нагружать сервера по разному.