Разработка сервера под игру, с чего начать?

Есть к примеру игра GTA SA я так понимаю сторонние разработчики сделали клиент

Не совсем так. Любая многопользовательская игра состоит из двух частей - клиентской и серверной, и они не работают друг без друга (бывают бессерверные игры, но и в таких случаях обычно один из клиентов становится сервером, так работает и в Doom/Quake/UT). В GTA и клиент, и сервер сделали Rockstar Games, а не отдельные разработчики. И даже - больше, Rockstar Games постарались сделать так, чтобы спрятать протокол взаимодействия - чтобы хакеры и крякеры не взламывали игру, получая игровые преимущества неигровыми способами. "Сделать сервер GTA", с которым заработает клиент GTA, не получится, по крайней мере, цена такой разработки будет сопоставима с ценой работы над GTA (которая стоила десятки миллионов долларов).

То, что может сторонний разработчик, это сделать моды для готового сервера, используя те инструменты, которые разработчик предложил, либо пытаясь "грабить" протокол взаимодействия. Моды бывают серверными и клиентскими, и возможны только в том случае, если у вас есть доступ к компьютеру, на котором запущен сервер и клиент (клиент у вас всегда есть, так и делают большинство модов).

К примеру сделать сервер майнкрафт не состовляет проблем.

Майнкрафт заметно проще, чем GTA. Хотя бы потому, что майнкрафт сделал один человек, а GTA сделали десятки программистов. И вот для майнкрафта можно сделать свой сервер,а не мод (хотя и моды к нему тоже есть). Как пример, отличная статья.

Скачал, настроил, запустил

"Скачал, настроил, запустил" - это не "разработка сервера", это взял то, что уже разработал кто-то.

P.S. Всё написанное - имхо. Я не любитель GTA и не знаю рынка неофициальных серверов GTA, только знаю, что такие есть (вроде как). Но лично я считаю, что вряд ли кто-то сможет написать сервер, если не будет либо его исходников (украсть), либо разработчики сделают инструменты для разработки модов.

Непосредственно реализацию MTA можете посмотреть на гитхабе. Там люди занимались реверсом, а потом прикрутили к этому скрипты на lua и получилось то, что получилось. Только зачем вам реверсить готовые игры, когда на той же юнити вы можете куда больше всякого сделать? samp и mta делались тогда, когда игровые движки имели колоссальный порог вхождения, сейчас же все их игровые моды реализуются чуть ли не проще "с нуля". Тоже самое и в minecraft, люди взяли, декомпилировали сервер и написали прослойку между пользовательскими плагинами и сервером, назвали bukkit.