Почему нельзя заменить XEON другой линейкой процессоров?

Даташиты на процессора Intel есть в открытом доступе - берете и сравниваете. Навскидку - ну например, на ксеонах может быть до 18 ядер (36 логических процессоров, Карл!). С учетом того, что лицензируется в VmWare например физический корпус процессора безотносительно сколько у него ядер - выгоднее ставить один 4-8 ядерный ксеон чем четыре двухядерных i3. Серверные процессора рассчитаны на серверные задачи - в первую очередь на виртуализацию, они поддерживают совершенно безумные по меркам десктопов обьемы памяти - 128G RAM на сервере вещь совершенно обычная.
ООО "Три стола два стула" может разместить свою БД хоть на ноутбуке - все равно ничего не заметит. А вот когда, как совершенно верно заметил Fixid размер БД начинает считаться в терабайтах - вот тогда разница и всплывает.
Те, кто считает что в сервере главное - цена, никогда не берут серверное железо, потому что оно используется тогда, когда настает понимание того, во что обойдется потеря информации или хотя бы простой сервера...

Почему нельзя (не следует) держать, ну, например, сервер БД, на обычной машине с каким-нибудь i3?

Ну я не знаю почему. Это вы спросите у того кто вам такую фигню сказал.

В чем их преимущество с технической точки зрения?

Перед кем преимущество? О преимуществе можно говорить сравнивая конкретные модели. Откройте даташиты на процессоры на офсайте и сравните.

Добавлю ещё - достаточно важно:
Xeon E5 серии имеют 40 PCI Express линий вместо 20. Если нужно под Цель много высокоскоростного I/O - это необходимо.