Какое железо выбрать для веб-сервера ( nginx, php-fpm, mariaDB )?

Берите любой сервер минимальной конфигурации, но расширяемый. Всё равно 10к сразу не случится, а займет какое-то время, а дальше мониторьте нагрузку.

Купить Б/У HP DL360 G5..G7 на ebay. С 2x4 ядрами по 3 ГГц (это сильно оказывает влияние на производительность PHP), память можно уже здесь докупить (G5 поддерживает до 64 Гб, если прошить свежий биос и следовать мануалам при покупке памяти). Сервер получится купить тысяч за 5-20, доставка еще тысяч 20. По сравнению с тем, что можно купить в России за эти деньги получите самолёт. Диски можно купить НЕ HP, но серверные - экономия в 2 раза, обязательно 4 штуки. RAID controller обязательно родной. Диски собирать в RAID0+1 - не жадничайте с местом, у RAID0+1 наибольшая пропускная способность с наименьшими накладными расходами.
Если будете ставить CentOS - не забудьте отключить selinux - опять же, большие накладные расходы при установке каждого соединения.
Если у клиента денег куры не клюют - забудьте ebay, покупайте любого приличного вендора (HP, Lenovo) - не будете иметь проблем с гарантией и производительностью, только на процессоры AMD не ведитесь - PHP очень тупит на них. И вообще, как показала практика, для PHP критична именно тактовая частота, а не объем L1/L2 кеша.
Для MySQL - критичен объем ОЗУ в первую очередь. Потому очень желательно не меньше 32 Гб.
Ну и намекните клиенту, что ему надо не один, а два сервера - аварии исключить невозможно, можно только свести к минимуму их последствия.

P.S. 3 тысячи уников с PHPBB у меня тянет обычный десктоп на i3. Так что нагрузка у вас совершенно не космическая, не волнуйтесь.

история-одного-highloadа. Принимаем по 50-60К юников (170-200К хитов в сутки) и это не предел. Железо важнО, но важно также как настроено ПО сервера и написан код сайта. И чтоб сервак не тупил по максу надо кеши вынести в память. Даже если кеш пишется на диск, то пусть это будет рам-диск.