Что лучше для защиты сети: OpenWRT или pfSense?

А что, OpenWRT стал файрволлом?
pfSense, конечно.

Для домашнего использования никакого смысла нет.
'степень защиты' (что вы под этим понимаете кстати) будет определяться прежде всего настройками фаервола, а не тем, работает он на pf, или netfilter
Кнопка 'сделать хорошо для типового сценария' и там и там примерно одинаковая

Что круче - феррари или ламборджини? :)

Комбинировать смысла нет :)
OpenWRT - это "Linux для слабых устройств". Его шьют в зиллион самых разных соховских роутеров и точек доступа, превращая их в относительно полноценный линух. По крайней мере, netfilter там будет более-менее.
pfSense - FreeBSD-based роутер, у которого внутри pf. Если хотите похоливарить на тему Linux vs FreeBSD - почитайте обзоры того и того...

Ну то есть - два разных, примерно одинаковых по эффективности набора инструментов. А как Вы ими воспольузетесь - это уж Вам решать...

комбинировать их смысла нет это не фаироволы pfSense это шлюз да в нем есть функция фаервола OpenWRT это универсальная прошивка они обе супер