Если вы отвечаете им статусом 444 - то эти запросы не должны ложить сервер. Ведь при ответе 444 запрос больше никуда на обработку не попадает (кроме Nginx-а), так?
Или сервер ложится из-за огромного кол-ва запросов? Тогда FILTER
[Definition]
failregex = ^<HOST> - - \S+ "POST /api/pay HTTP/\d\.\d" 444 0 "-"