Система контроля входящего трафика на Windows?

Поставьте на вашу форточку линукс в виртуалке и прокиньте в нее сеть.

Из запорожца (венда домашняя, одна штука) лексус (линукс) или джип (венда серверная) просто так сделать нельзя.

https://www.cloudflare.com/ - удачи в изучении
при большом посещении(15 онлайна) то скорость ответа может повыситься до полсекунды.

под виндой netview как вариант.

но - как я узнаю эти IP, какие есть программы для мониторинга входящего трафика.

вопрос был про поведенческий фильтр, однако никто этого не понял.
Действительно, найти хороший и бесплатный поведенческий фильтр под винду - сейчас проблема.
1. Однако, есть схема "зеркалирования" порта на выделенную машину-арбитр для оценки трафика и "отбивки" сигнала блокировки/разблокировки на iptables на серверную машину (установка правил соединений).
Т.е. эта система будет выступать в роли "охранника" для Вашего сервера.
2. Если речь идёт ТОЛЬКО о OpenServer-портах, то можно настроить ту же систему на самой windows, мониторя лог обращений к web-серверу, анализируя его и прописав определенные правила, открывать или закрывать доступы.
3. Можно делать мониторинг на основе prepend_file=... через php.ini, чтобы наиболее удобно записывать все обращения и затем анализировать их.

Самый простой триггер:
1. IP не является из диапазона подсетей поисковых роботов (или одним из их IP)
И
2. IP не находится в Вашей стране
И
3. Запросы к первым 3-м разным страницам происходят с интервалом менее 3-х секунд =>можно сразу блокировать по выделенному диапазону сети провайдера перманентно (не забудьте про сервисы анализа web-страниц, которыми Вы возможно будете пользоваться - они должны быть в белом списке).