Подскажите пожалуйста приложение, которое может просматривать TCP-пакеты какого-то определенного процесса

Первый вариант — найти порты и протоколы, используемые процессом, а затем натравить на них wireshark/tcpdump
Посмотреть порты процесса

sudo netstat -pan | grep <PID>

Второй вариант — используя strace

strace -p <PID> -f -e trace=network -s 10000

Для Windows есть Microsoft Network Monitor
Тут пример использования.

Можно так

iptables -A OUTPUT -m owner --gid-owner nflog -j CONNMARK --set-mark 1
iptables -A INPUT -m connmark --mark 1 -j NFLOG --nflog-group 30 
iptables -A OUTPUT -m connmark --mark 1 -j NFLOG --nflog-group 30 
sudo -g nflog /usr/bin/application
dumpcap -i nflog:30 -w uid-1000.pcap

Для Windows есть Local Network Monitor. Там можно выбирать процесс по PID или имени процесса.

wireshark?

возможно, что я и ошибаюсь.
однако на моей памяти для iptables есть как минимум:
— модуль, который позволяет отслеживать приложение, являющееся источником локального пакета;
— модуль, который позволяет метить (не путём добавления в пакеты инфы, а всего лишь в оперативной памяти) пакеты в соответствии с каким-либо произвольным критерием.
с мануалами, боюсь, помочь не могу.

Желательно под Linux (но можно ознакомиться и с windows версией).

С чем связан столь широкий разброс по ОС? Т.к. данная задача в этих системах решается по-разному