Существует ли возможность в iptables закрыть все порты только для определённой программы по её имени?

Закрыть в плане? Не дать программе открывать порты? Чтобы из вне к ней не могли подключиться? Или не дать подключиться к серверу из вне если используется данная программа. В обоих случаях да, это реально. Дополните вопрос, я попробую на него ответить чтобы было понятно.

Владимир Муковоз, Чтобы извне к ней не могли подключаться.

Если на интерфейсе и адресе процесс "захватил" порт то никто другой его "захватить" не сможет. До тех пор пока он его "не отпустит" или не "умрёт".
Поэтому нет смысла создавать правило iptables по имени программы или, как правильно сказал Владимир, по владельцу или группе от которых запущена программа. Достаточно просто заблокировать входящий порт.
Это довольно необычно чтобы один и тот же порт слушала то одна то другая программа.