IPSec - набор протоколов сетевого уровня, используется при организации VPN соединений.
OpenVPN - реализация технологии VPN.
SSH вообще протокол L7.
все они (и stunnel в том числе) умеют строить туннели - но не приложение-приложение, а ПК-ПК.
Исходя из вопроса "Задача - сделать зашифрованное соединение между клиентским и серверным приложениями."
я бы посоветовал обратить внимание на SSL(must die)/TLS.
