Почему плагин jscrollpane не работает во всплывающих окнах?

Ну тут все просто, вы инициализируете плагин для элемента у которого стоит свойство display: none;. В связи с чем скрипт не может получить размеры блока. Для того чтобы jscrollpane заработал на таком элементе необходимо вызывать его с ключом autoReinitialise и поместите этот код в $(document).ready().
В итоге будет как-то так:

$(document).ready(function() {
    $('.scroll-pane').jScrollPane({
         autoReinitialise: true
    });
});