Как заработать на javascript библиотеке?

Можно конечно, тебе сюда - codecanyon.net

Никак. Кто будет покупать ExtJS, если есть бесплатный Angular c ng-ui?
Написали хорошую библиотеку — развивайте, продвигайте, докажите всем, что она действительно нужная и полезная. Сможете выступать на конфах за денежку:)

как могу на ней заработать

Сделать ее действительно настолько крутой и нужной, чтобы просить за нее деньги.

Можно сделать, как тут dhtmlx.com
Есть урезанная версия с GPL-лицензией. Все проекты, использующие эту версию должны тоже быть GPL. Если хочется больше фич и другую лицензию - плати.
Только в приведённом примере действительно крутая и востребованная вещь, бесплатных аналогов которой нет. Если у тебя такая же ситуация - попробуй продавать, вдруг получится.

Спасибо всем! Как я понял, из более менее реального это codecanyon.net, но вот, я что-то не очень уверен в эффективности. Я сколько раз попадал на этот сайт, в процессах поиска решений, сразу его закрывал и вообще никакого желания покупать не было.

Как я понял, самый передовой вариант, это заниматься самопиаром параллельно с разработкой.