Какая книга по Java будет наиболее эффективна не совсем новичку?

Смотря чего вы хотите. Чтобы прокачаться дальше в computer science, можно Седжвика "Алгоритмы на Java". Если какой-то конкретики типа веб-приложений, нужны уже конкретные книги по технологиям, Spring и т.п. Можно пойти на JavaRush порешать там задачи (это не реклама джавараша, я просто у них занимался и знаю что задач там реально много, устанете решать). Можно пойти на Udacity учиться там андроиду.

Шилдт - хорошая книга, но это по сути пересказ спецификации.

Еще стандартная книга для джавистов Thinking in Java/Философия Java, ее обязательно стоит почитать.