На какой хук вешать условия перед установкой плагина WordPress?

Добрый.

Можете указать в readme.txt следующие строки:

Requires at least: МИНИМАЛЬНАЯ_ВЕРСИЯ_WP
Requires PHP: МИНИМАЛЬНАЯ_ВЕРСИЯ_PHP

WordPress сделает проверку перед активацией плагина. А если плагин в оф. каталоге, то выдаст предупреждение в результатах поиска плагинов.

Ещё можно указать до какой версии WordPress тестировали плагин
Tested up to: ДО_КАКОЙ_ВЕРСИИ_WP_ТЕСТИРОВАЛИ