Как написать проверку лицензии?

Один из способов - выдать лицензию на домен, записать у себя этот домен и в движке записать функцию, которая будет обращаться к вашему сайту для проверки, есть текущий сайт в базе или нет.
Можно еще паучок свой написать, который будет ходить и искать сайты с вашим движком + проверять.

Насчет последнего вопроса:

Напишите у себя базу ключей, напишите процедуру регистрации - когда ИП+домен хостинга клиента привязывается к его ключу. При запросе на лицензию проверяете ключи и ип+домен: совпадает все хорошо, дублирующиеся Ключи к разным ИП+доменам - сервер отвечает что нет лицензии. Одну таблицу делать или несколько - это вам решать.

Как часто проверять лицензии тоже вам решать - по моему достаточно 1 раз в день, чтобы не долбить хостинг постоянно.