Как создавать платные плагины/темы и безопасно продавать их

Я не знаком ни с одной книгой на эту тему, но расскажу вам, что я видел как один из основателей рынок компонентов/плагинов, на котором есть много таких плагинов.

Есть несколько подходов -

1. Некоторые плагины вообще не требуют ключа API. Либо плагин доступен только после покупки, либо имеет некоторые ограничения на бесплатную загружаемую версию, что побуждает людей платить за коммерческую версию. Этот подход больше полагается на честность и низкую мотивацию людей пытаться взломать бесплатную версию в коммерческую, особенно если они не являются техническими пользователями (как многие пользователи CMS).
2. Настройте периодическую проверку вашего сервера. Для этого вам не нужен полноценный API, просто настройте конечную точку на своем сервере, чтобы подключаемый модуль мог отправлять ключ API и, в соответствии с ответом, разрешал использование подключаемого модуля. Нужно спланировать так, чтобы эта проверка не происходила при каждом запуске плагина, особенно если это плагин, который запускается на публичном сайте, а не только в панели администрирования - это серьезно ухудшит производительность сайт, использующий его, и создать ненужную нагрузку на ваш сервер. Используйте какую-либо проверку на основе времени - либо абсолютно, либо с момента последней проверки.
3. В дополнение к проверке API или вместо нее некоторые люди запутывают свой код, чтобы его было сложнее модифицировать и обойти проверку. Для этого часто требуется, чтобы на сервере был установлен модуль, который может анализировать запутанные файлы — это требование часто делает его менее жизнеспособным для большинства людей. Вы можете увидеть некоторые примеры обфускаторов в другом вопросе.

Лично я больше склоняюсь к первому варианту, так как кто-то достаточно решительный сломает любую защиту, которую вы установите (люди быстро ломают гораздо более сложные решения). Это одна из проблем доставки исходного кода вместо бинарных файлов (и они так же легко взламываются более опытными хакерами). Пусть те, кто хочет, платят, а остальные пусть делают, что хотят, все равно не получится создать что-то по-настоящему безопасное.