Что лучше изучать для понимания ОС?

В очередной раз попиарюсь: https://github.com/KolesnichenkoDS/from-junior-to-...
Смотрите разделы Assembly, C/C++, Computer Architecture, Operating Systems, Security.

Что же касается упомянутых Вами книг - я бы выбрал LFS, по крайней мере для начала, потому что специалисту по ИБ с работать Linux скорее всего придётся, а вот с MINIX... сами понимаете.

Ну и да, если хотите разбираться с Linux на уровне драйверов, могу посоветовать вот эту книжку (опять-таки из моего списка): The Linux Kernel Module Programming Guide. Но как мне кажется это логичнее читать уже после LFS.