Я в своё время озадачился аналогичным вопросом, только требования были попроще - с картинками, но без форматирования текста. Перебрал несколько вариантов, понравился zim portable desktop в компании с менеджером буфера обмена ditto. Ношу его на переносном диске. Поработал на работе - накидал в него заметок, поработал дома - накидал в него заметок уже дома. Внутри текстовый формат, похожий на markdown, можно экспортировать "наружу" в разных форматах. Например, на работе делаю экспорт документации в html для проектов.
Может "поглощать" любые файлы и хранит их как вложения. Но показывать может только картинки. Остальные открывает сторонними приложениями при создании внутри документа ссылки на него, например, видео:
Прикольно то, что он кроссплатформенный. Теги есть, ui на мой взгляд ничего. Написан на python, если очень хочется, то можете скачать его исходники и дописать что понравится. Это бесплатный opensource.
